AIは、人間を賢くする機械だと思われている。
僕は、少し違うと思っている。
AIは、時短マシンだ。
ほとんどの場合、AIは数分で答えを返してくれる。
人間なら、調べる。比べる。考える。整理する。
場合によっては数時間、数日、あるいはもっと長い時間をかけて辿り着くところまで、AIは一気に進んでしまう。
先日、ある集まりの17か月分の参加者名簿を、AIと一緒に眺めていた。
僕には、いくつか気になっていることがあった。
誰が残っているのか。
誰が来なくなったのか。
そこにいる人たちは、本当にその場所そのものを市場として見ているのだろうか。
あるいは、その人の向こう側に、別の市場があるのではないか。
そんなことを話しているうちに、AIは名簿を単なる参加者一覧ではなく、時系列のデータとして捉え直した。
人物ごとの初参加、最終参加、参加頻度、定着、離脱、復帰。
さらに、それを事業の種類や、その人が持っている人間関係、市場との接続性と重ねて見る。
提示された構造を見たとき、僕は少し驚いた。
自分でも、時間をかければそこへ辿り着いたかもしれない。
けれど少なくとも、その瞬間の僕よりAIの方がずっと先にいた。
そしてそのとき、以前から自分なりに考えていたことが、目の前で起きているのを見た。
どれほど高度な答えが目の前に現れても、
それを理解できなければ、その答えは自分のものにはならない。
これは、AIだけの問題ではない。
人と人の会話でも同じだと思う。
誰かが少し先のことを話したとき、それを受け取る側が咀嚼できれば、次の会話はそこから始まる。
けれど、受け取れなければ、会話はもう一度、二人が共有できるところまで戻っていく。
難しい答えに出会ったとき、人は二つのことができる。
自分の理解をそこまで引き上げようとするか。
あるいは、答えの方を、自分が理解できるところまで単純にするか。
考えてみれば、人間はずっとそうやって世界と付き合ってきたのかもしれない。
ふと、物理学のことを思った。
宇宙は、人間が理解しやすいようにはできていない。
星も、重力も、時間も、量子も、人間の都合とは関係なく存在している。
自然は、僕たちが数式にできる範囲に合わせて振る舞っているわけではない。
だから人間は、そのままでは扱えない自然を切り分ける。
条件を限定する。
影響の小さなものを無視する。
変数を減らす。
近似する。
そして、モデルや数式の中に写し取る。
もちろん、それは単に現実を雑に削っているということではない。
優れた理論とは、むしろ、
何を捨てても、本質が残るのかを見つけたもの
なのだと思う。
わずかな数式で、驚くほど多くの現象を説明できることがある。
それでも、そこにある自然そのものと、人間が理解した自然との間には、どこかに境界がある。
僕たちは宇宙そのものを理解しているのではなく、
人間が理解できるところまで写し取られた宇宙を、理解している。
そう考えると、少し不思議な気持ちになる。
僕たちは世界を見ているつもりで、実は、自分たちが見ることのできる範囲の世界を見ているだけなのかもしれない。
そこには、人間と宇宙、あるいは大自然とのあいだにある、ひとつの閾値がある。
人間が咀嚼できる複雑さの限界だ。
そして、この構造は自然科学だけのものでもないように思う。
民主主義も、どこか似ている。
どれほど優れたリーダーがいたとしても、その考えを社会の多くが理解できなければ、そのままの形では社会を動かせない。
複雑な思想は説明される。
政策になる。
言葉が選ばれる。
時には、短いスローガンにまで圧縮される。
優れた考えであっても、それが社会の中で働くためには、社会が共有できるところまで翻訳されなければならない。
民主主義とは、最も優れた一人の理解水準で社会を動かす仕組みではない。
社会が共有できる咀嚼値まで、複雑なものを変換しながら意思決定していく仕組みでもある。
もちろん、これは単純に「低い方へ水準を合わせる」という話ではない。
社会には専門家がいる。
研究者がいる。
行政があり、議会があり、司法がある。
複雑なものを複雑なまま扱う人たちと、それを社会が扱える言葉へ翻訳する人たちがいる。
人間は、複雑さをただ捨てるのではなく、階層に分けることで社会を成立させてきた。
それでも最後には、誰かが理解し、誰かが判断しなければならない。
ここで、またAIの話に戻ってくる。
AIはいま、人間がその内部を完全には説明しきれないほど複雑になりつつある。
そして、たとえAIが人間よりはるかに高度な答えを導き出したとしても、その答えに至る過程を人間が咀嚼できなければ、僕たちは結局、それを自分たちが理解できるところまで単純化しようとするだろう。
それは、AIの能力が足りないからではない。
人間の側に、理解できる複雑さの限界があるからだ。
AIがどれほど遠くまで考えられるようになっても、人間が受け取れるのは、人間が理解できるところまで戻された説明なのかもしれない。
だから今、AIの内部を理解しようとする研究や、AIの振る舞いを評価しようとする試みが続いている。
内部で何が起きているのか。
どんな条件で間違えるのか。
どこまで信頼してよいのか。
中を調べ、外から試し、測り、分析する。
それを見ていると、少し、自然を相手にしてきた人間の姿に似ていると思う。
直接には理解できないものに測定器を向け、特性を調べ、境界を知ろうとする。
完全には理解できなくても、どこまで扱えるのかを確かめる。
けれど、ここでひとつ問題が残る。
その評価結果を、最後に誰が判断するのか。
結局、また人間に戻ってくる。
そして僕たちは、おそらく、そのことを直感的に知っている。
だからこそ、AIが人間をコントロールする未来を怖がるのではないだろうか。
AIが悪意を持つから、というだけではない。
もっと根の深い恐怖だと思う。
自分より速く、自分より多くの情報を扱い、自分では完全には理解できない何かに、
いつの間にか、判断そのものを預けてしまうのではないか。
その怖さだ。
AIは時間を短くしてくれる。
でも、時間を短くすることと、考えることを手放すことは、外から見ると少し似ている。
10時間かかっていたかもしれない思考を、AIとの対話でたった7分で進めることと、
本来考えるべきことを、
「AIがそう言ったから」
の10秒で終わらせることは、まったく違う。
僕にとって、AIとの関係は、リーダーと専門家チームの関係に近い。
優れたリーダーが、すべての専門家より詳しい必要はない。
自分より詳しい人に問いを投げ、答えを聞き、異なる意見をつなぎ、自分なりに咀嚼する。
そして最後に、決める。
専門家は、リーダーよりはるかに高度なことを知っていていい。
むしろ、その方がいい。
けれど、専門家の答えをそのまま採用することと、専門家の知見を使って判断することは違う。
AIも同じだと思っている。
AIに答えを出させる。
それを僕が咀嚼する。
違うと思えば返す。
もう少し先が見えそうなら、さらに問いを投げる。
そうやって一緒に考える。
そして最後に世に出すものについては、僕が決める。
僕が責任を持つ。
AIは、僕の代わりに考える装置ではない。
僕が考えるための時間を、取り戻してくれる装置なのだと思う。
人間は、昔から理解できないものと向き合ってきた。
宇宙に対しても。
自然に対しても。
社会に対しても。
そして今、AIに対しても。
理解できないものを、理解できるところまで写し取る。
それでも足りなければ、もう少し近づこうとする。
たぶん、その繰り返しなのだろう。
AIは、僕たちより遠くまで考えるようになるかもしれない。
それでも、人間が世界として持てるのは、自分が理解できたところまでなのかもしれない。
だから僕たちは、理解しようとする。
宇宙に対しても。
AIに対しても。
そして、たぶん自分自身に対しても。
English
How Do We Use What We Cannot Understand?
AI is often described as a machine that makes humans smarter.
I see it a little differently.
AI is a machine for saving time.
Most of the time, it can return an answer within minutes.
A human would have to search, compare, think, and organize. Sometimes it might take hours, days, or even longer to reach a point that AI can reach almost immediately.
Recently, I was looking through seventeen months of participant lists from a certain group together with AI.
There were a few things I had been wondering about.
Who was still there?
Who had stopped coming?
Were the people in that group really looking at the group itself as a market?
Or was there another market beyond each person, connected through them?
As we talked, AI stopped treating the lists as simple rosters and began to see them as time-series data.
First appearance. Last appearance. Frequency of attendance. Retention. Departure. Return.
Then it began connecting those patterns with the type of business each person was in, the relationships they held, and how they might connect to other markets.
When I saw the structure it presented, I was a little surprised.
Given enough time, I might have arrived there myself.
But at least in that moment, AI was far ahead of me.
And then I saw something happening in front of me that I had already been thinking about for some time.
No matter how advanced an answer may be,
if I cannot understand it, the answer never really becomes mine.
This is not a problem unique to AI.
I think the same thing happens between people.
When someone says something a little further ahead, and the other person can digest it, the next conversation can begin from there.
If they cannot, the conversation has to return to a place both people can share.
When we encounter a difficult answer, there are two things we can do.
We can try to raise our own understanding until we reach it.
Or we can simplify the answer until it reaches us.
Thinking about it this way, perhaps humans have always dealt with the world in much the same way.
I found myself thinking about physics.
The universe was not made to be easy for humans to understand.
Stars, gravity, time, quantum phenomena—they exist regardless of what is convenient for us.
Nature does not behave according to the limits of what we are able to express in equations.
So we divide nature into pieces we can handle.
We define conditions.
We ignore effects that are small enough.
We reduce variables.
We approximate.
And then we map what remains into models and equations.
Of course, that does not mean simply cutting reality down carelessly.
A good theory, I think, does something much more difficult.
It discovers
what can be left out without losing what matters.
A surprisingly small number of equations can sometimes explain an enormous range of phenomena.
And yet there is still some boundary between nature itself and the nature we understand.
We do not understand the universe itself.
We understand a version of the universe that has been mapped into a form humans can understand.
When I think about that, I feel something slightly strange.
We believe we are looking at the world, but perhaps we are really looking only at the part of the world that we are capable of seeing.
Somewhere between human beings and the universe—or nature itself—there is a threshold.
A limit to the complexity we can digest.
And I do not think this structure belongs only to science.
Democracy, in a way, seems similar.
No matter how capable a leader may be, if most of society cannot understand an idea, that idea cannot move society in its original form.
Complex ideas are explained.
They become policy.
Words are chosen.
Sometimes they are compressed all the way down into a short slogan.
Even an excellent idea has to be translated into something society can share before it can function within society.
Democracy is not a system in which society operates at the level of understanding of its most capable individual.
It is also a system in which complexity is continuously translated into
a level that society can collectively digest and use to make decisions.
Of course, that does not simply mean lowering everything to the lowest common level.
Society has specialists.
Researchers.
Administrations, legislatures, and courts.
Some people work with complexity in its fuller form, while others translate it into language that a wider society can use.
Humans have not survived by simply throwing complexity away.
We have learned to distribute it across layers.
Even so, in the end, someone still has to understand something.
And someone still has to decide.
Which brings me back to AI.
AI is becoming complex enough that humans can no longer fully explain everything happening inside it.
And even if AI were able to produce answers far beyond human capability, if we could not digest the process by which those answers were reached, we would probably try to simplify them until they returned to a level we could understand.
That would not be because AI had reached its limit.
It would be because
humans have a limit to the complexity they can understand.
No matter how far AI may eventually be able to think, what reaches us may still have to be brought back into a form that humans can understand.
That is why researchers are trying to understand what happens inside AI systems and to evaluate how they behave.
What is happening inside?
Under what conditions do they fail?
How far can we trust them?
We inspect the inside, test from the outside, measure, and analyze.
Watching that, I sometimes think it resembles the way humans have always approached nature.
We point instruments at things we cannot directly understand.
We study their properties.
We try to find their boundaries.
Even when complete understanding is impossible, we try to learn how far they can safely be used.
But one question remains.
Who makes the final judgment about the results of those evaluations?
In the end, we return to human beings again.
And perhaps we already know this intuitively.
Maybe that is part of why we fear a future in which AI controls humanity.
Not simply because AI might become malicious.
I think the fear runs deeper than that.
It is the fear that we may gradually hand over judgment itself to something that is faster than us, can process more information than us, and that we cannot fully understand.
AI can shorten time.
But from the outside, shortening the time required to think can look surprisingly similar to giving up thinking altogether.
Using AI in a dialogue to advance in just 7 minutes through a line of thought that might otherwise have taken 10 hours is very different from ending a question that deserves thought in 10 seconds simply because:
“AI said so.”
To me, the relationship between a human and AI is closer to the relationship between a leader and a team of specialists.
A good leader does not need to know more than every specialist.
A leader can ask questions of people who know far more, listen to their answers, connect different perspectives, and digest them in their own way.
And then, finally, decide.
Specialists can know things far beyond the leader’s expertise.
They should.
But accepting a specialist’s answer as-is is not the same as using specialist knowledge to make a judgment of your own.
I think the same is true of AI.
I ask AI for an answer.
I digest it.
If something feels wrong, I send it back.
If I sense that there may be something further ahead, I ask another question.
That is how we think together.
And when something is finally put into the world, I decide what goes out.
I take responsibility for it.
AI is not a machine that thinks instead of me.
It is a machine that gives me back more time to think.
Human beings have always faced things they could not fully understand.
The universe.
Nature.
Society.
And now, AI.
We map what we cannot understand into forms that we can.
And when that is still not enough, we try to move a little closer.
Perhaps that is what we have always done.
AI may eventually be able to think much further than we can.
Even then, the world we can truly hold as our own may extend only as far as what we ourselves can understand.
And so we keep trying to understand.
The universe.
AI.
And perhaps, in the end,
ourselves.