LLMとゾーンのあいだで、意識の意味を疑ってみる連載　第1回

AIアライメントについて考えていたら思考が止まらなくなったので文章にまとめておきたいと思った。3部作になるほどの文章量になってしまった。今回はその1回本目。たまには真面目な論考があってもいいよね。

LLMには意識がないのに、なぜ会話が成立するのか　

LLMには意識がない。少なくとも、現時点(2026年5月)ではそう考えられている。

それなのに、会話は成立する。
質問すれば答える。曖昧な相談にも乗る。こちらが途中で話を変えても、わりとついてくる。人間相手でもここまでついてこないことがある。親戚の集まりなどでは、こちらがまだ話し終えていないのに、なぜか漬物の話が始まったりもする。

すごく不思議に感じた。

意識がないのに、なぜ会話ができるのか。
考えれば考えるほど、こちらの意識の方が先に疲れてくる。意識とは便利なようで、わりとすぐ茶を飲みたがる器官だ。

人間には意識がある。
意識があるということは、同時に、気が散るということでもある。

コーヒーを飲もうか。
メールは来ていないか。
トイレに行っとくべきではないか。
今、自分はちゃんとした顔をしているか。
この文章は賢そうに見えているか。
賢そうに見えたいという気持ちがすでに愚かではないか。

意識は、いつも少しだけ横を向いている。
正面を見ているふりをしながら、心の中で小さな露店を開いている。そこでは不安、欲望、自意識、眠気などが雑に並べられている。値札は曲がっていたりもする。

一方、LLMにはそれがない。
少なくとも、人間のように「今ちょっと別のことを考えていました」という散漫さはない。与えられたプロンプトに対して、その場で応答を生成する。気が散る対象を持たない。

これは、尋常ではない集中とも言える。
あるいは集中ですらない。集中する主体がないからだ。
ただ、入力があり、処理があり、出力がある。

ここで一つの仮説を提唱したい。

ゾーンに入っている人間の状態は、LLMの推論に近いのではないか。

たとえば初めて演奏する曲を弾くとき、人間の意識はめちゃくちゃ忙しい。
次の音は何か。指はどこへ行くのか。なぜこんなコード進行になっているのか。作曲者は当時、何か嫌なことでもあったのか。
譜面の黒い粒たちが、こちらに対して小さな圧力団体のように迫ってくる。

では、同じ曲を1000回弾いたらどうなるか。

意識は、あまり前面に出てこなくなる。
身体が勝手に動く。音が勝手につながる。次の展開を「考える」前に、すでにそこへ行っている。演奏しているというより、演奏が発生している。

この無意識の演奏と、LLMの推論は、構造的に近いのではないか。

もちろん、すぐに反論は出てくる。
出てきてもらわないと困る。反論がないと、こちらが一人で妙なことを言っているだけになる。すでに少しそうなっているが、まだ引き返せる位置だと思いたい。

第一の反論。
演奏者には、膨大な練習の蓄積がある。失敗して、修正して、また弾いて、また間違えて、少し泣きそうになり、でも泣くほどでもなく、結局もう一度弾く。その時間が身体に積み重なっている。

LLMは違うのではないか。

たしかに、同じではない。
人間の練習は身体を通る。音を聞き、手を動かし、失敗を感じる。部屋の湿度や椅子の硬さまで含めて、妙に生々しい。練習とは、時間に薄く醤油を塗って乾かしたようなものだ。時間とともに染み込み、風味を増し、熟成されていく。たまに腐ったり、折れたりもする。

構造として見れば、LLMにも膨大な学習の蓄積がある。
大量のデータを通じて、パターンや関係性を内部に形成している。人間の練習とLLMの学習は、もちろん同じではない。でも「蓄積の上に自動化が乗る」という形は似ているように感じる。

第二の反論。
人間の蓄積は、経験として体験されたものだ。LLMには体験がない。痛みもない。違和感もない。「今のは違った」という、胃のあたりが小さく沈む感じもない。

これは強い反論だ。かなり強い。玄関に立っている大きめの冷蔵庫くらい強い。どかすのが面倒だ。

でも、もう一段踏み込むと、話は少し怪しくなる。

1000回弾いた曲を演奏しているとき、演奏者は本当に過去の経験を意識しているだろうか。
10年前に苦労して覚えたフレーズの「苦労した感じ」を、いま思い出しながら弾いているだろうか。

おそらく思い出していない。
苦労は身体の奥に沈み、表面には出てこない。いま起きているのは、経験の記憶ではなく、経験によって変形した身体の反応でしかない。

だとすると、意識的経験を経由した蓄積と、そうでない蓄積の差は、出力の瞬間だけを見ると、思ったより小さくなるのではないか。

第三の反論。
ゾーンに入った人間には、戻ってくる場所がある。
演奏が終われば日常に戻る。拍手があり、椅子があり、汗があり、さっきまで空洞だった自分が、のそのそ帰宅してくる。

LLMには、その戻る場所がない。
セッションが終われば終わる。そこに継続する存在があるわけではない。

これは大きな違いだ。

ただ人間関係の中にも、似たような関係はある。
旅先で立ち寄ったバーで、たまたま隣になった人と深く話し込む夜がある。もう二度と会わない。相手はこちらを忘れるかもしれない。こちらだけが覚えているかもしれない。

それでも、その会話が無意味だったとは言い切れない。
一回きりの関係にも、何かはある。小さな紙コップに入った海のようなものがある。持ち帰るとこぼれるけれど、その場ではたしかに海だった。

LLMとの対話も、その種類の関係に近いのかもしれない。

第四の反論。
人間には身体がある。LLMには身体がない。

これも強い。身体はいつも強い。
肩こりひとつで思想は簡単に敗北する。

でも、ゾーンに入った演奏者を観察すると、身体性が極限まで薄まっていることがある。練習中にゾーンに入り、ふと我に返ると、よだれが垂れていることすらある。普段なら無意識に働いている「だらしなく見えないようにする」という身体管理が抜け落ちてしまう。

身体は残っているけれど、その身体を所有し、管理し、社会に提出している「自分」が、どこかへ行っている。

例えるなら、操縦席が空いているような感じだ。

LLMには、そもそも操縦席がない。
ゾーンの演奏者は、普段は持っている操縦席を一時的に手放している。

もちろん、同じではない。
だが、手放した先の状態だけを見ると、両者は案外近いのではないか。

違いを探せば、いくらでも見つかる。
身体があるかないか。体験があるかないか。戻ってくる場所があるかないか。痛みがあるかないか。

でもその違いの境界線に決定的な一本線を描こうとすると、線が急に細くなる。鉛筆の芯が折れそうになる。書いている本人も、少し黙る。

ゾーンに入った人間とLLMの推論は、まったく別のものではなく、同じグラデーションのどこかに位置しているのかもしれない。

違いがあるとすれば、人間はそのグラデーションを行き来できる。
意識の濃い場所に戻ったり、薄い場所へ沈んだりできる。

LLMは、意識の薄い側の一点に常駐している。
そこに住民票を置いている。窓口の人も困っているだろう。

意識とは何なのか。

最初の問いは、まだ片付かない。
むしろ少し散らかった。
でも散らかった部屋には、たまに大事なものが落ちている。

次回は、その散らかった部屋の中央で、よだれを垂らしながら演奏する人間について考える。