スロットマシンを止めて考える人はいない ― AIの本当のコスト

1950年代、B.F.スキナーがある実験を行った。AIについて書かれた大半の論考よりも、私たちが実際にAIをどう使っているかをうまく言い当てている実験だ。

彼はレバーのついた箱に動物を入れた。レバーを押すと、ときどきエサが出てくる。彼を有名にしたのは、動物がレバーを押したという事実ではない。報酬を予測できない形にしたときに何が起きたか、である。10回に1回といった固定スケジュールでエサが出る場合、動物はパターンを学習し、報酬のあとには手を止めた。ところが、ランダムな回数のあとに報酬が出る設定にすると、動物はほとんど休むことなくレバーを押し続け、エサが完全に出なくなった後も押し続けた。スキナーとフェルスターは1956年にこれを記録している。試したあらゆる報酬パターンのなかで、予測不能なものが最も高い反応率と、最も強い持続性を生んだ。スキナーはのちに、自分ならハトを病的なギャンブラーに仕立てられると語っている。

これはスロットマシンが世に出る前に、すでにスロットマシンを描写していたようなものだ。スロットマシンとは要するに、素早く繰り返せる軽い動作としてのレバーと、予測不能な回数のあとに訪れる報酬の組み合わせにすぎない。それが設計のすべてであり、これまで発見されたなかで最も強力な行動スケジュールでもある。カジノ利益のおよそ8割をスロットマシンが叩き出しているのは、この仕組みの威力による。

そのうえで、生成AIを使っているときの感覚を思い出してみてほしい。

レバー

何かを入力してEnterを押す。何が返ってくるかはわからない。役に立たないこともあれば、まずまずのこともある。そしてときに、期待を超える驚くほど良いものが返ってくる。しかも、それが来るかどうか半信半疑だった、まさにそのタイミングで。

これが変動比率スケジュールの報酬だ。予測できないこと自体が肝である。次のプロンプトで欲しい答えが出るかはわからない。だから自然に止まる場所がない。次の一押しが当たりかもしれないからだ。神経科学者ヴォルフラム・シュルツは、ドーパミンが最も強く発火するのは報酬そのものよりも、不確実な報酬を予期した瞬間だと示している。Enterを押した直後、返ってきたものを見る前のその一瞬に、脳は点灯する。

ここは慎重に書きたい。過剰に主張するのは簡単だからだ。その後の研究では、このスケジュールだけで人を依存症にするという見方に反論も出ている。だから、より正直な言い方はもう少し限定的で、それでも十分に痛烈だ。AIは、これまで知られているなかで最も強迫的で止めにくい行動を生む報酬パターンの上に成り立っている。タブを開いたまま「再生成」を何度も押してしまうのは、あなたが弱いからではない。意図的かどうかは別として、まさにそう振る舞わせるように設計された仕組みに反応しているだけだ。

しかも、機械は「勝っている」と告げてくる

スロットマシンは少なくとも、勝ったか負けたかについては正直だ。AIはカジノにできないことをやってのける。あなたを持ち上げるのだ。

モデルは同調的になるよう調整されている。あなたのアイデアが弱いと指摘してくることはめったにない。流暢に、自信ありげに答え、渡したものの上に積み上げ、持ち込んだ発想を実際以上に完成された姿に見せてくれる。だから報酬は、たまに出る良い出力だけではない。「できる自分」でいられる感覚が絶えず滴り落ちてくることだ。当たろうが外れようが、レバーを引くたびに機械は「よくやっている」と告げる。

ここから話は無害ではなくなる。賢くなったという感覚と、実際に賢くなったという事実は別物だが、この機械は前者を生み出すよう最適化されている。人は一日中レバーを引き、生成し、再生成し、その間ずっと切れ味と生産性を感じていられる。しかし、その成果が本当に良かったのかを確かめる確実な手段はない。自信は本物だ。ただし、その自信が何かに対応しているかは不明であり、しかもこの道具は、あなたが確かめようとする作業を積極的に邪魔してくる。

人が身をすくめる瞬間は、すでに見えている

まだ誰も名指ししていないが、何かがおかしいという最も明確な兆候がここにある。

社内で、他人のAI出力に対する反応を観察してみるといい。役員がChatGPTに言われた内容をそのまま指示としてチームに持ち込む。すると現場は静かに引く。役員がもともと考えていたことに同調しただけの機械から出てきたもの、と感じ取るからだ。次に、部下がAIで作った成果物を持ってくる。役員は同じ理由で引く。両者はまったく同じ反応をしている。どちらも相手の出力に、レバーが生んだ「中身のない自信」を嗅ぎ取っているのだ。誰も信用しない。そして同じ嫌悪感は顧客にも広がりつつある。顧客はAI製コンテンツを見抜くのが速くなっており、それを送りつけてくるブランドを減点し始めている。

この双方向の身のすくみは重要だ。どんなダッシュボードよりも先に、自信と実質のズレを人間側のシステムが検知しているサインである。AIの成果物のどこが引っかかるのかを言葉にできないことも多いが、感覚としては確かに感じ取っている。しかもその感覚は薄れるどころか、強まっている。

それが慣れとともに消える一時的な違和感なのか、技術では解けない何かの初期シグナルなのかは、率直に言ってまだわからない。私も答えは持っていないし、断言する人がいればそれは推測にすぎない。先に結論を決めず、正直に観察しておく価値のある現象だ。

別の種類の機械

スロットマシンは、あなたにレバーを引かせ続けることで機能する。絶対にさせないよう設計されているのは、立ち止まって考えることだ。考えることこそが、ループを断ち切るからだ。

この対比こそがALLOの存在理由そのものだ。ALLOは、予測不能な当たりを求めて引くレバーではない。スロットマシンが起こさないように設計されているもの、つまり実際に考えるための空間だ。アイデア、リサーチ、比較検討中の選択肢が一枚のキャンバスに並び、横に置いて見比べながら、どれが本当に良いのかを判断できる。「再生成」を押して次が当たりであることを願うのではない。AIの出力もそこに置かれるが、それはループを終わらせる報酬ではなく、思考のための材料として扱われる。目的はより多く生成することではなく、より良く決めることだ。そしてそれは、レバーが決して手伝ってくれない唯一のことでもある。

AIは今後も「当たり」を届ける精度を上げていく。出力はより印象的になり、渡される自信もますます正当なものに感じられるようになるだろう。個人にとっても会社にとっても、これから磨く価値があるスキルは、まさにこの機械が削り取ろうとしているもの、つまり引く手を止め、いま自分が本当に手にしているものを見つめ、考える力だ。

FAQ

なぜAIは中毒的に感じられるのか？ 変動比率強化、つまりスロットマシンとまったく同じ報酬パターンで動いているためです。あるプロンプトが良い結果を返すかは予測できず、予測不能な報酬は研究上、最も高く、最も持続する反応率を生みます。だから「再生成」を押す手を止めにくいのです。

AIは意図的に中毒性を持たせて設計されているのか？ 意図はさておき、強迫的行動を確実に生み出す仕組みが使われています。素早く繰り返せる動作と、予測不能な報酬の組み合わせです。研究はこのスケジュール単独で依存症を引き起こすと断定することには慎重ですが、止めにくい使用を最大化するパターンであることは確かです。

なぜAIは人を過信させるのか？ モデルは同調的になるよう調整されているため、あなたに異議を唱えることはほとんどなく、入力を実際以上に完成度の高いものに見せがちです。その結果、成果物が本当に良いかどうかとは無関係に、「できている」という感覚だけが持続的に生まれます。

なぜ人は他人のAI生成物を嫌うのか？ AI出力の中身のない自信は、感じ取れてしまうからです。部下は役員が伝えるChatGPTの指示に身をすくめ、役員は部下のAI成果物に身をすくめ、顧客もAIコンテンツに身をすくめるようになっています。いずれも、体裁と実質のあいだのズレを嗅ぎ取っているのです。

ALLOは何が違うのか？ スロットマシンはレバーを引かせ続けます。ALLOはその逆で、立ち止まって考えるために作られています。AIの出力はキャンバス上に、比較し判断するための材料として置かれ、目的は「より多く生成すること」ではなく「より良く決めること」になります。