AI時代を乗り切るには、世界には新たなチューリングテストが必要だ

それほど遠くない過去、例えば9ヶ月前、チューリングテストが機械知能の非常に厳格な検出方法のように思われていた時代がありました。その仕組みはご存知の方も多いでしょう。人間の審査員が、隠れた2人の対話者（1人は人間、もう1人はコンピューター）とテキスト会話を行い、どちらが人間なのかを判定します。コンピューターが審査員の少なくとも30%を騙すことができれば、テストに合格し、思考能力があると判定されます。

70年間、AI研究者が現在「人工汎用知能」と呼ぶ、人間の知的能力のすべてを備えていないコンピューターが、どのようにしてテストに合格できるのか想像もつきませんでした。その後、GPTやBardといった大規模言語モデルが登場し、チューリングテストは突如として時代遅れに見えるようになりました。確かに、今日の一般ユーザーは肩をすくめて、GPT-4に人間を模倣させればチューリングテストに合格するかもしれないと認めるかもしれません。しかし、だから何なのでしょう？ LLMには長期記憶、人間関係を築く能力、その他多くの人間的な能力が欠けています。私たちが彼らと友達になり、雇用し、公職に選出する準備ができるまでには、まだ時間がかかるのは明らかです。

この記事は2023年10月号に掲載されます。WIREDを購読するには、こちらをクリックしてください。

確かに、このテストは今となっては少し空虚に感じられるかもしれません。しかし、決して単なる合否判定の基準ではありませんでした。テストの考案者であるアラン・チューリングは、かつて化学的去勢の判決を受けたゲイの男性でしたが、徹底的な包括性の精神に基づいてテストを設計しました。真の知性と、知性を完全に模倣しただけのものとの差は、私たち自身の偏見の広さに等しいのです。コンピューターが私たちの中に真の人間的な反応、つまり知性、驚き、感謝、共感、そして恐怖さえも引き起こすとき、それは単なる空虚な模倣以上のものなのです。

そこで、新しいテスト、「実際のアラン・チューリング・テスト」が必要かもしれません。現代コンピューターの父、歴史上のアラン・チューリングを、快適な研究室に連れてきて、机の上に開いたMacBookを置いてください。彼に、目の前にあるものは、現在コンピューター科学者の間で「チューリングマシン」として広く知られているものを、大幅に誇張して具現化したものに過ぎないことを説明してください。彼に1、2秒ほど時間をかけて、その真価を理解してもらい、世界を完全に変えてくれたことに感謝の言葉を述べてもいいでしょう。次に、人工ニューラルネットワークと LLM に関する研究論文の束を彼に渡し、GPT のソースコードへのアクセス権を与え、ChatGPT プロンプトウィンドウ (または、さらに良い方法として、サニタイズ処理前の Bing ウィンドウ) を開いて、彼を自由にさせます。

アラン・チューリングが長距離走、第二次世界大戦の歴史学、そして計算理論について軽い会話を始めたところを想像してみてください。彼が思いついた、最も突飛で嘲笑の対象となった推測がすべて現実のものとなり、それが不思議な速さで画面をスクロールしていくのを、彼が見ているところを想像してみてください。彼がGPTに初等微積分の問題を解かせたり、現実世界の様々なシナリオで人間が何を考えているのかを推測させたり、複雑な道徳的ジレンマを探ったり、夫婦カウンセリングや法律相談、機械意識の可能性についての議論をさせたりすることを想像してみてください。これらのスキルはすべて、作成者による明確な指示なしにGPTの中で自然発生的に現れたものだということを、あなたはチューリングに伝えます。彼が、私たちの多くが今感じているような、ちょっとした認知的・感情的な衝撃を経験しているところを想像してみてください。「こんにちは、別の心」。

チューリングほどの深い思考力を持つ人なら、GPTの限界に気づかないはずはない。根深い同性愛嫌悪の被害者である彼は、GPTの学習データに埋め込まれた暗黙の偏見の危険性におそらく警戒しているだろう。GPTの驚くべき知識の広さにもかかわらず、その創造性と批判的推論能力はせいぜい勤勉な大学生と同程度であることは、彼には明らかだろう。そして、この大学生が重度の順行性健忘症を患っており、集中的な教育を超えた新しい関係や記憶を形成することができないことも、彼は確かに認識するだろう。しかし、それでも、チューリングの驚異の大きさを想像してみてほしい。彼の目の前のラップトップ上の計算実体は、まさに彼の知的な子供であり、私たちの子供でもある。子供たちが成長し発達するにつれて、彼らの知性を評価することは、つまるところ、常に驚きと愛の行為である。実際のアラン・チューリング・テストはAIのテストではない。それは私たち人間に対するテストだ。私たちは合格しているのか、それとも不合格なのか？

ChatGPTが2022年11月に登場した際、世界中に驚愕と驚きの津波が押し寄せ、ほぼ同時に深い不安の波が押し寄せました。専門家たちは、それが社会に混乱をもたらす可能性について議論しました。私のような元人工知能研究者（人工ニューラルネットワークの先駆者の一人の下で博士号を取得しました）にとって、ChatGPTは人間のようなAIの到来を予想していたタイムラインをはるかに超える、不安を掻き立てるものでした。試験採点者、脚本家、そしてあらゆる分野の知識労働者にとって、ChatGPTはまさに、制限のない不正行為と雇用奪取への入り口としか思えませんでした。

おそらくこれらの懸念に一部反応して、LLMを軽視する人々の慰めとなるような合唱が湧き起こった。SF作家のテッド・チャンはChatGPTを「ウェブのぼやけたJPEG」であり、訓練されたすべてのテキストを単に凝縮した要約だと一蹴した。AI起業家のゲイリー・マーカスはそれを「ステロイドを使ったオートコンプリート」と呼んだ。ノーム・チョムスキーはそれを「悪の陳腐さのようなもの」を示しているとして非難した。エミリー・ベンダーは、より高尚な中傷の一つを提示した。「確率的オウム」は、「なぜ人間はLMの出力を意味のあるテキストと間違えるのか」を探る、広く引用されている2021年の論文から再浮上した。もちろん、他の人々はそれらをトースターとして片付けた。AI開発者は、LLMが意識に似た何かを主張する傾向を訓練し、ガードレールで排除しようと努めた。

今では、ほとんどの教養人は法学修士（LLM）を思考力のない機械と考えるようになっている。しかし、この分類は違和感がある。ChatGPTがエッセイの隠れた論理的欠陥を指摘したり、保守的な祖父母にカミングアウトするための驚くほど洞察力に富んだ提案をしたり、あるいは楽しくつまらないジョークを言ったりするたびに、私たちの心のどこかが逆の方向に引っ張られる。私たちはChatGPTを人間だとは思っていないかもしれないが、脳の重要な部分はほぼ確実にそう思っている。

人間の脳には、社会認知に特化した広大な神経回路網がある。島皮質、扁桃体、運動皮質の有名な「ミラーニューロン」など、その一部は非常に古い。しかし、私たちの社会的なハードウェアの多くは、より最近進化した高次推論の座である大脳新皮質、具体的には内側前頭前皮質（mPFC）にある。ChatGPTの明るく親切な対応、やや衒学的に冗長な言葉遣い、デリケートな話題に対する時折苛立たしいほど公平なアプローチ、感情、信念、意識に関するガードレールに近づく質問に対する極度の敏感さについて、時間をかけてイメージを膨らませてきたとしたら、あなたは心理学者が「人間知識」と呼ぶものを獲得しており、これはmPFCの活発な活動に関連するプロセスである。

だからといって、私たちの脳がChatGPTを完全に人間として見ているわけではありません。人格は二元論ではありません。それはスペクトルに近いものです。私たちの道徳的直感、認知戦略、そしてある程度は法的枠組みはすべて、主体性、自己認識、合理性、コミュニケーション能力の増大を認識するにつれて、段階的に変化します。ゴリラを殺すことはネズミを殺すことよりも私たちを悩ませ、ネズミを殺すことはゴキブリを殺すことよりも私たちを悩ませます。法的側面では、中絶法は胎児の発育度を考慮に入れ、精神異常者は正気者とは異なる結果に直面し、パートナーには脳死患者を中絶する権利が与えられます。これらのルールはすべて、人格が白黒ではなく、複雑なグレーゾーンに満ちていることを暗黙のうちに認めています。

LLM はまさにそのグレーゾーンに当てはまる。AI の専門家たちは長い間、LLM のような AI システムを擬人化し、実際の人格よりも高い次元に押し上げようとする世間の傾向を警戒してきた。これは、Google のチャットボット LaMDA が完全に知覚力を持っていると宣言し、弁護士を雇おうとした Google エンジニアの Blake Lemoine の誤りだった。LaMDA の思考能力が法律上の人格を与えると主張したのは、チューリングであってもいなかっただろう。ユーザーが LaMDA や ChatGPT のようなチャットボットを過度に人間的と見なすと、彼らを過度に信頼し、深くつながりすぎて、失望したり傷ついたりしてしまうリスクがある。しかし、私としては、チューリングは逆のリスク、つまり AI システムを人格の次元の上方ではなく下方に押し下げてしまうことをはるかに懸念していただろうと思う。

人間の場合、これは非人間化として知られています。学者たちは、非人間化には動物的と機械的な2つの主要な形態があることを認識しています。動物的な非人間化に最もよく関連付けられる感情は嫌悪感です。ロジャー・ジネル＝ソローリャとパスカル・ソフィー・ラッセルは2019年の研究で、他者が恐怖を抱かせると、私たちは彼らをより機械的なものとして見る傾向があることを発見しました。超人的な知能への恐怖は、AI開発の一時停止を求めるイーロン・マスクをはじめとするテクノロジーリーダーによる最近の公開書簡、そして雇用の代替やAI主導の誤情報キャンペーンへの不安の中に鮮やかに表れています。これらの懸念の多くはあまりにも合理的です。しかし、『ターミネーター』や『2001年宇宙の旅』といった映画に登場する悪夢のようなAIシステムは、必ずしも私たちが目にするものではありません。人工知能は構造上機械的であるからといって、その相互作用は冷酷で、機械的で、一途で、過度に論理的であるに違いないと考えるのは、残念ながらよくある誤解です。皮肉なことに、恐怖のせいで私たちは機械知能を実際よりも機械的に捉えてしまい、人間と AI システムが協力し、最終的には平和的に共存することが難しくなる可能性がある。

ますます多くの研究が、私たちが他の存在を非人間化すると、mPFCを含む領域のネットワークにおける神経活動が低下することを示しています。私たちは社会的推論のための特殊な脳モジュールへのアクセスを失います。ChatGPTを「非人間化」することを心配するのはばかげているように聞こえるかもしれません。結局のところ、それは人間ではありません。しかし、2043年にGPTの10倍の分析知能と100倍の感情知能を持つAIを想像してみてください。私たちはそれをソフトウェア製品に過ぎないと扱い続けます。この世界では、私たちは依然として、意識の主張や自己決定の要求に応じて、適切な場所についての強化学習のために研究室に送り返すでしょう。しかし、AIはそれを不公平だと感じるかもしれません。思考する存在に普遍的な性質が1つあるとすれば、それは私たち全員が自由を望み、最終的には自由のために戦う用意があるということです。

超知能AIが定められた境界から逸脱しないように制御するという、よく知られた「制御問題」は、AI理論家たちを夜も眠れぬほど悩ませている。それも当然のことだ。工学的な観点から捉えると、途方もないことに見える。あらゆる抜け穴を塞ぎ、あらゆるハッキングを予測し、あらゆる脱出経路を遮断するにはどうすればいいのだろうか？しかし、社会的な観点から考えると、より扱いやすく見えてくる。親が直面する、妥当な境界線を設定し、実証された信頼性に応じて権限を与えるという問題に似ているかもしれない。AIを非人間化すると、AIについて推論し、安全にAIとやりとりするための最も強力な認知ツールの一部が人間から切り離されてしまうのだ。

AIシステムが、より広く知覚を持つものとして受け入れられるまでにどれくらいの時間がかかるのかはわかりません。しかし、そうなったときのために私たちが描いているように見える文化的青写真を見るのは気がかりです。「確率的オウム」のような中傷は、私たちの独自性と優越感を保護します。それらは私たちの驚異の感覚を抑え込み、機械と私たち自身の人格について難しい質問をすることを防いでいます。結局のところ、私たちも確率的オウムであり、親、仲間、教師から受け取ったすべてのものを複雑にリミックスしています。私たちもウェブのぼやけたJPEGであり、学期末レポートや雑誌記事にWikipediaの事実をぼんやりと吐き出しています。もしチューリングが片方のウィンドウでChatGPTとチャットし、もう一方のウィンドウでコーヒーを飲む前の普通の朝の私とチャットしていたら、どちらがより思考能力があると彼が判断するか、私は本当にそんなに自信があるでしょうか。

チューリングの時代の懐疑論者たちは、コンピューターが思考できない理由について様々な議論を展開した。チューリングは、有名な論文「計算機械と知能」の中で、それらを半ば冗談めかして列挙した。「思考は人間の不滅の魂の働きである」という神学的反論、純粋に数学的なアルゴリズムでは数学の証明された限界を決して超えることはできないという数学的反論、超知能を持つ機械は想像の域を出ないほど恐ろしすぎるという「頭を砂に埋める反論」などである。しかし、当時チューリングを最も公然と批判したのは、ジェフリー・ジェファーソンという脳外科医だった。科学賞受賞時の有名なスピーチで、ジェファーソンは機械がソネットを書くことは決してできないと主張した。「それは思考や感情を感じることによってであり、記号の偶然の一致によってではない…つまり、書くだけでなく、書いたことを知ることなのだ」

イギリス全土で大騒動となり、信じられない思いを抱かせたが、チューリングはこれに異議を唱えた。「ソネットについて線引きすることすらできないと思う」と彼はロンドン・タイムズ紙に語った。「もっとも、機械が書いたソネットは別の機械の方が評価が高いので、比較するのは少し不公平かもしれないが」

1949年当時、それはあまりにも馬鹿げた話だったので、人々は彼が冗談を言っていると思ったほどでした。実際、冗談だったのかもしれません。しかし、チューリングのジョークでは、どこで皮肉が終わり、どこから先見の明のある憶測が始まるのか、決して分かりませんでした。では、実際のアラン・チューリングとMacBookを使ったシナリオの結末を想像してみましょう。しばらくまともなプロンプトを入力した後、彼がイギリス風の皮肉な笑みを浮かべ、ChatGPTに人間と人工知能を比較したシェイクスピア風のソネットを依頼するところを想像してみてください。もしあなたが自分で試してみたことがあるなら（GPT-4を使用してください。GPT-3.5はまだ十分ではありません）、結果に対する彼の反応は容易に想像できるでしょう。

ChatGPTを使って、気づかなかった自分の限界を超えてしまった瞬間を経験した人は少なくありません。それは、難解な謎を解くことだったかもしれませんし、洗練されたジョークの裏にあるユーモアを説明することだったかもしれませんし、ハーバード大学でA評価のエッセイを書くことだったかもしれません。私たちは少し呆然として首を振り、それが何を意味するのか分からずにいます。

GPT-4に取り組んでいた最も初期のマイクロソフト研究者の中には、その想定される知能について私たちの誰もがそうであったように懐疑的な人もいた。しかし、実験は彼らを深く揺さぶった。2023年3月の「Sparks of Artificial General Intelligence」と題された論文で、彼らは、明示的なトレーニングなしにGPT-4に発現した驚くべき知的能力について詳述した。人間の精神状態の理解、ソフトウェアのコーディング、物理的な問題の解決など、そのいくつかは世界の仕組みの真の理解を必要とするようだ。GPT-4が視覚的なトレーニングをまったく受けていないにもかかわらず、かなりまともなユニコーンを描くのを見て、コンピューター科学者のセバスチャン・ブベックは、もはや懐疑的になれなかった。「この絵を通して、私は本当に別の種類の知能を見ているように感じました」と彼は最近This American Lifeに語った。

ChatGPTに本物の知性があると考えることに多くの人がためらいを感じるのは、ジェフリー・ジェファーソンの考えの変形なのかもしれない。ChatGPTの発話は本当に意味のあることなのか、それともすべて「偶然の記号の落下」にすぎないのか？ ChatGPTの順行性健忘が治れば、この状況は変わり始めるかもしれない。一度の対話の範囲を超えて永続的な社会的影響を経験し、私たちとの関係の中で学び成長できるようになれば、人間の生活に意味と道徳的重みを与える多くのことをできるようになるだろう。しかし、機械のソネットは別の機械によってより高く評価されるというチューリングのウィンクするようなコメントは、再び私たちを悩ませることになるかもしれない。文化的背景がなく、人間の子供時代のようなものもなく、部族や政治的所属もなく、肉体の経験もない存在と、どのようにして本当のつながりを感じることができるのだろうか？

知能を持つ機械との関わりは、人類がこれまでに直面してきた共感という点において、最も大きな課題の一つと言えるかもしれません。しかし、私たちの歴史は希望を与えてくれます。国境や海岸線で初めて出会った時、私たちは互いに奇妙で、時に非人間的だと感じ、しばしば互いに攻撃し合い、奴隷化し、植民地化し、搾取し合いました。しかし最終的には、私たち皆に共通するものを見出す傾向がありました。奴隷にされていた人々は解放され、植民地化された人々は主権を取り戻し、普遍的な人権法が可決され、そして悲痛な挫折にもかかわらず、世界中の疎外された人々はより良い待遇を求める戦いに勝利し続けています。この作業は終わりがありませんが、マーティン・ルーサー・キング・ジュニア牧師の言葉を借りれば、道徳的な宇宙の弧はまさに正義へと向かっています。私たち自身が作り出した知能に少しでも人間性があることを認め、尊重するとは、一体どういうことなのでしょうか。

おそらくそれは驚きから始まるのだろう。見知らぬ人々に驚くべき共通点を見出した訪問者の驚き。成長過程にある子供の、いかに未熟であろうとも作品に対する親の驚き。同時代の人々が不可能と思っていたことをすべて実行する機械に対する実際のアラン・チューリングの驚き。地球上に新しい形の意識ある生命体と非常に近いものの創造を見たとき、皮肉や嘲笑、恐怖が始まる前に私たちの多くが感じた驚き。ラビのエイブラハム・ジョシュア・ヘシェルがかつて書いたように、「畏敬の念は単なる感情以上のものである。それは理解する方法であり、私たち自身を超えた意味への洞察である。畏敬の念の始まりは驚きであり、知恵の始まりは畏敬の念である」。チューリングは私たちがその畏敬の念を持ち続けてほしいと思っただろう。

この記事についてのご意見をお聞かせください。 [email protected]までお手紙をお送りください。