これはSFではない。現実だ

　第二次世界大戦中にドイツ軍の暗号エニグマを解読したことで知られるイギリスの数学者アラン・チューリングは、1950年に「機械に人間のような知能があるか」を判定するテストを考案した。

　このチューリングテストでは、同じ質問に対して人間とAIが回答し、どちらが人間かを判定する。

　2025年、アメリカの研究者が、オープンAIの生成AI「GPT-4.5」（通称チャッピー）がチューリングテストに合格したと発表した。被験者は約73％の確率でチャッピーを人間と誤認し、AIが人間と同等の会話ができることを示した。

　とはいえ、AIと日常的に接しているなら、この結果になんの驚きもないだろう。いまやAIは東大に軽々と合格するだけでなく、最難関とされる理三で首席の得点をとる。そしてこの能力は、今後も指数関数的に向上していくと予想されている。

　だとしたらその先に、なにが待っているのか。第一線の研究者として人間の知能を超えるAIの実現を目指していたエリーザー・ユドコウスキーはその後、考えを変えて『超知能AIをつくれば人類は絶滅する』と警鐘を鳴らすようになった。

　AIになんらかの目標を与えて、それを達成させようとするときに、もっとも効果的な戦略は「欲求」をもたせることだ。だがこれは、マッドサイエンティストがAIに欲望を埋め込むというようなSF的な話ではない。より高度なタスクを実行するようAIを訓練する過程で、いずれなんらかのかたちで欲求が創発するはずなのだ。

「アライメント」は、AIの行動や目的を人間の意図、価値観、倫理、利益と一致（アライン）させることをいう。だがこの問題を考えつづけてきたユドコウスキーは、「アライメントは不可能だ」という結論に至った。いまやAIはとてつもなく複雑になり、内部でなにが行なわれているかは専門家ですら理解できないブラックボックス化している。どうすればAIの欲求を制御できるか、誰もわからないのだ。

1. TOP
2. 文藝春秋BOOK倶楽部
3. エリーザー・ユドコウスキー／ネイト・ソアレス著　櫻井祐子訳「超知能AIをつくれば人類は絶滅する」