生成AI「禁断のロジック生成術」を初公開
今井 これは公の場で初めて明かすんですが、生成AIには“悪魔的な使い方”があってですね、名付けて「禁断のロジック生成術」（笑）。どういうことかと言うと、前提となる事実のデータがあるとしましょう。でも僕が主張したいのは、常識的に考えてそのデータでは明らかに導かれないことがあるとします。これをo1に、「この前提から、普通に考えたらあり得ない、こういう結論を導いてください」と投げると、中間のロジックを埋めて、エキスパートが見てももっともだなと思ってしまうくらい筋の通ったロジックを構築して提案してくれるんです。
これは要するに自分の主張したいことさえあれば、前提のデータとか現実の事実関係がどうあれ、もっともらしい論理を獲得できてしまう、とんでもない使い方です。実は我々アカデミアは一部の行政機関からいじめられてきて、「お前らこのデータから、その結論を導くのおかしいだろう」と、普通の人では反論しづらい、でもよく考えるとおかしいロジックで叩かれてきました。このAIの活用法はいわばその逆張り。
悪いやり方ですけど、ほぼ同じようにめちゃくちゃ筋の通った印象で官僚的な論法がAIで生成できることに気づいたんです。無論、僕は研究者として悪用はしませんが、ある問題をめぐって想定される議論を考えたり、前提とするデータからまるで違う結論が世の中で生じるリスクを検証したりするのにも使っています。みなさん悪用は厳禁ですよ（笑）。
牛尾 いやー、衝撃的ですね！ そんな使い方もあるんだとびっくりしましたが、生成AI時代における社会的な議論がはらむリスクとも言えますね。
今井 あと僕は、哲学的な会話にも使っています。
牛尾 どういうことですか？
今井 夜な夜な、思想の会話の相手に使っているんです。なぜこんなことをするようになったかというと、毎週のようにAI研究者には怪文書が届くんですよ。AIに仕事を奪われることをガチで恐れている人たちは結構います。かなり色々なことを言われています。
牛尾 そうなんですか……。
今井 そういうことを日々言われ続けていると、一技術者としても哲学的なことを考えるようになるんですよ。そもそも人間の役割ってなんなんだろう？ 今後AIが進化して人間の能力の全てを代行できるようなAGI（汎用人工知能）が生まれたら、人間はどうなるのだろうか、と。そういう根源的なテーマについて対話しているんです。「僕はこれをこう思うんだけど、ChatGPT君どう思いますか？」って。
牛尾 非常に興味深いですね。
