牛尾 剛 
面倒なことは全部AIが下支えしてくれる
勝間 そこが人間とAIの情報と根本的に違うところですよね。楽器といえば、私は最近電子サックスをやってるんですけど、こちらはAIに近い。本来サックスは音を安定して出すのに3年かかりますが、電子楽器だとサンプリングされた音が出るから、いきなり演奏できてしまう。
牛尾 AIってそんなイメージですよね、下支えしてくれる。
勝間 そう、面倒なことや失敗しがちな部分は全部下支えしてくれるんです。だけど最後に吹くのは私だよね、と。
牛尾 それはソフトウェアの開発で言うと、プロンプトを指示するだけでAIがコードを書いてくれるのにも似ていますね。僕らのチームをみても自分で一からコード書いてる人はいない。でも世界中の企業が僕らのサービスの上にシステムを作ってるので、もしもリリースしたもので障害が起きたらグローバルで甚大な影響が出ますから、AIの作ったものは必ずレビューします。重要な意思決定は、絶対に譲れないから。
勝間 私はAIっていうのは「仮説生成マシン」だと思ってるんです。抽象的なものは得意で、仮説を山のように出してくれる。
でも、今日ここに来るのにも最寄りの駐車場の案内をAIに頼んだら、逆にとんでもなく大回りで時間のかかるルートを案内されて、むしろ歩いて3分のところにあるコインパーキングに停めたほうが早かった（笑）。そういう人間なら常識的にできる感覚的な判断に関してはとても鈍い。
AIがバカな振る舞いをしないよう「ドメイン知識こそ重要」
牛尾 AIはそれをトレーニングする強化学習の性質上、統計的に確率の高いものを出しているだけなので、本質的に理解はしていないですからね。だからいまの世の中のAIモデルは何にでも使える“ジェネラル・パーパス”ですが、本当は特定パーパスに絞ったほうがいい回答を出すんです。例えば医療なら医療で、専門知識を徹底的に学習させたほうが精度は上がります。
勝間 たしかに。本書で、GeminiのGemを使って、専門的人格をつくる方法も書いてありましたね。AIは構造的に、学習データがバカな限りはバカなままですよね。
牛尾 そうなんです。日々、AI開発をしている仕事の実感でいうと、何が一番難しいかって、いかにAIがアホになるのを防ぐかという戦い（笑）。だからAIがバカな振る舞いをしないよう、人間が情報を与えてあげないとダメですね。僕らよく言うのは「ドメイン知識の重要性」で、AIの知らない専門的な情報や暗黙知、人間の頭の中にだけ入ってるようなインサイトこそ大切なんです。専門家としての自分の思考回路とか、普段やってることを言語化し、Skill化して、AIにわたす必要がある。
あとは、あれもこれもと指示を出すよりも、「やってはいけないこと」「最低限のルール」であるハーネス（制約）をエンジニアリングしたほうが、正解に近い回答を出せる確率はぐっと上がりますね。
勝間 「情報食わせすぎるな」というコツも書いてありましたね。
牛尾 コンテキストが溜まってくると、人間と一緒で、AIも情報がたくさんあると混乱してくるんですよね。途中でクリーンアップすると、その後けろっと忘れたりする。AIはそんな性質さえ知っておけば、単なる便利な道具なんで、ビビる必要はまったくない。家電とまったく変わらないですよね。
勝間 AIは便利なホットクックみたいなものですから（笑）。
（青山ブックセンターにて）
