note社主催の「note CREATOR FESTIVAL」で、note株式会社代表の加藤貞顕さんがモデレーターを務め、小説家の平野啓一郎さんと人工知能研究者の松尾豊さんによるトークセッションが行われました。タイトルは「人間の輪郭を文学とテクノロジーから読み解く」。
今回は、本トークセッションレポートの後編をお届けします。人工知能に「心」は生まれるのか、人間はなぜ「自分」を認識できるのかといった問いから、AIが生活に普及した未来、そしてAIによる創造の可能性まで、話は広く、深く展開していきました。（前編はこちら）
（構成＝崎谷実穂）
心ってそもそも何なんでしょうね
加藤 今度は、人間に特有と言われる「心」をテーマに話していきたいと思います。平野さんの最新作『本心』では、「AIで再現した人物は、自然に受け答えができるけれど、そこに“心”はない」と業者が説明するくだりが出てきますよね。
平野 AIに心がないといっても、ビジュアルや声があまりにもそっくりだったら、こちらが尊重したくなると思うんです。例えば、大事な人の写真をビリビリに破いてゴミ箱に捨てろと言われると、写真はただの紙で心はないとわかっていても、心理的な抵抗がありますよね。それと同じなのではないかと。
松尾 心ってそもそも何なんでしょうね。分解して考えると、人間には感情、感覚がありますよね。うれしいとか痛いとか好きとか。あとは、倫理観といわれるものがあります。このあたりは、進化的な作り込みなんだと思うんです。「痛い」と感じたほうが危険なものを避けられる。「好き」と思ったほうが、生命を次につなげられる。写真をビリビリに破いて捨てるのはいけない気がするのも、そういう気がした種族のほうが生き延びてきたということなんじゃないでしょうか。
平野 軍隊の射撃訓練などは、対象が人間ではないと洗脳的にトレーニングするらしいですね。「人を殺してはいけない」という刷り込みを外さないと、撃つことができない、と。
人間はなぜ「自分」を認識できるのか
松尾 そういった生得的、進化的に組み込まれた感情と倫理、あとは言語の処理がありますよね。「自分はこうありたい」「だからこういう課題をこなそう」とか、そういうのは言語によって自分が操作している内容なんです。感情と倫理、そして言語処理。これらの複合体のことを、人は「心」と言っているんだと思います。
また心と関連して、人間はなぜ「自分」を認識できるのかというテーマがあります。これ、僕は人間が自分の状態をモニターできるからだと思っているんですよ。
加藤 自分の状態をモニターできる、とは？
松尾 人間の脳は全体がニューラルネットワーク（神経回路網）でできていて、新しいニューロン（神経を構成する細胞）は基本的にどこにでもくっつけるんです。ということは、脳が1個のコンピュータだとすると、プログラム中の任意のプログラム本体、あるいはレジスタ（CPU内の記憶回路）のメモリの状態など、どこでもアクセスできるんです。
加藤 なるほど。コンピュータのプログラムは通常、プログラムにはアクセスできないですよね。それをやると、プログラム動作がおかしくなるというか、壊れちゃうので。
松尾 そうなんです。でも、人間の場合は、「何を入力・出力しているか」という変数部分だけでなく、「今どういう実行をしているか」というプログラム本体にまでアクセスできる。そうすると、自分の状態をモニターできて、「今うれしいと感じている」とか「自分がこう考えている」ということがわかるんです。
