「自分」を認識するのに、身体は必要なのか
加藤 ちなみに、人間以外の動物はどうなんでしょうか。やらないですよね。
松尾 動物は入力と出力を繰り返して、「こういう行動をしたら良かった・悪かった」と環境について学習していれば生き延びられる。わざわざ自分というものを、概念として取り出す必要がないんです。
でも人間はなぜそれをやるのか。僕は言語的なタスクが原因だと考えています。人間は幼い頃から「○○ちゃん何食べたい？」「○○ちゃんは何で泣いているの？」といったことをよく聞かれます。「自分報告系」のタスクをすごく課されるんです。そこで、人間の脳は自分の情報にアクセスできるから「泣いているというのはこういうことだ」と概念化して、言葉と紐付けて、出力する。この繰り返しによって、「自分」というものを一つの概念として明確に捉えるようになるんだと思います。
加藤 なるほど。言語と自分には密接な関わりがあると。では、コンピュータは、「自分」という概念を獲得することができるのでしょうか。そしてその先の「心」も、自分という概念がないと生まれない気がしますが……。
松尾 少なくとも今のアーキテクチャでは無理でしょうね。この説明でいくと、自身のプログラム本体にアクセスできる構造になっていないと、「自分」は認識できない。でも、それをやるとコンピュータは壊れてしまうので。
AIには肉体が必要なのか
平野 自己意識の根本に、人間の場合はどうしても身体がありますよね。「自分報告系」のタスクを課されたときにも、快不快など身体の内部を参照して答えている。そのときに、誰が尋ねているかによって、気分や答える内容が変わるというのが僕の「分人」という考え方です。一人の人間にはいろいろな顔があり、そのすべてが「本当の自分」であると。
加藤 出力が変わるだけで、「自分」というシステムは一つだということですね。松尾さんは、コンピュータが「自分」を認識するには、肉体が必要だと考えますか？
松尾 うーん、むずかしいですね。人間に近い概念や認識をするには、人間に近い身体が必要でしょう。それとは別にインターネット上の身体性というものもあると思うんですよね。インターネット上のエージェントとして、行動と認識を繰り返したら学習はできるので。
でも、AIがこの世界はどうなっているのかという宇宙のモデルを、身体的な介入なしに観察だけでどこまで明らかにできるかというと……これまたむずかしいですよね。
加藤 やっぱり身体が必要になってくる。
松尾 眼の前にあるビールのキャップを、ひねらないで硬いかやわらかいかわかるのかという問題ですよね。推測でわかるかもしれないけど、ひねったほうが正確にわかりますから。
平野 人間は、個体の生存にとって良い戦略をとろうとして、環境に働きかけますよね。生き延びるためにがんばるわけです。それで知能が発展してきたところがあるけれど、AIが賢くなるときは何が動機づけになるのでしょうか。そもそも何を持って「賢くなった」というのかは、わからないですよね。
松尾 AIに対しては、シミュレータ上に100次元の空間を作って学習させたりすることもできるんですよね。そうなると、もう人間の理解が及ばない世界に入ってきます。AIにはAIの「賢い」があると考えられます。
