現在、私たちの生活や仕事では「人工知能（AI）」がさまざまな形で実用化されている。しかし、人工知能にも便利な面とリスクとがある。その点を十分に理解したうえで、どう付きあっていくべきなのかを考える必要があるだろう。
ここでは、5人の識者が人間と人工知能の関係について論考した『私たちはAIを信頼できるか』（文藝春秋）から一部を抜粋。ゲーム、言語、哲学の最新知見から「信頼できるAIをつくれるかどうか」について議論した座談会を紹介する。（全2回の1回目／2回目に続く）
◆◆◆
信頼できるAIはつくれるか
山本貴光さん（以下、山本） 「AIと文学の未来」をテーマにした連続インタビューは好評をいただき、様々な反響がありました。そこで今日は、AI研究者でゲーム開発者の三宅陽一郎さん、言語学者で小説家の川添愛さん、社会学者の大澤真幸さんのお三方にお集まりいただき、インタビュアーを務めた山本と吉川も加わって、「AIと人類の未来」をめぐる座談会を開くことになりました。
インタビューでうかがったお話を踏まえて、いま議論すべきテーマを考えていくうちに「信頼」というキーワードが浮かび上がってきました。これからAIと呼ばれるものの能力はますます向上し、社会の至るところに導入されていくでしょう。そうなると、人間とは別に何らかの判断をもとに処理を行うAIとどう付き合っていくかが大きな課題になるからです。
吉川浩満さん（以下、吉川） AIをこれから社会の一員としてどう迎え、どう信頼していったらいいのか、ということですね。人間も同じですが、どれだけ能力の高い人でも信頼がないとうまく付き合っていくことは難しいものです。
山本 まず、三宅陽一郎さんからご発言いただけないでしょうか。
インタビューでは、知能だけでなく、身体や感情、欲望も備えた生命に近い存在としてのAIを創造しようとしているという刺激的なお話をうかがいました。三宅さんはゲーム内で人間の信頼を得なければならないようなAIの研究開発に取り組んでいらっしゃるので、信頼について、まずお話をうかがえればと思いました。
三宅陽一郎さん（以下、三宅） AIでゲームのキャラクターをつくっている立場から言いますと、AIに求められる信頼は、AIのポジションによって大きく変わります。
例えば、銃を持って戦うような3Dゲームの場合、敵キャラクターには信頼は求められないので、少々荒っぽいところがあっても大丈夫です。問題は仲間のキャラクターで、ユーザーである人間が仲間のAIキャラクターに求める信頼のレベルは非常に高くなります。敵が多少愚かであってもそんなに怒る人はいないのですが、背中を仲間のAIキャラクターに預けているのに背中から敵に攻撃されてしまうとユーザーはすごく怒ります。敵か味方かによって、AIに対する期待値と感受性が違うんですね。
やはり人間も動物なので、自分の安全を確保してくれることに大きな価値を感じるのでしょう。敵を賢くするよりも、仲間のキャラクターの能力を上げた方が、ユーザーからの評価も上がっていくので、ゲーム作りの現場もそこに重点を置いて開発していく傾向があります。
