価値判断そのものをロボットに譲ったら、世界はバランスを崩す
――最初はどんな研究をしていたんですか？
岡田 もう30年前になりますけど、Siriのような音声対話システムの研究開発やってたんです。スマホで音声認識するあれです。そこで音声言語処理とか対話理解というのをやってました。人の言いよどみとか言い間違え、言い直す言葉ってコンピュータで扱うのがとても難しいんです。自然言語処理の解析ルールから外れたような、言葉のつっかえ、ノイズが入ると処理できない。それで非流暢な発話というのは、どんな構造を持っているのかを探る研究をしていたんです。『口ごもるコンピュータ』という本を出しているんですけど、これはもう23年前の本ですね。
――ロボットと人との関わりで議論になるのは、人工知能が人間の能力を超えてしまったら世界はどうなるか、という「シンギュラリティ」の問題です。岡田さんはどのように考えていますか？
岡田 価値判断そのものをロボットに譲ってしまったら、世界はバランスを崩すことになるとは思います。ただ、その一線を越えなければ、人工知能はそれほど恐れるものではないと思います。
人工知能による一方的なコミュニケーション
――価値判断は人間にとっての最後の一線、ということですか？
岡田 そうですね。機械が人間の能力を凌駕する事例は昔からたくさんありますよね。人間が走る能力は自動車が超えたし、記憶力はコンピュータのメモリが圧倒的。じゃあなぜ、人工知能脅威論が語られるのかといえば、人工知能が超えていく人間の能力とは「思考能力」そのものだからです。人工知能が自律的に、自分で思考し学習し、その能力を際限なく大きくして行ったら歯止めがかけられなくなるという。その危惧の一つがロボットが価値判断もしてしまうということです。
たとえば自動運転が価値判断も全て行い、人間が制御できないとしたら、目の前の人を避けて車を傷つけるよりも轢いてしまえという極端な判断も生まれかねない。その最後の価値判断を人間に委ねる設計原理を用意する必要はあると思います。もちろんそこには、人間の価値判断が最良のものかどうか、という議論も残されているわけですが。
――それこそ、人工知能による一方的なコミュニケーションになってしまうと、社会は崩れてしまうと。
岡田 人事評価は人工知能に任せちゃった方が、いろんなしがらみがなくて平等なんじゃないかって議論もありますし、それはわからなくもないんですけど、人の価値判断までは人工知能に委ねるべきではないでしょうね。
