「500万ドルで1万人を簡単に殺せる」
「もしあなたが、腹の立つ相手を殺したいと思ったら、iPhoneと同じくらいの価格の小さなドローンに相手の顔と位置情報を入力すればよい。それだけで誰にも知られることなく相手を殺害できます。
このような自動兵器を作るだけのテクノロジーは既に我々の世界に存在しています。これから数年の内にその脅威について対策を打たないと、すべての大国が自動兵器を大量生産するクレイジーな軍拡競争に入る可能性すらあるでしょう。そうなればブラックマーケットで自動兵器が安価で手に入るようになるまでさほど時間はかからないはずです。
もし500ドル程度の安価な自動兵器を1万個手に入れたテロリストが現れたらどうでしょうか。彼らはわずか500万ドルで狙った1万人を簡単に殺せるのです。そうなれば我々の社会は確実に不安定化します。これは遠い将来の話ではありません。今まさに我々が直面している非常に具体的なリスクなのです。AIによる自動兵器は『未来のカラシニコフ銃』になる可能性があるので、今すぐにでもその開発を禁止すべきなのです」
こう訴えるテグマーク氏だが、人類とAIの可能性に必ずしも悲観的であるわけではない。AIには明るい未来を提供してくれる可能性もあると氏は続けた。「環境・エネルギー」「ヘルスケア」「教育」そして「経済」の分野で今後AIが果たすであろう劇的な役割、さらにAIが人類の知能を凌駕したとき、何が起きるのか。テグマーク氏の議論はこれからの「AI時代」を考えるうえでの羅針盤になるだろう。
◆
テグマーク氏のインタビュー「AIは核兵器以上に厄介になる」の全文は、「文藝春秋」2月号と「文藝春秋 電子版」に掲載されています。
※「文藝春秋」編集部は、ツイッターで記事の配信・情報発信を行っています。@gekkan_bunshun のフォローをお願いします。
【文藝春秋 目次】「消費税ゼロ」で日本は甦る＜政策論文＞山本太郎／＜総力特集＞2020年の「羅針盤」／わが友中曽根康弘 渡辺恒雄
2020年2月号
2020年1月10日 発売
特別定価980円（税込）
