「遺体はバラバラ」「無実の民間人の虐殺も」なぜ女子供まで狙うのか…AI兵器が“核兵器並におそろしい”たった1つの理由

AIには「ためらい」がない

　ロシアの革命家であり、ロープシンの筆名で小説『蒼ざめた馬』などを書いたサヴィンコフの回想録『テロリスト群像』（川崎浹訳、岩波現代文庫）には、次のようなシーンが描かれています。

　社会革命党の戦闘組織に属するテロリストが、皇帝のニコライ二世の叔父にあたるセルゲイ・アレクサンドロヴィチ大公の馬車に爆弾を投げつけようとした瞬間、馬車に大公の夫人や幼い子どもたちが同乗しているのを目にし、爆弾を投げるのを思いとどまるのです。つまり、そのテロリストには、少なくとも「女性や子どもを巻き添えにしてはいけない」という感情のブレーキが残っていたわけです。

　もちろん、だからといってテロ行為が正当化されるわけではありません。しかしサヴィンコフがここで描いているのは、人間はどれほど過激な思想に取り憑かれていても、暴力の「最後の一歩」でためらい、命令や大義よりも目の前の具体的な人間の命に引き戻されてしまうことがある、という葛藤そのものでした。

　ところがAIにはその「ためらい」がありません。

「感情のないAI」が兵器化されるということは、これまで人間が戦争においてさえ持ってきた「最後の歯止め」が失われることを意味するかもしれません。

　また、この技術は今後、国家だけでなく犯罪組織やテロリストの手にも渡る可能性があります。顔認識AIを搭載した小型ドローンは、民間でも購入できるドローンを改造すれば作れてしまう時代が来るかもしれない。

　そうなれば「ターゲテッド・キリング」が国家の専売特許ではなくなります。AI兵器の拡散は、核兵器の拡散とは比べものにならない速度と規模で起きてしまうでしょう。