池上 彰 
感情を持たないAI兵器が戦場に投入されることで、人間が持つ「ためらい」や「最後の歯止め」は失われてしまうのか。核兵器を超えるスピードで拡散する自律型兵器の恐ろしい実態と限界について、池上彰氏の新刊『AI時代に自分の頭でどう考える？:奪われるのは仕事か、思考か』（Gakken）より一部抜粋してお届けする。（全2回の2回目）
◆◆◆
感情を持たないAI兵器の恐ろしさ
現在、AIのさまざまなテクノロジーが実際に戦場で使われています。
たとえば、イスラエルは2023年10月のガザ侵攻以前から、イスラム組織ハマスの幹部を標的にした「ターゲテッド・キリング（標的殺害）」をドローンで行なってきたことが知られています。
この無人兵器の仕組みは、実に恐ろしいものです。ドローンに顔認識ソフトを組み込み、あらかじめ標的となるハマスのリーダーなどの顔を読み込ませておきます。そしてガザの上空をドローンが飛び回り、標的が建物のベランダなどに顔を覗かせた瞬間、顔認識ソフトで「本物だ」と判別し、自動的に額めがけて小型ミサイルや鉄の釘のようなものを打ち込んで暗殺する。
しかも、爆弾を使うと遺体がバラバラになって身元確認ができなくなるため、あえて遺体が残るようにピンポイントで釘を打ち込むという、なんとも冷酷な手法です。
アメリカ軍もこれまで、イラクやシリアなどでドローンを使った攻撃を行なってきました。しかしアメリカの場合は、少なくとも建前では、最終的な攻撃判断には必ず人間のオペレーターや指揮官が関与する仕組みが維持されてきました。
たとえばCIAの文民が「これがテロリストだ」と判断し、承認を与えると、パイロットがミサイルを発射する。その際、画面の中に子どもが映っていれば、人間のパイロットは「子どもがいなくなるまで待つ」という判断ができます。
しかしAIが自律的に判断・発射するシステムでは、その「待つ」という選択肢がありません。標的を認識したら、周りに誰がいようと関係なく発射する。ガザで民間人の犠牲者が増え続けた背景に、こうしたAIの「感情のなさ」があったと指摘する声もあります。
