MIT教授で理論物理学者のマックス・テグマーク氏（52）がAIの安全性を研究するべく「生命の未来研究所」を設立したのが2014年。その3年後の2017年に出版した『LIFE 3.0』（紀伊國屋書店）はAIと人間の共存をテーマに未来の様々な可能性を探り、全米でベストセラーとなった。スティーブン・ホーキングは生前「この時代の最も重要な議論に参加したければ、テグマークの示唆に富む本を読めばいい」と同書を賞賛。AI時代の可能性を追求するテグマーク氏に「AIと人類の未来」を聞いた。（取材協力・写真　大野和基）

マックス・テグマーク（マサチューセッツ工科大学教授）

人類滅亡の可能性

　世界中のAI（人工知能）研究者の多くは、数十年以内にあらゆるタスクや職業で人間の知能を超える「汎用型AI」（AGI）ができるだろうと予測しています。

　Google傘下のDeepMind社が開発し、プロの囲碁棋士を初めて破ったAIである「アルファ碁」は日本の皆さんにもお馴染みだと思いますが、あれは「囲碁」のみに用途が限定された「特化型」です。人間の知性のようにさまざまな場面で応用可能なAIがAGIです。

　もちろんマサチューセッツ工科大学（MIT）の同僚でロボット研究者のロドニー・ブルックスが「AGIはあと数百年はできない」と言ったり、元バイドゥのチーフサイエンティストのアンドリュー・エンが「AGIができたらと考えるのは、今から火星の人口過剰を危惧するようなものだ」と冗談を飛ばすように、否定的な見方をする研究者がいるのも事実です。

　私自身は、数十年以内かどうかはともかく、将来のある時点でAGIができるのは間違いないと思っています。我々人類は、知的好奇心が非常に旺盛で、テクノロジーの進歩は誰にも止めることができません。もしある国や企業が「開発をやめた」としても必ずその技術を引き継ぎ、発展させる研究者が現れるのです。

　問題は「いつ」AGIができるかではありません。現時点で誕生の「可能性」があることが重要なのです。AGIは、完成すれば人類の歴史上最も影響力が強いテクノロジーとなります。ならば、人類の明るい未来のためにAGIを活用するにはどうすればいいのかを、今から考えておくべきでしょう。いざAGIができてからでは遅すぎます。例えばもしAGIがテロリストに悪用されたらそれはそのまま人類の滅亡を意味するかもしれないのですから。

最大のブレイクスルー

　AIの話を進める前に、まず「知能」とは何かを考えておきましょう。人によって定義は様々ですが、私は単に「複雑な目的を達成する能力」を知能と呼んでいます。

　この定義では、例えば、サーモスタットは知能を持っていることになります。しかし、その目的は部屋の気温を一定に保つという非常に限定的で単純なものです。一方、人間の子供は十分な時間を与えられれば、ほぼどんな「目的」でも達成することができる。つまり非常に高度な知能を持っていることになります。

　1950年代に始まったAIの研究が当初目標としていたのは、人間と同じような高度な知能を持ったAGIを開発することでした。しかし、先ほど例に挙げたDeepMind社はその開発を目標としていますが、他のほとんどの企業は現在「特化型」AIの開発に励んでいます。

　テクノロジーの進歩というのは非常に漸進的でわかりにくいものです。ある日突然「オーマイガッ！」と叫んでしまうほど劇的に進歩することはありません。しかし、例えば日本語を英語に自動翻訳するソフトの性能を、5年前のものと比べると確実に今の方が良くなっています。そうやって日々ゆっくりと進歩していくのがテクノロジーの本質です。

　そのテクノロジーの分野で、近年最大のブレイクスルーだったのが「AlphaZero」の開発です。AIが囲碁やチェスの世界王者に勝ったことが驚きだったのではありません。画期的だったのは、このAIが人間の対局データを一切使わず、ゲームのルールを学んだ後は、AI内部で自己対戦を繰り返すだけで、学習し、強くなっていったことです。

　つまり、今まで何十年もの間、AIが強くなるために様々なアルゴリズムを自分たちの手で開発してきたAI研究者のサポートが必要なくなったのです。囲碁やチェスなどの分野では、AIは自分たちだけでより最適なアルゴリズムを次々発明できるようになった。この分野に限ればAIは人間を超えたと言えます。

AIと対戦するプロ将棋棋士

データは新しい石油か?

　ここで少し中国の話をしておきましょう。中国は国家主導で大量のパーソナルデータを蓄積し、ビッグデータとして活用することで急速にAI技術を発展させました。既に「Alipay」や「WeChatPay」の支払いシステムは西欧諸国のクレジットカードよりはるかに進んでいますし、多くのAI技術で西欧諸国を超えています。特に医療分野では世界最大の医療データベースを作れる素晴らしいポテンシャルを持っていると感じています。

　しかし、今後AIがどのように発展していくかという「方向性」に目を向ければ、中国や一部の巨大IT企業が行なっているような、膨大な量のデータの入手が、AI開発におけるアドバンテージになるとは考えにくいのも事実なのです。

　現代社会ではしばしば「データは新しい石油」であると表現されます。パーソナルデータを含む多くの情報はお金以上の価値があるというのですが、私はいくつかの点でデータは新しい「snake oil」（いんちき薬）だと思っています。

　なぜなら我々が現在大量のデータを必要とするのは、単純に我々が作っているAIの知能がまだまだ低いことに由来しているからです。例えば、AIに犬と猫の違いを学習させるなら、今は1万枚の犬と猫の写真のデータを見せないといけない。一方、もし私が5歳の女の子にその違いを学習させたいなら両方の写真が1枚ずつあれば十分です。

　つまり5歳の女の子は今のAIよりはるかに優れた学習アルゴリズムを持っているのです。我々は、今のAIが女の子より知能ではるかに劣るという事実を膨大なデータを与えることで何とか埋め合わせているにすぎないのです。

　しかし、このまま技術の進歩が続けば、それほど遠くない未来において、AIは何かを学習するのに大量のデータを必要としなくなるでしょう。先ほど触れた「AlphaZero」は外部からのデータを一切必要とせず、システムそのものが、自分でデータを作り出した点が画期的でした。今後、AIのアルゴリズムが人間のレベルに近づけば近づくほど、膨大なデータを持つことのアドバンテージは消えていくのです。

自動兵器の脅威

　では、今後このままAIが進歩していくとして、我々の生活にどんな影響が出てくるでしょうか。いくつかの分野ごとにみてみましょう。

　まず我々が今すぐにでも行動を起こさなければならないのは「AIと軍事」の問題です。2019年は「ドローンの脅威」が顕在化した年でした。9月、サウジアラビア東部のアブカイクとフライスにあるサウジアラムコの石油生産プラントを標的としたドローン攻撃が行われ、大規模な施設火災が発生。サウジアラビアの石油生産量が約半分に減少する事件が起こりました。またイエメンでは1月に空軍基地で軍事パレードの開催中にドローンを使った攻撃があり、兵士6人が死亡する事件が起き、米国では6月に元ガールフレンドの家にドローンを使って爆弾を落とした男が逮捕されました。

　ドローン兵器のような自動兵器に対しては、その製造を国際的に禁止する協定を早急に結ぶ必要があります。そうしなければ、我々は近い将来、永久に後悔するでしょう。

　もしあなたが、腹の立つ相手を殺したいと思ったら、iPhoneと同じぐらいの価格の小さなドローンに相手の顔と位置情報を入力すればよい。それだけで誰にも知られることなく相手を殺害できます。

　このような自動兵器を作るだけのテクノロジーは既に我々の世界に存在しています。これから数年の内にその脅威について対策を打たないと、すべての大国が自動兵器を大量生産するクレイジーな軍拡競争に入る可能性すらあるでしょう。そうなればブラックマーケットで自動兵器が安価で手に入るようになるまでさほど時間はかからないはずです。

　もし500ドル程度の安価な自動兵器を1万個手に入れたテロリストが現れたらどうでしょうか。彼らはわずか500万ドルで狙った1万人を簡単に殺せるのです。そうなれば我々の社会は確実に不安定化します。

　これは遠い将来の話ではありません。今まさに我々が直面している非常に具体的なリスクです。だからこそ、私たち「生命の未来研究所」では2015年に自動兵器の開発禁止を呼び掛ける公開書簡を発表しました。AIによる自動兵器は「未来のカラシニコフ銃」になる可能性があるので、今すぐにでもその開発を禁止すべきなのです。

　一方でAIの進歩によって明るい未来を予想できる分野もあります。例えば「環境・エネルギー」です。もしAIを使ってリチウムイオン電池の30倍早く充電でき、はるかに安価なバッテリーを発明できたら、大変素晴らしいことです。昼の間に太陽エネルギーを貯めて夜使うことができるし、夏に貯めたエネルギーを冬に使うことも可能になります。

「ヘルスケア」については、まず自動運転車が実用化されることによって、現在年間で100万人以上が犠牲になっている交通事故死を劇的に減らすことができます。また、医療においては癌などの検診で、最高品質の自動診断が誰でも受けられるようになるし、今まで我々が失敗してきた、癌や他の不治の病の特効薬の開発も期待できるかもしれません。

「経済」に与える影響も非常に重大です。我々が必要とする製品やサービスの提供をAIが担うようになれば、世界のGDPを何倍にも増やすことが可能です。重要なのは、その儲けが一部の株主に渡るのではなく、世界中のすべての人にシェアされるような仕組みを作り出すことです。そうでなければAIは世界中の格差を更に広げることになります。

　残念なことにその兆候が既に西欧社会でみられます。西側の多くの国民は、現在収入格差が急速に広がっており、親の世代より自分たちが貧しくなっていることに気づいています。ブレグジット（英国のEU離脱）も米国でドナルド・トランプ大統領が選出されたのも、背景には「拡大する収入格差への不満」があったのは明らかでしょう。

　私が住む米国ではスーパーリッチな層に対する税金が下げられるという事態が起こってしまっています。もし、あなたが米国でヘッジファンドで30億ドル儲けたら、所得税は15％。しかし、それよりはるかに収入が少ない人は40％以上の所得税を払わなければならないのです。政府がAI技術によって巨大な富を得る一部の企業や株主にしっかり課税して、富を再分配する必要があると私は思います。

1. TOP
2. 世界の知性が日本人に教える　2020年の「羅針盤」
3. AIは核兵器以上に厄介になる