「AIが人類を超える」――。神秘的で夢想的な主張は危険だ

東氏

「ドタバタ感」のもつ思想史的な意味

　パンデミックは3年目に入った。オミクロン株の流行はいまも進行中だ。

　この混乱を後世がどう総括するのか、現時点ではまったく予想がつかない。初期にはこれをきっかけに現代文明は大きく変わるといった言説がメディアを席巻していた。とはいえ、なにごとにせよ当事者は事象を過大評価するものである。終わってみれば意外とあっさりした位置づけになるかもしれない。

　ただこの時点でひとつだけはっきりしていることがある。それは現代社会がまだまだパニックに弱いということだ。

　新型コロナ感染症は、既存の風邪より致死率が高く感染力も高い。けれども天然痘やエボラ出血熱ほど致死率が高いわけではなく、はしかほど感染力が高いわけでもない。若年層では無症状のまま治癒する例も多く、一瞬で社会が崩壊するといった類の感染症でなかったことはたしかだ。

　にもかかわらず、今回は世界中で恐怖心を煽る報道が相次ぎ、各国は超法規的な強権発動を繰り返さざるをえないことになった。そして良心的な科学者や医療従事者の冷静な声は、大衆の増幅された恐怖を抑えるためにはあまり役に立たなかった。

　否、このパンデミックで明らかになったのは、むしろ非常時には科学者や医療従事者もまたパニックに陥るということかもしれない。

　むろん現代医学の貢献はいくら強調してもしすぎることはない。ECMO（体外式膜型人工肺）の存在は死者の数を大きく抑えたし、ワクチンは感染拡大防止に決定的な役割を果たした。

　けれどもパンデミックの初期においては、なにが感染防止に効果的なのかだれにもわからず、感染拡大の予測も正確でなかったため、専門家による最悪の想定や過剰な統制要求が拙速に採用される傾向にあった。緊急時だからやむをえないとの意見もあろうが、国境封鎖や都市封鎖（ロックダウン）、外出禁止といった強力な私権制限が、リベラリズムを信条とする諸国において、法的な根拠や経済的な損失がほとんど議論されず将棋倒し的に導入されてしまったことには大きな問題がある。とくに日本では、根拠すら怪しい政策が「自粛」の名のもと場当たり的に発出され続けてきた。後世から振り返ったとき、今回のパンデミックでもっとも記憶されるのは、医学の勝利でも人類の叡智でもなく、この「ドタバタ感」なのではないか。

　なぜ人々はかくもドタバタしてしまったのか。高度医療への過剰な期待、SNSでの無責任な情報拡散、最初の症例報告があった中国への不信感、ハリウッド映画に代表される扇情的な映像文化の影響など多くの原因を挙げることができるだろうし、今後そちらについても検証が進むことだろう。現代社会は情報依存社会なので、そもそもパニックに弱いともいえる。

　そのうえでぼくがここで考えたいのは、その「ドタバタ感」のもつ思想史的な意味である。

　結論からいえば、ぼくにはそれは、この四半世紀、情報技術とともに勢力を拡大し続けてきた過剰な人間信仰と技術信仰に対して、大きな冷や水を浴びせかける経験だったように思われる。

「シンギュラリティ」という物語

　どういうことだろうか。あまり指摘されないのだが、2010年代は思想史的には「大きな物語」が復活した時代だったといえる。

　ここでいう「大きな物語」とは、人類の歴史には大きな流れがあり、学問にせよ政治にせよ経済にせよ、その終極＝目的（エンド）に奉仕するのが正しいという考えを意味する。ひらたくいえば、人類は進歩しており、それについていくのが正しいという考えかただ。20世紀においてはマルクス主義がそんな大きな物語として機能した。マルクス主義は、まさに人類社会の終極＝目的として、資本主義の終焉と共産主義の到来を謳いあげた思想だからである。

　けれどもそのような歴史観は、1970年代あたりから批判されるようになった。そのひとつが現代思想でポストモダニズムと呼ばれる動きだ。

　そして20世紀が終わるころには、そもそもソ連が崩壊したこともあり、大きな物語のような発想は現実をなにも説明しないし、政治的にも害が大きく支持するべきではないと考えられるようになった。1971年生まれのぼくは、まさに「大きな物語の終わり」を叩き込まれた世代にあたる。人類の歴史にまっすぐな進歩なんてないし、なにが正しくなにがまちがっているかについても単純に判断できるわけがない。それがぼくの世代の学者の本来の常識だ。

　ところが21世紀に入ると、驚いたことに、そんな大きな物語の発想が新たな装いのもとで復活し始めた。

　ただしこんどの物語の母体は、マルクス主義のような社会科学ではない。情報産業論や技術論である。信奉者も政治家や文学者ではなく、起業家やエンジニアだ。ひとことでいえば、文系の大きな物語が消えたと思ったら、理工系から新しい物語が台頭してきたわけだ。

　たとえば2010年代の流行語に「シンギュラリティ」という言葉がある。日本語にすれば「特異点」という意味の英語で、人工知能（AI）が人類の生物学的な知能を超える転換点、あるいはその転換によって生活や文明に大きな変化が起きるという思想を意味する。この数年で日本のマスコミも話題にするようになったので、耳にしたことのある読者は多いだろう。最近ではエンジニアやビジネスマンだけでなく、政治家もシンギュラリティについて語っている。

　しかしこの言葉の使用にはかなりの注意が必要である。むろん人工知能の普及が生活や産業を大きく変えるのはまちがいない。けれどもシンギュラリティは、けっしてそれだけの言葉ではないのだ。

「人工知能は2045年には人類の知性を超える」

　そもそもシンギュラリティなる言葉あるいは思想が注目されるようになったのは、アメリカの未来学者、レイ・カーツワイルが2005年に出版した『シンギュラリティは近い』という著作がきっかけだといわれている。同書は日本では『ポスト・ヒューマン誕生　コンピュータが人類の知性を超えるとき』という題名で翻訳されている。

　この著作でカーツワイルは、人工知能は2045年には人類の知性を超えるのではないかと予言している。この予言はよく引用される。2045年といえばわずか四半世紀後である。今年生まれた子どもが大人になるころには人間より機械のほうが賢くなると言われれば、だれでもそれはたいへんなことだと感じる。

　けれどもカーツワイルの本を実際に読んでみると、その根拠はかなり薄弱であることに気がつく。彼の未来予測を支えているのは、情報技術の進歩はどんどん速度を増しているのであり、同じ傾向はこれからも続く、したがってあと40年もすれば驚くほどコンピュータの力は増しているはずだ、というただそれだけの直感にすぎないからだ。

「未来学」の誤りの繰り返しではないのか

　よく知られているように、集積回路の開発史には「ムーアの法則」と呼ばれる有名な経験則がある。この半世紀、コンピュータの計算速度は指数関数的に上昇し続けているし、メモリの価格も指数関数的に低下し続けている。たしかにそれは事実である。

　けれども集積回路の縮小には、常識で考えて物理学的な限界がある。またそもそも知性と呼ばれるものが、いまのコンピュータのかたちを維持したまま計算力の増加だけで再現できるかどうかも理論的に未知数のはずである。けれどもカーツワイルはそのような問題はまったく考慮せず、すべての問題は計算力の増加が解決すると仮定してしまっている。そして2030年代には脳の完全なスキャンとデジタル化が可能になり、2040年代には人間の知性を生物学的な限界を超えて拡張することが可能になると主張するのである。

　ぼくにはそれは、かつて1960年代や1970年代に、カーツワイルと同じように「未来学」を喧伝していた人々が犯した誤りを、無自覚なまま繰り返しているようにしか思えない。当時もまた、ライト兄弟の初飛行から半世紀強で人工衛星が打ち上げられたのだから21世紀にはスペースコロニーが浮かんでいるにちがいないし、アインシュタインが相対性理論を発見してからわずか40年で原爆ができたのだから核融合もすぐにできるにちがいないと、まことしやかに語られていた。技術はいままでこれだけの速度で進歩してきた、だからこれからも同じように進歩するにちがいないといった成長曲線の外挿の発想は、基本的にたいへん怪しいのである。

落合陽一の主張に潜む倫理的な問題

　読者のなかには、いやいや、情報技術の成長の本質はまさにそのような常識を超えるところにあるのだ、だからそんな懐疑を抱いても意味がないのだと反論するかたがいるかもしれない。実際、IT関連のビジネス書にはしばしばそのようなことが大まじめに書かれている。常識を捨てて信じるのが大事といわれれば、なにも返す言葉はない。

　とはいえ、たとえそこで百歩譲って彼の予測のいくつかが正しいと認めたとしても、カーツワイルがたいへん夢想的な人物であることは見逃してはならない。前掲書を最後まで読み通せばわかるように、彼はそもそもシンギュラリティの到来を、人間の身体を脱ぎ捨てた超知性が太陽系を超え光速を超えて広がり、やがては宇宙全体を「覚醒」させるというおそろしく壮大な歴史のなかに位置づけている。人工知能が人間の脳を超えるのは、彼の考えでは知性の宇宙的進化の第一歩にすぎないのだ。これはどう考えても政治やビジネスの指針となる話ではない。

　これはカーツワイル自身への批判ではない。『シンギュラリティは近い』は、21世紀に蘇った神秘思想の例として読めば十分興味深い書物だ。カーツワイルはおそらくは、ニコライ・フョードロフ（19世紀ロシアの思想家）やティヤール・ド・シャルダン（20世紀前半のフランスの思想家）に連なるような、「宇宙主義」の思想家として位置づけられるべき人物だ。

　問題は、そのような神秘的な主張が、あたかも堅実な根拠に基づく未来予測のようにして、世界的に影響力のある政治家や経営者によってさかんに議論され続けていたことのほうにある。それは、ほとんど現実味のない共産主義世界革命の到来について、政治家や哲学者が大まじめに議論し続けた20世紀半ばの状況にそっくりではないだろうか。

　日本の例も挙げておこう。2010年代に強い影響力をもった思想家に落合陽一がいる。

　落合は哲学的な文章を発表するだけでなく、ベンチャー企業を経営し、エンジニアでアーティストでもあるという新しいタイプの知識人である。行政にも深く関与し、2025年の大阪万博ではパビリオンをまるまるひとつ担当するといわれている。そんな彼は2018年に『デジタルネイチャー』という著作を発表している。

　デジタルネイチャーは「計数的な自然」を意味する落合の造語である。近い将来、生活環境のあらゆるところにセンサーが張りめぐらされ、人流も物流もすべてがデータ化され、ネットワークを介してアクセスされ分析されるような時代がやってくる。そのときぼくたちは、目や耳で捉えることができる物理的環境とはべつに、デバイスを通じてしか知覚できないデータ環境も新たな「自然」として認識することになる。それがデジタルネイチャーだ。落合は、これからの政治やビジネスはこのデジタルネイチャーの利活用に敏感でなくてはならないと説く。

　この主張に異論はない。データ環境の重要性は仮想現実や拡張現実といった言葉で広く認識されている問題でもある。ただし落合はその誕生に、文明論的なカーツワイルのシンギュラリティと同じく、きわめて大きな文明論的な意味を見出している。そしてそこで展開される議論には倫理的な問題がある。

　落合によれば、デジタルネイチャーが誕生することで、人類は不安定な市場原理に頼らずとも資源を最適に配分できるようになる。生産力は飛躍的に増大し、人間ひとりひとりの特性を分析して最適な社会的役割を提供できるようにもなる。そこまでは問題ないのだが、つぎに落合は、そのとき人類は、ひとにぎりの先進的な資本家＝エンジニア層（AI＋VC層）と、残り大多数の労働から解放された大衆層（AI＋BI層）に分裂することになるだろうというのである。「AI＋VC」は、人工知能に支援されてイノベーションに挑むベンチャーキャピタル（VC）の担い手を意味する落合の造語で、「AI＋BI」のほうは、政府によるベーシックインカム（BI）で衣食住を保障されつつ、人工知能の勧めにしたがってそこそこの幸せを追求する生き方を意味するらしい。

落合陽一氏

夢想的で、政治的に危険なヴィジョン

　ぼくにはこの未来社会像はあまりに夢想的すぎるように思われるし、そもそも実現するとしても悪夢にしか思えない。それは人類を選良とそれ以外に分ける社会像にほかならないからである。

　しかも厄介なことに、落合は同書で、デジタルネイチャーは人類をまさにそのような古い道徳観や倫理観から解き放つものなのだと主張し、そんな懸念を振り払ってしまうのである。彼のヴィジョンによれば、未来の人類は、というよりもその一部の選良層（AI＋VC層）は、もはや個人の幸福のような小さな目標には関わらない。かわりに大きな視野でイノベーションを進め、「コンピュータがもたらす全体最適化による問題解決」によって種全体の幸福を実現する。だから、自由や平等のような古い考えにしばられる必要はないというのだ。落合は『デジタルネイチャー』で、来るべき世界においては「人間」の概念こそ「足かせ」なのであり、人々は「機械を中心とする世界観」に対応しなければならず、「全体最適化による全体主義は、全人類の幸福を追求しうる」のだから「誰も不幸にすることはない」とはっきりと記している（PLANETS刊、181、219、221頁）。行政にかかわる人間が抱く思想としては、これはいささかひとを不安にさせる。

　これもまた落合自身への批判ではない。彼のエンジニアおよびアーティストとしての業績には敬意を払いたい。しかし同時に、彼の描く未来像が、カーツワイルほど壮大ではないにしても、同じくらい夢想的で、政治的にはより危険でもありうることにはもう少し注意が払われてよいのではないかと思う。

　けれども2010年代には、そのような検討は行われず、政治家を含め、多くのひとが彼のヴィジョンを驚くほどすんなりと受け入れてしまっていた。それもまたぼくには、先進的な左派知識人の発言というだけで、多くの矛盾や暴力性が見過ごされてしまっていた20世紀半ばの状況を思い起こさせる。

第2の大きな物語が席巻する時代

　このように2010年代は、情報産業論を背景にした夢想的な文明論が、先進的な起業家やエンジニアだけでなく、政治やビジネスの現場にも大きな影響を及ぼした時代だった。

1. TOP
2. ニュース
3. ハラリと落合陽一　――シンギュラリティ批判――