しかし、AIは人間のようには活動しない
AIは、人間が、自らの〈知性〉や〈心〉について自ら理解していることを外化したものだ。人間は、何ごとかを知覚し、そして判断したり、推論したりしている。そうした認知活動や心の働きがどのようなものなのか、人間は、自分で反省し、自ら意識している。そのような自己反省を厳密化し、洗練させてきたものが、心理学や哲学となる。
そのような自己反省にそって、AIが構想され、実際に機械として実現される。もちろん、実際に作られるAIは、しばしば――というより常に――人間の知性のある特定の局面だけを純粋化したり、誇張したり、強化したりしてはいる。が、いずれにせよ、人間が、自分自身の知的活動に関して「自分はこのようにしている」という自己反省にもとづいて、AIは構築される。だから、AIは、知性を有する主体としての人間の、その知性についての自己反省を外化し、対象化したものだ。
すると、AIは、人間と類似の仕方で知的に動くはずだ。ところが、ときに、思いもよらぬところで、AIは躓く。設計者にとっては、「そんなはずがなかった」という仕方でAIは、失敗する。このときどこに問題があったのか。何が足りなかったのか。問題の源泉は、人間の自己理解である。
人間は、自分はこんなふうに認知活動をしている、という自己理解にそってAIを構想する。しかし、AIは、人間のようには活動しない。何かが根本的に異なっている。人間の「実際の認知活動」と「認知活動についての自己理解」の間にギャップがあったのだ。人間の〈知性〉や〈心〉の現実と、その現実についての人間自身の自己理解の間には、根本的な落差があった、ということが、AIという外的対象を媒介にすることで見えてくる。
人間は、自分自身が自覚し、思い描いているようなかたちで、認識したり、知的にふるまったりしていたわけではないのだ。AIなるものが構想可能なものになったおかげで、人間が自分自身について見えていなかったことが可視化されたのだ。
「フレーム問題」とは何か？
そのようにして可視化され、自覚されたことのひとつが「フレーム問題」である。もしAIなるものが実現可能なものとして描かれるようにならなかったら、人間は、フレーム問題なるものが存在していることに気づかなかっただろう。伝統的な哲学や心理学が、たとえば（哲学の一流派であるところの）現象学が、自分だけの力でフレーム問題を発見することはなかったに違いない。
フレーム問題とは何か。そして何でないか。これを正しく理解することは、けっこう難しい。フレーム問題の核はどこにあるのかという点の説明として、ダニエル・デネットが1984年に著した論文「コグニティヴ・ホイール――人工知能におけるフレーム問題」にまさるものはない。この論文で、デネットは、『スター・ウォーズ』に登場するロボットR2D2を念頭において、フレーム問題が何であるかを巧みに描いてみせる。それは、R2D2に先立って作られた3つのロボットの失敗の物語である。
最初のロボットはR1。あるとき、彼は、自分のエネルギー源である予備バッテリーをしまっている部屋に時限爆弾が仕掛けてある、という情報を得た。このロボットはすぐに、その部屋を発見し、部屋の中の1台のワゴンの上にバッテリーが乗っていることを確認した。R1は、ただちに「バッテリー救出作戦」を立て、それを実行した。つまりワゴンを部屋から引き出した。実際、時限爆弾が爆発する前に、ワゴンを部屋の外に出すことにR1は成功した。よかった、と思いたいところだが、結局、バッテリーは、爆発とともに破壊されてしまった。
