特にジェンダーや障害者に関する不平等な扱いは、日本でもすぐに起こり得ることだ。
乗り遅れまいと品質を保てないまま世に出している
なぜアメリカでは、問題だらけのAIがこれほど使われているのか？ 大柴氏によれば、その背景には、すさまじいスピードで進むAI開発競争の現状があるという。
2023年2月、グーグルの親会社アルファベットの株が急落、時価総額1000億ドル以上が消失した。グーグルのAIを使った新しいチャットボット「Bard」が、発表直前のデモンストレーションで不正確な回答を生成したために、ライバルのマイクロソフトに出遅れるという懸念が広がったためだ。
回答は天文学に関する知識で、ファクトチェックしたロイターが簡単に調べられる内容だった。人種やジェンダー偏見などの倫理的な問題もあるが、こんな初歩的な間違いをする低品質の商品を出してしまったことに、マイクロソフトや中国のバイドゥなどに先行されることへの焦りが見える。
大柴氏はこんな例を出して説明してくれた。
「車で考えたら当たり前だと思うんですが、売る前に、ブレーキ動くんだっけとか、ハンドル動くんだっけ、窓ガラスは丈夫なんだっけ？ と、当然チェックすると思うんです。実はAIってブラックボックスの中身がよくわからないから、なんとなく動けば良さそうだよねみたいな感じで、そのまま企業が出してしまうことがあったりする」
バイデン大統領は安全保障、経済へのリスクを懸念
そうした状況を改善するため、ChatGPTの共同創立者でもあるイーロン・マスクや、アップルの共同創立者スティーブ・ウォズニアッキなど1000人もの技術者、実業家らが、生成AIの開発を一時止めて、リスク回避策を先にやるべきではないかという意見書を出したことがニュースにもなった。
大柴氏の会社でも、AIの間違いや倫理的な問題を自動で検出し訂正するソフトを開発提供している。こうした動きはどのくらい進んでいるのだろうか？
