機密情報が部外者への回答に使われるかもしれない
ChatGPTはユーザーが入力する情報によって訓練されていくので、その機密情報が何かのきっかけで出力される可能性は十分ある。私たちも便利だと思っていろいろな質問をしているが、その内容はすべて、ChatGPTの訓練材料として与えてしまっているのだ。
このリークを受けてサムスンは今月始め、社内での生成AIの使用を一時的に禁止した。ChatGPTだけでなく、競合のマイクロソフトBing、グーグルBardも禁止の対象だ。今後はこれらに代わる自社専用のサービスを開発、使用するという。
実はこの一件は序の口で、ChatGPT以外にもAIをどんどん導入しているアメリカでは、信じがたい問題が起きている。著者は、出演するTOKYO FMのニュース番組「Tokyo News Radio～LIFE～」（毎週土曜朝6時）に、アメリカでAIのリスク回避に取り組む大柴行人(こうじん)氏を招き、その対策を聞いた。インタビューの内容を一部引用し、紹介する。
大柴氏はハーバード大学卒業後、研究室の教授と共にサンフランシスコでAIのリスクを管理する会社Robust Intelligence（ロバスト・インテリジェンス）を立ち上げた。クライアントには、決済大手のペイパル、4大会計事務所のデロイト、旅行サイトのエクスペディア、アメリカ国防総省、日本では楽天グループ、セブン銀行、NECなどにサービスを提供している。
黒人男性がAIサービス企業を訴えるケースも
大柴氏によれば、スナップチャットで起きているような倫理的な問題は、他の多くのAIでも発生しているという。
「アメリカでは人事や、クレジットカードのローンの審査をAIで自動化しようという動きが高まっています。ところがアメリカではこれまで、人事やローン審査を、黒人に対して優先的に行ってこなかった歴史がある。それらのデータをAIがどんどん学習してしまっているのです」
