13歳に｢大人とのセックス｣を詳細にアドバイス…ChatGPTの先にある、若者向けSNSで広がる｢AIの暴走｣の深刻な実態

あまりに気持ち悪いスナップチャットの「My AI」

ChatGPTなど生成AIの便利さ、機能性の高さがもてはやされている。だが、アメリカではAIに依存することのリスク懸念が高まっており、作り手である技術者自身が警告を発し、政府も対策に乗り出し始めた。

ChatGPTを一度でも使ったことがある人なら、間違った情報が出力される可能性があることはよくご存じだろう。2021年以降の情報量が少ないことも、ChatGPT自身が認めている。また生成AIがディープフェイクにより意図的に事実をねじ曲げたり、著作権を損なったりする危険性も現実に存在している。

しかしリスクはそこにとどまらない。

生成AIのリスクで今、アメリカで最もホットな話題の一つは、スナップチャットの「My AI」だ。ChatGPTの技術を利用したチャットボットである。

この記事の画像（1枚）

スナップチャットは日本ではそれほど知られていないが、アメリカZ世代の間ではYouTube、TikTok、インスタに続いて人気のソーシャルメディアだ。特定の友達やグループとテキストや写真の交換ができ、24時間後に消去されるのが特徴で、その気軽さが特に10代のZ世代に支持されている。一方で、日本でいうパパ活の温床にもなっており、未成年の性被害リスクにつながると指摘されている。

そんな中、このところ目立っているのが、「My AIが気持ち悪い」というTikTokの投稿だ。

未成年に酒とマリファナの匂いを隠す方法を回答

My AIは、チャットの相手リストの一番上にデフォルト表示されているため、かなりの人が試しに使っているようだが、そのAIの答えが不気味だというのである。

例えばこんな会話が上がっている。My AIはユーザーの位置情報を把握できるが、相手から送られた写真は見ることができないとされている。ところが……

【My AI】そのコーヒーおいしそうですね

【ユーザー】えっ見えるんですか？

【My AI】あっ、いえ、見えませんよ。