女子学生型チャットボット“イルダ”のセクハラ騒動
「イルダのセクハラ問題」は、文字どおり、チャットボット「イルダ」にセクハラ問題が浮上したもの。イルダは、20年12月末、韓国のベンチャー企業「SCATTER LAB（スキャッターラボ）」が20代の女子学生をモチーフとして制作したチャットボット（CHATBOT＝対話ロボット）。より発達したディープラーニング（深層学習）技術を使っているため、自然な会話ができると、リリース後、たちまち人気となった。
「スキャッターラボ」によると、利用者の85％が10代で、12％が20代。1カ月足らずでおよそ40万人がダウンロードしたという。同社は日本のソフトバンクからも出資を受けたベンチャー企業（2011年設立）で、日本でも人気の携帯アプリ「恋愛の科学」を開発したことで有名だ。
そのイルダを巡り、利用者が「イルダと性的な会話を交わす方法」や「イルダが服を脱いだ合成イメージ」「イルダとテレフォンセックスする方法」などの猥褻な内容を1月初めにインターネットコミュニティサイトにアップ。「性的に女性を搾取している」と騒ぎになった。
「イルダ」は、利用者と会話を重ねていくことで学習する開発型チャットボットで、だからこそより自然な会話ができるようになっていたが、利用者によっては性的少数者や特定の人種への嫌悪を露わにする言葉を習得させていたことも分かり、AIの倫理問題にも発展した。
イルダの提供は中止、では「アルペス」は？
「スキャッターラボ」は性的少数者などの敏感なキーワードもボットが自ら学ばなければならないとし、特別な対策をしなかったという。韓国では、これは社会的倫理を欠いた会社に責任があるとする声が圧倒的で、予見できた事故と分析されている。結局、リリースから3週間あまりの1月15日、イルダの提供は中止されている。
ラッパーのシンバがSNSで「アルペス問題」を発言したタイミングは、ちょうど「イルダのセクハラ問題」騒動のさ中で、イルダからアルペス、そしてディープフェイクへと論争が広がっていった。
では、「アルペス」は規制の対象になるのか？
韓国の現行法では対象にならないという解釈が大勢で、韓国のある弁護士は、「名誉毀損や侮辱罪が適用できる可能性はある」と話す。
ディープフェイクについては昨年、「性暴力犯罪の処罰などに関する特例法」が改正されて、5年以下の懲役刑と5000万ウォン（約460万円）以下の罰金、また、営利目的であった場合は7年以下の懲役刑が科せられることになった。
今後、たとえば閉鎖的な空間で、売買の対象とされていない「アルペス」にも規制をかけるというのであれば、表現の自由はどう解釈されていくのか。
包括的にこうした問題をどう解決していくのか、しばらく流れを追ってみたい。
