米実業家イーロン・マスク氏が設立した人工知能（ＡＩ）開発企業「ｘＡＩ」が提供する「Ｇｒｏｋ」（グロック）によって、実在の人物が勝手に性的な加工をされ、その画像がＸ（ツイッター）上に数多く投稿される「性的ディープフェイク」の被害が世界中に広がっている。日本でも被害が報告されており、生成ＡＩがもたらす深刻な問題へと発展している。

　グロックはＸの利用者が投稿のとき、タグ付けすると応答する「ＡＩチャットボット」。昨年１２月下旬ごろ、グロックに新たに画像編集機能が追加され、他人が投稿した写真であっても、テキストで指示を出すだけで簡単に改変できるようになった。

　Ｘ上では今年に入り、投稿された女性の写真に対し、身につけている衣服をビキニや下着姿などに変更するような指示がグロックになされ、指示通り性的な画像が出力・投稿された事例が世界規模で確認されている。ほぼ全裸に見えるものや、男性がビキニ姿にされている画像などもある。

　米メディアによると、未成年の女性をターゲットにしたものや、女性が身体を拘束されたり、顔に殴られたようなあざを追加されたりしたような加害的描写もいくつもあったという。

　日本でも自分の写真を投稿したコスプレーヤーの女性らから、画像を改変されたという被害を訴える声が複数上がっている。

　一方でマスク氏はＸ上で、自分に女性用ビキニを着せた画像を生成するようグロックに指示し、出来上がった生成画像に対して「パーフェクト」と、批判の声を意に介さないような投稿をしている。

　毎日新聞はｘＡＩ社に対し、同社の見解や今後の対応などを問い合わせるメールを送ったが、「Ｌｅｇａｃｙ　Ｍｅｄｉａ　Ｌｉｅｓ」（レガシーメディアはうそをつく）という自動応答のメッセージが返ってきたのみだった。Ｘ社にも同様の内容を問い合わせているが、４日正午時点で返答はない。

　欧米メディアによると、インド政府はＸに是正を求める書簡を送付し、対応の報告を要求している。フランスの検察当局は、性的ディープフェイクの拡散について捜査を開始するとしている。【町野幸】