「一度もそんな格好してない」AI悪用で“露出画像”を作られたコスプレイヤー、恐怖と怒りを明かす

今年に入りXで物議を醸す生成AI「Grok」を使った迷惑行為。

第三者がアップした写真を卑猥な画像に改変し、無断で掲載するという悪質行為で、現在X上にはグラビアアイドルやコスプレイヤーの架空のビキニ写真や下着写真が急増している。

自分の写真が改変され...

X上でこの行為が急増したのは今月2日から。

被害に遭った20代のコスプレイヤーAさんは、年末に開催されたコミックマーケットでのコスプレ写真をアップしたところ、その返信欄に前述の“セクハラ画像”がアップされていた。

「スカート姿の普通のキャラだったのですが、その衣装のまま四つん這いで下着を露出させている私のAI生成動画が上げられていたのです。こんな卑猥なポーズをするキャラではないので本当に不快。勝手に私の写真を加工しないでほしい」（Aさん）。

Aさんは数人のユーザーから迷惑行為を受け、当人に「画像を消すように」指示したが、全く取り合ってもらなかったと明かす。それどころか、その後新たな卑猥画像をアップされたという。

イタズラ犯には外国人も

「ユーザー情報を見ると、日本人ではなく外国人ユーザーのよう。茶化すつもりでやっているのかもしれませんが、ふざけて取り合わないというのが信じられない」と憤りを見せる。

また同じく10代コスプレイヤーBさんも同様の被害にあった。

「コーヒーを持った普通の自撮り写真が、勝手にビキニ姿になっていました」と記者に状況を説明。「リプ欄に第三者からセンシティブ（性的）な写真や言葉が掲載されると、X側から『悪いユーザーを集めるアカウント』として評価が悪くなるという設定があると過去に聞いた。それ以降、ファンのみんなには『セクシー！』とか『バストがいいね』などのコメントを飛ばさないようにお願いしていたのですが、全く無意味になりました」と、ファンを増やすための「セルフブランディング」に大きなマイナスを生んでいると吐露する。

使いやすくなったGrokの画像生成

同様の被害報告するユーザーはこの正月休みに急増。

Aさんは「そんな格好やポーズを一度もしたことがないから、勘違いされるのが怖い。コスプレ仲間や他のカメラマンに『露出ポーズをする女』『ビキニをネットにアップする女』と誤解されないか不安。一部日本人ユーザーは指摘すると消してくれたが、同様の行為をする外国人ユーザーはまだまだ増えている」と続ける。

悪用され続けているのは、昨年Grokに搭載された画像編集機能。「アニメ風にして」「動画にして」など簡単な文章を入れるだけで、その通りのビジュアルが瞬時に数種類以上仕上がり、最近では日本語の発音もできるようアップデートされている。またGrokはXと連携しており、X上で「@grok」をつけて命令すれば勝手に生成された画像を貼り付けてくれる。

X側は厳しい対応を開始

この機能を使い、アイドルを水着姿にさせた日本人の漫画家が、先日大炎上したことは記憶にも新しい。

みんなが笑えるコメディ動画を作るならまだしも、第三者の写真をフェイクポルノにし公開することは許されてはならない。今回話を聞いたコスプレイヤーはみな普段は学生や会社勤めの一般人で、まだ未成年の女性もいる。

そんな状況を受け、Xの日本公式アカウントは4日、「違法コンテンツ（児童性的虐待素材＜CSAM＞を含む）が含まれる投稿に対して、投稿の削除、アカウントの永久凍結などを含む対応を行うことに加え、行政や法執行機関と協力するなどの措置をとります」と発信。

その上で「Grokを使用して違法コンテンツを作成したり、Grokに違法コンテンツの作成を促すなどの行為を行った場合、違法コンテンツをアップロードした場合と同様の措置がとられます」と、厳しい警告を行った。

この問題は今後沈静化するのだろうか。注目されている。

著者プロフィール

キモカメコ佐藤（@peyangtaneda）。1982年東京都生まれ、sirabee編集部記者。

政治・経済系出版社、『1UP情報局』『ねとらぼ』編集部などを経て現職。ブレイキングダウンをはじめとする各格闘技団体やプロレス、プロ野球のほか、コスプレ、メイド、秋葉原文化も取材してきたオタク記者。