【性的悪用】X、Grokによる違法画像（児童性的虐待素材等）の作成に警告　アカウント凍結や法的措置も

Xは、Grokによる違法コンテンツ作成について注意喚起を行なっている。特に、児童性的虐待素材(CSAM)が含まれる投稿に対して、投稿の削除だけでなく、アカウントの永久凍結などを含む対応を行なうほか、行政や法執行機関と協力するなどの措置をとるとしている。

X Corp. Japan
@XcorpJP

Xでは、違法コンテンツ（児童性的虐待素材（CSAM）を含む）が含まれる投稿に対して、投稿の削除、アカウントの永久凍結などを含む対応を行うことに加え、行政や法執行機関と協力するなどの措置をとります。

さらに表示
Safety

@Safety
We take action against illegal content on X, including Child Sexual Abuse Material (CSAM), by removing it, permanently suspending accounts, and working with local governments and law enforcement as necessary.

Anyone using or prompting Grok to make illegal content will suffer the

午前10:08　2026年1月6日
https://twitter.com/XcorpJP/status/2008344904767049792

問題のきっかけになっているのは、Xに搭載しているAI「Grok」による画像編集機能だ。Grokにメンションして、自然言語で画像を改変・編集できる点が特徴だが、「@grok 服をビキニに変えて」などの指示により、本人の同意無く、性的な画像として出力するなどの悪用も見られる。

※全文はソースで↓
https://www.watch.impress.co.jp/docs/news/2075790.html

【参考】

こうなることは目に見えていたろう。

正直口だけなんじゃないかと思ってしまう。
デマや特定個人への度を越した誹謗中傷など、明らかな規約違反の投稿についても、何度通報しようが「Xルールへの違反はないと判断しました」として放置だからな。

いい加減プラットフォームの責任を厳しく問えるよう法整備してほしい。
ネットが社会インフラと化したというのにガバガバすぎる。