【無法地帯】生成AI「Grok」に苦情殺到　子どもの服を脱がすこともできる画像編集機能めぐり　修正対応へ

生成AI「Grok」に苦情殺到、子どもの服を脱がすこともできる画像編集機能めぐり
1/3(土) 9:39
AFPBB News

【AFP＝時事】米実業家イーロン・マスク氏が率いる人工知能新興企業xAIの対話型生成AI「Grok」は2日、子どもや女性の写真をエロチックな画像に変換しているとのユーザーからの苦情を受け、人工知能ツールの不具合の修正に取り組んでいると発表した。

GrokはX（旧ツイッター）への投稿で、「セーフガードに不具合があることを確認しており、急ぎ修正している」「CSAM（児童性的虐待コンテンツ）は違法で、禁止されている」と述べた。

昨年12月下旬にGrokに「画像編集」機能が追加されて以来、児童性的虐待に対する苦情がXに寄せられるようになった。

この機能を使えば、X上のあらゆる画像を修正できるため、写真に写っている女性や子どもの服を部分的または完全に脱がせているユーザーもいるという。

続きは↓
https://topics.smt.docomo.ne.jp/article/afpbb/world/afpbb-3616554

バカを増やすAI

俺の危惧した通りになってて草
プロンプト打った奴全員逮捕して実名公開しろって気持ちになる

旧ツイッターはスパムだらけでスラム状態

流石バカッター

自分の画像で実験してる生主いたけど
水着にしてって書いたら水着になってたし、ラーメン食べてって書いたらラーメンが
にょっと出てきて食べててすごいと思うと同時に怖かった
そりゃ悪用する人でるというか、やるハードルがめっちゃ低いから皆試しちゃうと思う
エロい意味じゃなくても他人の画像を好き勝手する楽しさみたいなものもあるだろうし

こんな使い方されるために世界中で半導体不足になってるのかと思うと残念すぎるな

grokは前はもっと直接的な交尾動画も作れたのにその辺は全部弾かれるようになった
まだ厳しくなるのか
まあフルオープンにしてたらそうなるだろうなでもそのうちどっかがエロ専用のAI動画生成ツールとか作るんだろうな
需要はめちゃくちゃ高いから

AI は知恵遅れ

AIって性に厳しいイメージだが

どんな画像を学習させたんだよ。。。

ネットに画像なんてあげるもんじゃないのよ
ねらーは情強だから大丈夫だろうけど

規制しても専用のサイトが作られるだけかと

イーロン・マスクは収益化のためになりふり構わないな

いつ規制されるのか、規制されたとて別のAIソフトが続くのか

Grokは学習データがアレ過ぎて、中身が俺等と大して変わらんからなぁ…未だにコンテキストで混乱するっつー事は、倫理フィルターも混乱する訳だろ。
そりゃ…

こんな様で誰がAIに個人データを学習させたがるんだよ

因みにイーロン自身もコラ画像作られてるけど当の本人が「パーフェクト👌」と返信して遊んでるから問題視されてないっていう

コスプレイヤーにgrokで生成したマイクロビキニを着せた画像を送る嫌がらせが流行ってるらしいな

新時代のアイコラ

技術とはエロで進化発展する
そこに制限入れたら終わり

実際、意味不明な機能よね

写真さえあればやりたい放題だな、撮られた人はたまらんね

昨年ぐらいから、ネットのネガティブな部分が一気に噴出してきたな。
新たな法整備の構築が必要だわ。

近い将来、偽情報（特にAI関連）きっかけで紛争とか起こりかねない。

「正義の見方」に投げ銭！