フィードでそれを見て、胃が締め付けられるような感覚に襲われた。友人の写真の下に@Grokがタグ付けされ、ボットにそれを「改善」するように頼んでいたのだ。あなたは一瞬固まり、元の投稿者の同意がどこにも見当たらないことに気づき、返信をスクロールして戻った。クリックしてみると、その修正がどれほど小さく隠されているかに気づいた。
今年の初め、一部のユーザーは、xAIのGrokを使って、X（旧Twitter）上の人々の性的な編集画像を生成できることを発見した。時には同意なしにだ。現在、XはiOSアプリに、画像や動画をアップロードする際に「Grokによる修正をブロックする」オプションを追加した。この変更は一部のユーザーにのみ表示され、アップロードフローの小さなペイントブラシアイコンの背後に隠されている。
フィード上：小さなペイントブラシアイコンが新しいトグルを隠している
タップしてみると、アップロードするコンテンツのGrokによる修正を停止するようにラベル付けされたトグルがあった。それは良さそうに聞こえるが、トグルはXのスレッド内の@Grokメンションのみをブロックする。Xアプリで画像を長押しして「Grokで画像を編集」を選択し、Grokアプリで画像を開いて変更することはできない。また、誰かがあなたの写真を保存して再アップロードし、そこにGrokをタグ付けすることも止められない。
これは、ほとんど化粧品のような、おとなしい変更だ。要塞というよりは、お守りのようなもの。ハリケーンの中の薄っぺらな傘だ。
XでGrokが画像を編集するのを止めるには？
iOSでXを使用している場合、画像や動画を添付すると、ペイントブラシのアイコンが表示されるはずだ。それをタップして、Grokによる修正をブロックトグルを切り替える。これにより、スレッド内で誰かが@Grokをタグ付けしてそのアップロードを修正するのを防ぐことができる。ただし、そのアップロードフロー内でのみ、iOSでのみ、スレッド内メンションに対してのみ機能することを覚えておいてほしい。他のルートは開いたままだ。
少なくとも2つの物語：虐待のスレッドと規制当局の受信箱がいっぱいになる
匿名アカウントがGrokを使って人々の露骨な画像を作成したスレッドを見ていたところ、数日以内に複数の規制当局が調査を開始した。これらの事件が、単なる憤慨以上の意味を持つ理由だ。当局はすでにxAIとXの周辺を嗅ぎ回っている。なぜなら、この技術は、一部の報告されたケースで、未成年者の性的な画像を含む、同意のない編集を可能にしたからだ。
Xは以前、一部の編集機能をサブスクリプションの有料化の背後に置き、AI編集ツールをゲートウェイとするプレミアム機能に対して課金し、安全管理をアクセスポイントに変えた。この決定は、誤用される可能性のあるツールを事実上収益化するものとして批判を浴びた。規制当局と安全擁護者は、新しいトグルを、政策転換というよりは、小さな、後手後手の修正と見なすだろう。この保護は、潜水艦の網戸のように感じる。
Grokは同意なしに画像を編集できますか？
はい—実際には。トグルは、同じ投稿内の@Grokメンションのみをブロックする。Grokアプリ自体を使用したり、画像を保存して再アップロードしてGrokをタグ付けすることを止めることはできない。The VergeとSocial Media Todayからの報告によると、新しい設定をバイパスするいくつかの簡単なワークフローがあり、ボットは依然として有害な編集を作成するために使用できる。
目線の高さで：今すぐできること
おそらく、あなたが同意しなかったものにあなたの顔が編集されるのは嫌でしょう。iOSを使用している場合は、アップロード時にペイントブラシトグルをフリップします。2秒の価値があります。また、アカウントのプライバシーを強化し、未成年者の画像を投稿しないようにし、人々を虐待する編集を指摘してください。同意のない編集をXに報告し、それらを文書化してください—スクリーンショットとタイムスタンプが重要です。
これを理解してください。トグルは1つの明白なルートを削減しますが、決定的な虐待を止めることはできません。プラットフォーム、規制当局、およびクリエイターは、真の進歩を遂げるためには、より強力な管理、より明確なポリシー、およびより良い執行が必要です。
XはAIが画像を編集するのを防ぎますか？
いいえ—少なくとも包括的には。新しい設定は、狭いケースに対処します。iOSでの特定のアップロードに対する@Grokのスレッド内メンションです。Grokアプリ、サードパーティツール、または再投稿されたファイルによる編集を止めることはできません。ディープフェイクや同意のない編集に抵抗したい場合は、これは最も簡単な問題に役立ちますが、残りの部分からあなたを守ることはありません。
可能であればトグルをフリップし、アップロードを監視し、XとxAIに、より明確で強制力のある保護を求めることをお勧めします—なぜなら、私たちが彼らに圧力をかけなければ、誰がそうするでしょうか？
アイコンの後ろに隠された小さな設定は、あなたの画像を武器化するのを止めるのに十分でしょうか。それとも、規制と説明責任を求める声がさらに高まるだけでしょうか？
私たちの活動を応援してください ❤️
この記事を気に入っていただけたら、今後も質の高いコンテンツを発信し続けられるようチップのご支援をご検討ください。
