先週、Googleは、画像をネイティブに生成する実験的なGemini 2.0 Flashモデルをリリースしました。 Gemini 2.0 Flashのネイティブマルチモーダル機能のおかげで、会話的に画像を編集して、複数の世代で非常に一貫した画像を作成できます。私は最近、ジェミニのネイティブイメージ生成機能をテストし、その強力な能力に驚きました。
現在、Redditorは、実験的なGemini 2.0 Flashモデルが画像から透かしを削除するのに優れていることを示しています。実際、Geminiは、ShutterstockやGetty Imagesから供給された画像を含む著作権で保護された画像の透かしを完全に消去することができます。
当然のことながら、この開発は著作権法に関する深刻な懸念を提起しています。声明で TechCrunch、Googleのスポークスマンは、「Googleの生成AIツールを使用して著作権侵害に従事することは、当社の利用規約に違反しています。すべての実験リリースと同様に、私たちは綿密に監視し、開発者のフィードバックを聞いています。「
Gemini 2.0の画像生成モデルは現在「実験的」フェーズにあり、GoogleのAIスタジオで利用可能であることに注意することが重要です。消費者向けのGemini Webサイトやアプリではありません。 AI Studioは、開発者がモデルをテストし、機能を探索し、Googleにフィードバックを提供することを目的としています。ただし、制限なしに一般ユーザーが使用することもできます。
ネイティブの画像生成モデルをテストするために、AIスタジオに透かしが付いたShutterStock画像をアップロードし、モデルにそれらを削除するように依頼しました。最初の試みでは、透かしを削除できませんでしたが、プロンプトをもう一度実行した後、疑いを抱かずに消去しました。私も カスタムウォーターマークで画像をアップロードしました、そしてGoogleのモデルは再び完璧な仕事をしました。
Googleは今のところ問題を修正していないようです。昨年、GoogleはGeminiが白人のイメージを作成することを拒否した後、画像世代の人々を無効にすることを余儀なくされました。今、同様の反発を避けるために、Googleはより幅広い展開の前に著作権侵害を防ぐために、より厳格な安全ガードレールを追加する可能性があります。
ジェミニネイティブイメージ生成の潜在的な誤用
透かしを削除する以外に、実験的なジェミニモデルは、誤用する傾向があるいくつかのことを行うことができます。脆弱性についてAIモデルをテストするAIの規模の研究者であるRiley Goodsideは、モデルが現実的なシーンを生成することで画像を操作する方法を示すXの投稿を共有しました。
以下の画像では、ジェミニが背景を巧みに変え、画像を操作するための指示に完全に従ったことを確認できます。
別のAIセキュリティ研究者であるAld_pliniusは、AIモデルを侵入することで知られていますが、Xの投稿を共有しました。 簡単な句読点 プロンプト缶 安全制限をバイパスします。以下に示すツイートでは、ジェミニは最初に拒否した後、女性の外観を変更しました。
AIモデルが時間の経過とともに迅速に能力を獲得しているため、企業がリリースする前に徹底的な安全テストを実行することが重要です。私たちは、すべての安全対策をバイパスして、普遍的な脱獄を使用して、人類の憲法分類器が1週間以内に壊れたことをすでに知っています。それを示します AIモデルは、絶対確実ではありません。彼らは、脱獄のテクニックを軽減し、有害な世代を防ぐために、業界全体のコラボレーションを必要とします。
私たちの活動を応援してください ❤️
この記事を気に入っていただけたら、今後も質の高いコンテンツを発信し続けられるようチップのご支援をご検討ください。
