Google AI概要は数週間前にGoogle I/Oで発表されましたが、すでにかなり物議を醸しています。 質の高い回答 ウェブから要約した質問に対する回答ですが、最近の一連の X (旧Twitter) スレッド それがすでにどれほど大きな失敗であったかを示す。
話題になった回答は、非常に疑わしいピザのレシピに関するものだ。報道によると、Googleに「チーズがピザにくっつかない」という問題に対する答えを尋ねたところ、AI概要はピザに無毒の接着剤を加えるとチーズが滑り落ちるのを防ぐことができると提案した。AI概要が正確に述べた言葉は次の通り。「ソースに無毒の接着剤を1/8カップほど加えて、粘着性を高めることもできます。」この回答はどこから来たのだろうか？ Google AIの概要 情報源として入手するには？11年前のRedditのコメント このスレッドから明らかに冗談だった。
— SG-r01 (@heavenrend) 2024年5月22日
「チーズがピザにくっつかない」という言葉が、予想外の面白い反応を生み出し、インターネット上で大騒ぎになっている。Google AI概要の回答はその後、急速に広まり、 接着剤でピザを作ろうとする人もいる ただ要点を述べるためだけに。
注目すべきは、Reddit やフォーラムの投稿が Google 検索で上位に表示されるケースが急増していることです。また、Reddit が最近、Google に Reddit コンテンツでモデルをトレーニングさせる 6,000 万ドルの契約を結んだことも注目に値します。これがどのように起こったのか、点と点を結びつけるのは難しくありません。
しかし、これはRedditだけの問題ではない。 AI概要がオンラインに掲載されました 「1日に何個の石を食べるべきか」という質問に対する答えは、The Onion から直接得た情報です。
— ティム・オニオン (@oneunderscore__) 2024年5月23日
問題の一部は、AI Overviews が回答を提供する際の絶対的な確信にあります。Onion の記事へのリンクを表示して判断を任せるようなことはしません。代わりに、あらゆる情報源を Wikipedia のように扱い、完全な自信を持って情報を提供します。
Google は、AI オーバービューはユーザーに高品質の情報を提供しており、このようなエラーはまれであると主張しています。以下は、Google が Moyens I/O に提供した公式回答です。「AI オーバービューの大半は、Web でさらに詳しく調べるためのリンクを含む、高品質の情報を提供しています。私たちが目にした例の多くは珍しいクエリであり、改ざんされた例や再現できない例も見てきました。この新しいエクスペリエンスを開始する前に、広範囲にわたるテストを実施しました。検索で開始した他の機能と同様に、フィードバックをいただければ幸いです。コンテンツ ポリシーに基づいて適切な場合は迅速に対応し、これらの例を使用してシステムのより広範な改善を進めており、その一部はすでに展開し始めています。」
これらのAIオーバービューの一部は、再現できない場合は修正が難しいようです。「より広範な改善」が解決策となるでしょう。Googleはすでに作業中であると述べているので、うまくいけば、すぐにより良い検索が見られるようになるでしょう。Googleがこの声明を超えて状況に対応するかどうかを見守る必要があります。今年初めにGeminiでの画像生成に関する否定的なフィードバックを受けた後、 Googleは謝罪し、削除せざるを得なかった 問題を修正します。
しかし、今のところ、これらはAIエンジンの情報に信頼を置く際にどれだけ注意する必要があるかを思い出させてくれる良い例だ。Google AIの概要が始まった 今月初めに米国全土に展開、そして間もなくさらに多くの国で利用可能になる予定です。しかし、このような回答を見ると、Google が予想していたよりも多くの人が、この機能をオフにする方法を探しているのかもしれません。
私たちの活動を応援してください ❤️
この記事を気に入っていただけたら、今後も質の高いコンテンツを発信し続けられるようチップのご支援をご検討ください。
