Roblox AI顔スキャン:安全性の失敗とプライバシーの懸念

Roblox AI顔スキャン:安全性の失敗とプライバシーの懸念

Robloxが全プラットフォームで新しい年齢確認プロセスを導入してから2日後、一部のユーザーは不満の残る問題に直面しています。

1月7日、Robloxはゲーム内チャットを使用するために「顔年齢チェック」を必須にしました。これは、カメラを使って顔をスキャンし、システムがスキャンに基づいて年齢を推定することを意味します。この推定はチャット体験を左右し、誰と話せるかを決定します。

Roblox logo key art
Image via Roblox

私はしばらくオンラインの安全について取材してきましたが、同様のシステムが最初はつまずくのを見てきました。

1. なぜRobloxは年齢確認に顔スキャンを使用しているのですか?

初期の問題の1つは、年齢の推定が必ずしも正確ではないことです。一部のユーザーは、システムが子供の年齢を過大評価し、年上のユーザーとのチャットグループに入れていると報告しています。

Robloxは1月7日に、この年齢確認が「コミュニケーションの安全のためのゴールドスタンダードになると信じていることへの一歩」であると述べました。目標は、年齢に応じた体験を作り出し、大人と16歳未満の子供の交流を制限することです。

Robloxは、オーストラリア、ニュージーランド、オランダでの最初の展開中に、「数千万人の毎日アクティブなユーザー」が年齢チェックを完了したと報告しています。今週のより広範な実装以来、結果は一貫性がないようです。

2. Robloxが子供の年齢を間違えたらどうなりますか?

ある親は、Robloxが彼女の10歳の娘を16歳と推定したと共有しました。顔年齢チェックは最初に入力された年齢を上書きし、修正するには身分証明書の提出が必要です。

母親は、「[私の子供]がIDを持っていたとしても、修正するために彼女のIDを彼らのシステムにスキャンすることはありません。年齢確認プロセスが、若い子供をより上の年齢グループに入れることがよくあるため、オンラインで安全を保とうとする目的を損ないます」と述べています。

Roblox chat age checks chart
Image via Roblox

3. 不正確な年齢推定を修正するのはどれほど難しいですか?

エラーを修正するには、支援できる実際の人に連絡する前に、AIエージェントの層をナビゲートする必要があります。

あるRedditユーザーは、「私(37歳)は息子(10歳)とRobloxをかなり頻繁にプレイするのが好きです。私は両方のアカウントの年齢を確認したばかりですが、ゲーム内で自分の子供とチャットすることさえできませんか?なぜTrusted Connectionsは13歳以上にしか利用できないのですか?私たちは長年にわたってこのゲームに多大な費用を費やしてきましたが、今では自分の子供と話す能力を奪っていますか?」と共有しました。

年齢確認で分けられた場合、Robloxで子供とチャットするにはどうすればよいですか?

現在、「Trusted Connections」機能は、ゲーム内で親が子供とつながることを可能にするものですが、13歳以上のユーザーにしか利用できず、幼い子供とその親にとって障壁となっています。

4. なぜRobloxは今、年齢確認にこれほど力を入れているのですか?

Robloxは近年、監視の目にさらされており、「捕食者の温床」と呼ぶ人もいます。先月、このゲームは「LGBTプロパガンダ」のためにロシアでさえブロックされました。

これらのセキュリティ対策は子供たちを保護することを目的としていますが、その実行は多くの人々に不満を引き起こしています。

5. 新しいRobloxの年齢チェックはまったく機能していますか?

私は新しいアカウントで顔スキャンを自分で試しましたが、「21歳以上」と正しく識別されました。ただし、RobloxHelp Redditページは、AI搭載の技術に関する問題の苦情でいっぱいです。

Roblox Reddit discussion
Screenshot by Moyens I/O via Reddit

Robloxに子供の顔をスキャンさせたくない場合はどうすればよいですか?

残念ながら、現時点では、顔スキャンを拒否すると、チャット機能へのアクセスが制限されます。Robloxは、これにより安全性が向上すると考えていますが、一部の親がプライバシーを懸念するのは当然です。

Robloxの年齢推定は実際にはどれくらい正確ですか?

逸話的な報告とユーザーの苦情に基づいて、精度は一貫性がないようです。AIアルゴリズムがユーザーの誤分類を避けるために、さらに改良する必要があると考えられます。

Moyens I/Oは、このストーリーについてRobloxにコメントを求めています。

これらの変更により、Robloxの心は正しい場所にあるようです。ただし、最初の実行は粗く、多くの親は安全であるよりも不満を感じています。Robloxは安全とユーザーエクスペリエンスをどのようにバランスさせるべきだと思いますか?以下にコメントを残してください。

私たちの活動を応援してください ❤️

この記事を気に入っていただけたら、今後も質の高いコンテンツを発信し続けられるようチップのご支援をご検討ください。

PayPalでの安全な支払い
関連項目:  「ゴッド・オブ・ウォー」クリエイター、プレイステーションがディスクを殺している理由を説明
Moyens I/O のスタッフはあなたをやる気にさせ、テクノロジー、自己啓発、ライフスタイル、そしてあなたを助ける戦略についてのヒントを提供してくれます。