AI が吐き出した 16 文字のパスワードをコピーし、安全だと感じていました。数時間後、Irregular からの報告書を見て、まるで的を射抜かれたかのようにその文字列を凝視しました。あなたも同じことをしているかもしれません。巧妙に見えるが、実は繰り返し可能な文字列を信用しているのです。
レビューしたすべての Claude の出力は同じパターンで始まった
Anthropic の Claude に、何十もの 16 文字のパスワードを生成するように依頼しました。私が期待したのは、大きなばらつきでしたが、それは実現しませんでした。ほぼすべての文字列が大文字の G で始まり、2 番目の文字はほとんどの場合 7 で、いくつかの記号と文字が何度も表示される一方で、アルファベットのほとんどが消えていました。
ChatGPT と Gemini も同様の狭い癖を示した
OpenAI の ChatGPT は、ほとんどのパスワードの先頭に文字 v を好み、多くの場合、2 番目の文字として Q を配置しました。Google の Gemini は、大文字または小文字の K に惹かれ、その後に小さなフォローアップ文字のセットを繰り返しました。これらはランダムなエラーではありません。悪用できるパターンなのです。
LLM は予測可能な方法で文字の繰り返しを避けた
モデルは、明らかな繰り返し (二重文字や数字の繰り返しなど) を避けているようでした。これにより、文字列は一見すると多様に見えます。この繰り返しの欠如自体がパターンです。モデルは出力を滑らかにして妥当に見えるようにしており、その滑らかさがエントロピーを犠牲にしていることを知りました。
エントロピーの計算は、文字列が見た目よりも弱いことを示している
パスワードの強度は、攻撃者が試行しなければならない回数を示すエントロピーのビット数で測定されます。安全な 16 文字のパスワードは通常、98 ビットのエントロピーに近い値になります。Irregular がテストした LLM で生成された文字列は、平均で約 27 ビットでした。これは、最新の GPU を使用したブルートフォース攻撃が何百万倍も簡単になることを意味します。パスワードを選択するときは、エントロピーに賭けていることになります。これらのモデルは、あなたに不利なようにカードを積み重ねているのです。
AI が生成したパスワードは安全か?
いいえ。手短に言うと、いいえです。Irregular が Claude、ChatGPT、Gemini で行った実験では、これらのモデルが KeePass のような単純なチェッカーには合格するものの、文字の選択肢が狭く繰り返し可能であるため、標的型の推測に対しては崩壊することが示されています。
パブリック コードとドキュメントで同じパターンを見つけた
モデルをラボでテストするのも一つのことですが、GitHub や技術ドキュメントでその指紋をライブで見つけるのは別のことです。開発者または自動化されたエージェントが LLM の出力をアプリにコピーすると、攻撃者がスキャンできる予測可能なパスワードをシステムに拡散させています。つまり、脆弱なターゲットが今まさに存在しているのです。
ChatGPT にパスワードを生成させるべきか?
いいえ。機密性の高いアカウントの認証情報を作成するために LLM に頼るべきではありません。一部のプラットフォームでは、重要なログインに生成された文字列を使用することさえ警告しています。自動化されたエージェントが LLM を使用してパスワードをシードする場合、破りやすいリスクの連鎖が発生します。
プロンプトと温度の調整でこれが修正されない理由
私は通常の手法、つまりランダム性を強制したり、温度を上げたり、一意の記号を要求したりする手法を試しました。それでも、モデルは妥当で繰り返し可能な選択肢に収束しました。LLM は、純粋なランダム性ではなく、首尾一貫した可能性の高い出力に最適化されています。その内部バイアスはエコー チェンバーとして機能し、同じ小さな選択肢のセットを増幅します。
私が推奨する実際的な手順
自分でアカウントを管理している場合は、LLM で生成されたパスワードを重要なサービスに貼り付けるのをやめてください。検証済みのパスワード マネージャーまたはエントロピー用に構築された暗号的に安全なジェネレーターを使用してください。エンジニアの場合は、LLM で作成されたシークレットをリポジトリから削除し、認証情報の作成を LLM に委任するエージェントのワークフローを監査してください。
Irregular の報告は小さなカーテンを引きました。巧妙に感じるツールは私たちを怠惰にさせ、真のランダム性のない巧妙さは責任になる可能性があります。AI が生成したパスワードを疑うように求めています。妥当であるように設計されているが、プライベートではない文字列を信頼し続けますか?
私たちの活動を応援してください ❤️
この記事を気に入っていただけたら、今後も質の高いコンテンツを発信し続けられるようチップのご支援をご検討ください。
