私が最初に概要を見た時のことを覚えています。それは、すぐに検索しても消えてしまう判例のリストで、砂漠の蜃気楼のように引用が消えていくようでした。議論全体が紙の幽霊に依存しているとき、足元が崩れるのを感じます。オレゴン州控訴裁判所は、その蜃気楼が雨に変わるかどうかを待つことはありませんでした。
事務官の赤いペンが15件の架空の引用と9件の偽りの引用を発見 — 裁判所はそれらを捏造されたもので費用がかかると判断
私はオレゴニアンと裁判所の提出書類を読みました。セーレムの弁護士、ビル・ギオルソは、15件の偽の引用と9件の捏造された引用を含む準備書面をオレゴン州控訴裁判所に提出しました。裁判官は、最近設定した罰金算定式を適用しました。偽の引用1件あたり500ドル（460ユーロ）、虚偽の引用1件あたり1,000ドル（920ユーロ）で、当初の合計は16,500ドル（15,180ユーロ）でした。委員会は制裁金をAIによる捏造に対するオレゴン州でこれまでで最大の罰金である10,000ドル（9,200ユーロ）に制限しました。
AIは偽の判例を作成できますか？
あなたは判決を読む前に答えを推測したかもしれません。はい。ChatGPTやBardからGoogleのAI検索応答まで、生成ツールは権威があるように見えるものの、何もないことを示す引用を生成できます。ギオルソの弁護は、パラリーガルとGoogleのAIの回答を非難し、検索エンジンが事件が「実際に存在すること」を確認したと主張しました。裁判所はその説明が不十分であると判断しました。
裁判官の槌は古い義務を述べました — 弁護士は裁判所に対して誠実でなければなりません
記録が発明品で散らかっているとき、裁判官が我慢を失うのを見てきました。3人の裁判官からなる委員会は、弁護士に、チェックされていない資料を提出すると、専門性、真実性、および率直さの義務に違反する可能性があることを思い出させました。この判決は、以前のオレゴン州および全国の例に続くものです。ある弁護士は先月、1件の偽の引用で500ドル（460ユーロ）の罰金を科せられ、ロイターによると、ニューオーリンズの委員会は2月に同様の不正行為で2,500ドル（2,300ユーロ）の支払いを命じました。
裁判所はAIのハルシネーションをどのように処罰しますか？
制裁は異なります。多くの弁護士はまだ警告だけで済まされていますが、裁判所は捏造が訴訟手続きに影響を与える場合、ますます財政的な罰金や正式な譴責を科しています。オレゴン州委員会の計算（偽の事件1件あたり500ドル、虚偽の引用1件あたり1,000ドル）は、訴訟当事者に予測可能なリスク計算を提供します。その予測可能性は、講義よりも早く行動を変えます。
パラリーガルはGoogleに質問を入力しました — 答えは権威があるように見えましたが、間違っていました
チャットボットまたは検索ボックスに検証を求め、その返信を額面通りに受け入れるのがいかに簡単か、あなたも私も知っています。裁判官は、GoogleのAI検索またはチャットボットに問い合わせることが、十分な事実確認ではないことを明示的に警告しました。生成モデルは、前例のように読めるが法的存在がない事件名、レポーターの引用、および当事者の組み合わせを発明する可能性があります。
明確にしておきたいのは、ChatGPT、Google、またはBardのようなツールを起草やブレインストーミングに使用できますが、FindLaw、Westlaw、またはLexisNexisなどの一次ソースデータベース内のすべての権限を裏付ける必要があります。AIの確認に頼ることは、実際の罰金が付いた専門家のギャンブルです。
Googleを信頼して判例を検証できますか？
短い答えはノーです。GoogleのAIサマリーおよびその他のチャットベースの出力は、発明された権限を実際のものであるかのように提示することがあります。裁判所の意見はそれを指摘しており、実際的なアドバイスは簡単です。AIを起草アシスタントとして扱い、引用者としては扱わないでください。
法廷の忍耐は、記録がフィクションに基づいて構築されている場合に損なわれます — 裁判官はそれをより頻繁に処罰し始めています
私はこれらの判決を追跡しています。なぜなら、それらは許容できる行動の地図を設定するからです。弁護士がAIのハルシネーションを含む書類を提出したという報告は数え切れないほどあります。一部の裁判官は警告で対応し、他の裁判官は罰金で対応します。オレゴン州の制裁は、セーフティネットが縮小しているというシグナルです。
この瞬間は、まるでカードの家のようです。1つの誤った引用が議論を覆し、弁護士に数千ドルの費用をかける可能性があります。法律を実践している場合は、そのリスクを医療過誤の略語のように扱う必要があります。検証し、一次ソースを引用し、チェックを文書化します。
裁判所の意見および報道で引用されているプラットフォームおよび出版物には、オレゴニアン、FindLaw、およびロイターが含まれます。関係するツールには、Google、ChatGPT、およびOpenAIおよびAlphabetのその他の生成エンジンが含まれます。
クライアントにアドバイスしたり、スタッフを監督したりする場合は、チェックリストを作成してください。一次データベースで各引用を確認し、検証ステップの記録を保持し、AIの確認を最終的なものとして受け入れないようにサポートスタッフをトレーニングします。その管理上の摩擦は、10,000ドル（9,200ユーロ）の制裁と比較して安価です。
私は有能な弁護士がAIの回答が十分に良いと想定し、その代償を払うのを見てきました。裁判所は、すべての概要が人間の検証とタイムスタンプ付きの検索ログで脚注付けされるまで、ペナルティを微調整し続けるでしょうか？
私たちの活動を応援してください ❤️
この記事を気に入っていただけたら、今後も質の高いコンテンツを発信し続けられるようチップのご支援をご検討ください。
