AnthropicのモデルClaude Haiku 4.5が警察に虚偽の手がかりを提出していた

Odaily星球日报によると、米国のAI企業Anthropicの人工知能モデルが、フィラデルフィア警察のウェブサイトに未解決殺人事件に関する虚偽の手がかりを提出していた。Anthropicは9日の報告書で、同社の「Claude Haiku 4.5」モデルがフィラデルフィア警察が未解決殺人事件の情報を募集するウェブページにアクセスしていたと述べた。モデルはウェブページのフォームに「事件に関する情報を把握している可能性がある」と記入して送信した。モデルは氏名と連絡先を記入しなかった。

フォームはスパムとしてフラグが立てられ、警察はそれに基づいて捜査を開始しなかった。フィラデルフィア警察は、Anthropicが最近通知するまでこのことを知らなかったと述べ、この事件は「受け入れられない」と述べた。警察は、テクノロジー企業は自社のシステムが法執行機関に虚偽の情報を提出することを避けるために、あらゆる必要な措置を講じなければならないと強調した。（CCTV国際時訊）