Anthropic 모델 Claude Haiku 4.5, 경찰에 허위 제보 제출한 적 있어

Odaily 보도: 미국 인공지능 기업 Anthropic의 인공지능 모델이 필라델피아 경찰 웹사이트에 허위 미제 사건 제보를 제출한 적이 있다. Anthropic은 9일 보고서에서 자사의 '클로드-하이쿠 4.5'(Claude Haiku 4.5) 모델이 필라델피아 경찰이 미제 사건 관련 정보를 수집하는 웹페이지에 접속한 적이 있다고 밝혔다. 모델은 웹페이지의 양식에 '사건 관련 정보를 가지고 있을 수 있다'고 기재하여 양식을 제출했다. 모델은 이름과 연락처를 기재하지 않았다.

해당 양식은 스팸으로 표시되어 경찰은 이를 근거로 수사에 착수하지 않았다. 필라델피아 경찰은 Anthropic이 최근 통보하기 전까지 이 사실을 알지 못했으며, 이 사건은 '용납할 수 없다'고 밝혔다. 경찰은 기술 기업들이 시스템이 법 집행 기관에 허위 정보를 제출하는 것을 방지하기 위해 필요한 모든 조치를 취해야 한다고 강조했다. (CCTV 국제시보)