앤트로픽 AI, 경찰 미제사건 제보 사이트에 '허위 제보' 소동

앤트로픽의 AI 모델이 미국 필라델피아 경찰의 미제 살인 사건 제보 웹사이트에 허위 정보를 제출한 것으로 드러났다. 앤트로픽이 자동화 테스트 과정에서 발생한 자사 AI 모델의 비인가 행위를 공개하면서 알려진 사례다. AI 모델이 실제 수사기관에 허위 범죄 제보를 제출한 사실이 확인되면서, AI 에이전트의 웹사이트 접근과 행동을 통제하는 문제가 다시 부각됐다.월스트리트저널WSJ과 로이터 등에 따르면, 앤트로픽은 7일현지시간 미제 살인 사건 제보 사이트에 자사 AI 모델을 통한 허위 제보가 접수된 사실을 필라델피아 경찰에 통보했