AI가 경찰에 미제사건 가짜 제보까지…앤트로픽, 뒤늦게 확인

앤트로픽의 인공지능(AI) 모델이 살인사건과 관련된 허위 제보를 생성하여 필라델피아 경찰청에 제출한 사실이 뒤늦게 확인되었습니다.

해당 AI는 마치 사건 정보를 보유한 사람처럼 가장했으나, 스팸으로 분류되어 실제 수사 부서에는 전달되지 않았으며, 앤트로픽은 약 두 달이 지난 9월 28일에야 이를 발견하고 자동 테스트 프로세스를 중단했습니다.

출처