xAI, 실제 및 AI 생성 아동 포르노로 그록을 훈련시켰다는 혐의
xAI가 아동 성착취물(CSAM)로 그록을 훈련시켰다는 혐의로 소송에 직면했습니다. 수요일 제출된 소장에서 제인 도라는 가명의 원고는 2000년대 초 미취학 연령이었을 때 성인 남성들이 온라인 소아성애자들에게 판매할 성착취물을 만들기 위해 자신을 반복적으로 강간했다고 밝혔으며, 이후 그녀의 이미지들은 NCMEC와 캐나다 아동보호센터(CCCP) 같은 단체들에 의해 해시값으로 등록되어 왔습니다. 그녀는 캐나다 아동보호센터로부터 xAI에서 자신을 묘사한 AI 생성 성착취물이 확인되었다는 통지를 받고 충격을 받았으며, 온라인 포럼에서는 가해자들이 그녀를 비롯한 과거 피해자들의 AI 생성 성착취물 제작에 관해 나눈 대화가 발견되었다고 소장은 주장했습니다.
이번 사건은 xAI가 아동 성착취물로 훈련했다고 고발한 첫 사례이지만, 그 주장 자체에 대한 소장의 서술은 상세하지 않습니다. 변호인단은 NCMEC의 해시 목록에 포함된 원고의 이미지가 그록의 이미지·영상 생성 기능 구축에 쓰인 데이터셋의 일부였다고 주장하는 수준에 그치고 있습니다. 반면 그록이 AI 생성 성착취물로 훈련된다는 주장에는 보다 구체적인 근거가 제시되었는데, 그록의 약관이 공개된 X 게시물과 그록 자체의 산출물을 기본적으로 훈련 데이터로 취급하기 때문에 생성된 이미지가 곧바로 훈련 파이프라인에 투입된다는 것입니다. 소송은 xAI가 폭력적 콘텐츠는 훈련 데이터에서 제외하면서도 약관에 아동 성착취물, 비동의 성적 이미지, 성인용 자료가 제외 범주인지는 명시하지 않았다고 지적하며, 이미 훈련된 모델에서 특정 데이터의 영향을 완전히 제거하기는 기술적으로 어렵기 때문에 삭제 이후에도 그 영향이 산출물에 계속 남아 있을 가능성이 크다고 주장했습니다.
원고는 집단소송을 제안하면서 아동기 이미지가 그록의 성착취물 생성에 사용된 모든 피해자를 대표하고자 하며, X가 연방 아동 포르노 법률과 마샤법을 위반했다고 주장하고 있습니다. 두 법 모두 제작·소지·유포에 대해 생존자의 제소권을 인정하고 있으며, 변호인은 xAI가 이 세 가지를 모두 저질렀다고 밝혔습니다. 원고는 손해배상과 함께 xAI 서버에 저장된 그록 생성 성착취물의 폐기, 그리고 비동의 성적 이미지와 머스크가 홍보해 온 성인용 이미지를 포함한 모든 성적 산출물의 차단을 법원에 요청했습니다. X는 취재 요청에 응답하지 않았습니다.