404 Media의 새로운 조사 보도에 따르면 OpenAI는 ‘Project Lily’의 일환으로 실제 ChatGPT 대화를 검토할 계약직 직원 수백 명을 고용
검토자들은 프롬프트와 전체 대화를 읽은 뒤 향후 모델 개선을 위해 ChatGPT의 답변을 평가하고 비평하는 것으로 전해졌음
이 대화에는 매우 사적인 내용이 담기기도 함
사용자들은 연애 문제와 정신건강 문제부터 민감한 업무 정보와 개인정보까지 다양한 내용을 공유한 것으로 전해졌고
OpenAI는 대화가 검토자에게 전달되기 전에 개인정보를 제거하려고 노력한다고 밝혔지만 민감한 내용이 여전히 걸러지지 않을 수 있다는 점을 인정
계약직 검토자들에게 사용자의 ChatGPT 사용자명은 표시되지 않는 것으로 보이지만
한 프롬프트 검토자는 404 Media에 대부분의 사용자가 ‘어딘가의 계약직 직원’이 자신의 대화를 분석할 수 있다는 사실을 알고 있다고 생각하지 않는다고 말했음
Anthropic도 모델 개선을 위해 사람의 검토를 활용하고 있다고 확인했습니다.