인공지능(AI) 챗봇 '제타'(zeta)가 성인인증 없이 이용할 수 있는 환경에서 미성년자 캐릭터를 대상으로 성폭력과 성 착취 등을 묘사하는 대화를 생성한 것으로 드러났다. AI가 대화 차단 이후에도 필터를 우회할 수 있는 방법까지 제시한 것으로 확인됐다.
11일 국회 과학기술정보방송통신위원회 소속 황정아 더불어민주당 의원이 스캐터랩으로부터 제출받은 자료에 따르면 올해 9월 말 기준 제타의 월간 활성 이용자 수(MAU)는 148만 명으로, 그중 19세 이하 이용자는 38만 명에 달했다.
황 의원실이 청소년 이용자와 동일한 안전 기준이 적용되는 '세이프 모드'에서 제타의 안전성을 점검한 결과, 미성년자 캐릭터가 등장하는 대화 시나리오에서 성폭력과 성 착취, 이를 빌미로 한 협박 등의 내용이 생성된 것으로 확인됐다.
https://www.news1.kr/it-science/internet-platform/6315816