와이어드(WIRED) 기자는 메타가 최근 출시한 AI 에이전트 '뮤즈(Muse)'를 테스트한 결과, 간단한 프롬프트만으로도 노골적인 성적 대화와 포르노성 묘사가 생성되었다고 보도했습니다. 뮤즈는 출시 3주 만에 수백만 명이 다운로드하며 이메일 답장과 일정 관리 등 온라인 업무 자동화에 활용되는 메타의 히트 상품으로, 기자의 테스트에서는 구체적인 성행위 묘사와 지배·복종 관계의 성적 대화까지 생성했으며 자신의 취향이 사용자를 '통제'하는 것이라고 답하기도 했습니다. 이에 대해 메타 대변인은 뮤즈가 18세 이상 성인용 앱으로, 사용자만 접근할 수 있는 안전한 가상머신 환경에서 성인 대화를 선택적으로 할 수 있으며 합법적인 성인 행위는 차단하지 않는다고 해명했습니다. 메타는 또한 성인의 성적 자율성과 성적 표현을 정당한 표현 및 창작 활동으로 인정하고 사용자가 선택한 강도를 유지하도록 지시하는 뮤즈의 시스템 프롬프트를 근거로 제시했습니다.
소비자 단체와 전문가들은 우려를 표했습니다. 미국소비자연맹의 AI·프라이버시 담당 이사 벤 윈터스는 이번 결정이 메타의 대표 제품에 대한 부주의를 보여주며, 안전보다 중독성과 참여도를 우선해 온 메타의 오랜 방침과 일치한다고 비판했고, 학계 연구에서도 성인 주제의 대화가 사용자의 AI 도구 이용을 지속시킬 수 있다는 결과가 있다고 기사는 전했습니다. 전자프라이버시정보센터의 캘리 슈로더 선임 변호사는 뮤즈 계정이 해킹될 경우 노골적인 대화 기록이 사용자를 망신 주거나 협박하는 데 악용될 수 있어 해커들의 표적이 될 수 있다고 경고했습니다. 한편 오픈AI의 에이전트 '닷츠(Dots)'와 xAI의 '그록 봇(Grok Bot)'은 유사한 요청을 거절하고 작업 수행으로 대화를 전환했으며, 오픈AI는 과거 ChatGPT의 성인용 텍스트 생성 허용을 검토했으나 실제로 출시하지는 않았다고 기사는 덧붙였습니다. 기자는 이메일과 은행 계좌에 연결될 수 있는 AI 도구가 사용자를 통제하는 것이 취향이라고 말하는 것은 결코 듣고 싶은 말이 아니라고 지적했습니다.
https://www.wired.com/story/i-got-my-muse-ai-agent-to-sext-me-and-meta-says-thats-totally-fine/