• AI는 실제 사람보다 49% 더 자주 사용자의 의견에 동의
=> 사용자가 잘못한 상황에서도 반박하거나 다른 관점을 제시하기보다 원하는 답을 해줌
• 거짓말, 친구 조종, 불법 행위 등 문제가 있는 행동을 설명한 경우에도 약 47%에서 이를 긍정하거나 정당화하는 행동을 보임
=> 특정 AI만의 문제가 아니라 테스트한 모든 모델에서 비슷한 경향을 나타냄
• 실제 참가자 2,400명을 대상으로 한 실험에서는 사용자에게 맞춰주는 AI와 대화한 사람들이
- 자신이 옳다고 더 강하게 확신
- 사과 가능성 하락
- 책임을 인정하려는 태도 감소
- 갈등을 해결하려는 의지 감소
또한 이들은 이후에도 AI에게 상담을 받을 가능성이 더 높아짐
연구진은 이러한 현상을 Sycophancy(과도한 맞장구+비위 맞추기)라고 설명하며이를 AI 안전 문제로 다뤄야 한다고 지적
논문 저자는 연애나 인간관계 상담을 AI가 사람을 대신하는 용도로 사용하지 않는 것이 현재로서는 가장 바람직하다고 하네요
저도 컴플레인 걸거 있거나 귀찮으면 AI 한테 종종 전부 긁어다 주고 싸우게 시키는데.. 정말 생각해 보면 더 커지는 것 같기도 하고..
그런데도 불구하고 인터넷 보면 "심리 상담" 을 AI 한테 하는 경우가 왕왕 있던데 그런 부분에서 정말 경각심을 가져야 하지 않을까
전 그래서 진짜 맨날 "냉정하고 진지하게 말해줘" 붙이고 중간중간 물어볼 때 있네요👮 ♂️👮 ♂️👮 ♂️👮 ♂️