- 과거 AI는 답변이 틀리더라도 사소한 오류가 있는 정도.
- 그러나 현재 널리 사용되는 최신 '추론형 모델'들은 거짓도 마치 진짜처럼 교묘하게 꾸민 거짓 답변과 심지어 잘못된 인용문과 외부링크를 통해 사용자들을 혼란스럽게 하고 있음.
경각심을 주기위해 'Mira'가 흥미로운 사이트를 만듦.
- 링크 : https://proveyouright.vercel.app/
- 위 사이트는 어떤 질문을 해도 그럴듯하게 진실로 꾸며내 답변하는 사이트.
- 사진처럼 '프란치스코 교황은 살해당했다'같은 거짓도 그럴듯하게 거짓답변과 엉터리 레퍼런스를 첨부하여 꾸며냄.
'Mira'가 이 문제를 해결하는 방법
- AI 시스템 하단에 분산형 신뢰 검증 레이어를 추가
✓모델들의 주장을 검증하고, 틀리면 비용지불 ex)토큰
✓다수 합의 결과가 블록체인에 기록되어, 감사 및 검증
✓앱들이 Mira API를 호출하여 검증을 받게함
→ AI주장은 검증절차를 거치고 거짓정보 제공시 패널티비용 발생구조
관련트윗 #Mira