🖥 AI 환각의 심각성과 Mira Source

AI의 의존도가 높아지는 중
중요한 업무에도 많이 활용됨
AI의 환각이 중대한 영향을 끼칠 수 있음

❓ AI의 환각이란 무엇인가?

• AI가 구라치는거라 보면 됨
• 근데 이게 버그가 아님
• LLM의 구조적 특징임

🤔 Mira의 등장

• 결국 외부 검증이 필요했음
• Mira가 그 역할을 함
• 문장을 쪼개서 여러 AI가 검증하게 함
• 올바른 모델에게 인센티브를 지급
• 이를 다중 AI 합의라고 부름

🔥 어떤 효과가 있나?

• AI 출력의 정확도 95%까지 상승
• 오류율 84%가 감소된 수치임
• 인간의 개입이 필요 없는 신뢰 레이어

✍️ 실제 자료 기반 요약은 괜찮겠지 생각했던 변호사가, 법률 요약서 AI로 써서 제출했다가 망할 뻔 했다는 사례도 있다네요.

Mira에서 새로 글 하나 올라왔는데 읽어보시고 야핑하시는 분들은 글 써보시면 될 듯!