💻 AI 제로 트러스트 검증의 시대

• 이젠 잘 쓴 글, 돌아가는 코드, 어려운 수학 증명 정도로 충분하지 않다.
• 퀄리티 보고 믿어주던 시대는 끝나고, 하나하나 다 까보는 제로트러스트 검증 시대로 넘어가는 중

• AGI 오기 전까진 사람 전문가만 잡을 수 있는 미세한 오류, 할루시네이션 찾는 게 진짜 돈이 된다
• 그래서 엔지니어, 수학자, 의사는 줄어드는 게 아니라 더 필요해진다

지금은 생성이 아니라 검증에서 병목 현상이 생긴다는 글인데, 조오오오금 별거 없는 제 생각을 곁들여보면

1️⃣ 더 필요한 게 아니라 "더 적게, 더 비싸게"

• 검증하는 건 생성보다 빨리 끝나는 일. 검증을 위해 브레인 스토밍을 하는 시대는 갔다.
• 결국 검증할 줄 아는 시니어 몇 명만 남을 것. 근데 주니어급의 일을 AI가 다 가져가는데 주니어의 성장은...? 결국 주니어도 AI를 통해 지식을 배우고 성장하게 될 텐데 그럼 굴레의 반복 아닐까?

• 검증도 AI 시키면 되지 않냐 하는데, 같은 데이터로 배운 애들은 틀릴 때도 똑같이 틀림ㅋㅋㅋㅋㅋㅋ 둘이 맞다고 해도 둘 다 틀릴 수 있음

2️⃣ 블록체인이 답일까??

• 누가 언제 어떤 모델로 만들었는지 위조 못하게 '기록'하는 건 블록체인이라 다시 주목받긴 할 것 같네요
• 근데 "기록했다"는 증명해줘도 "내용이 맞다"는 증명 못해줌. 틀린 거 올리면 위조 불가능한 오답이 남을 뿐...

• 근데 어쨌든 우리가 산 알트는 아님...^^

어쨌든 결국 AGI는 올 테고 그때가 되면 사람들은 귀찮아서 or 자신이 틀린 사람이 되는 게 두려워서 결국 검증도 AI에게 맡기지 않을까.....

인문학이 점점 더 중요해지는 시대가 온다. 다들 독서하러 가자!!!😱