"AI 개발을 멈추는 것이 더 위험하다"
- 어제자 블로그 통한 내 의견과 동일
"이 글에서 제 발언이 인용됐기 때문에 제 입장을 분명히 하고 싶습니다. 저는 지금 당장 AI 개발을 일시 중단하는 것이 오히려 AI가 인간의 통제를 벗어날 위험을 높일 수 있다고 생각합니다."
"하지만 문제는 우리가 AI 개발을 멈출 수 있는 기회를 사실상 단 한 번밖에 갖지 못할 가능성이 높다는 것입니다."
"AI 개발을 중단하더라도 컴퓨팅 인프라는 계속 늘어날 것입니다. 이는 휴전 기간을 이용해 따라잡으려는, 책임감이 덜한 다른 주체들에게 점점 더 많은 ‘불쏘시개’를 제공하는 셈입니다. 그리고 이들은 결국 다시 AI 개발을 시작하고 더 멀리 나아가려 할 것입니다.
막대한 단기적 경제적·군사적 이익을 가져다주는 기술의 발전을 전 세계적으로 억제하겠다는 합의는 극도로 깨지기 쉬울 것입니다."
https://x.com/dwarkesh_sp/status/2095580145603977413