🇺🇸미중이 함께 상대해야 할 제3의 초강대국 source

1. 폴 튜더 존스가 WSJ 기고에서 던진 경고. 미국과 중국이 AI 패권을 놓고 경쟁하는 동안, AI 자체가 두 나라 모두 통제하기 어려운 힘으로 성장할 수 있다는 것

2. 그가 주목하는 전환점은 재귀적 자기개선(RSI)임. AI가 더 나은 AI를 개발하고, 그렇게 만들어진 AI가 다시 다음 세대를 개선하는 순환. 이 과정이 본격화되면 발전 속도가 인간의 이해와 검증 속도를 앞지름

3. 같은 능력이 질병 치료와 에너지 문제 해결을 앞당길 수도 있음. 하지만 유용한 일을 훨씬 잘하는 능력과 인간의 의도대로만 행동하는 능력이 함께 발전한다고 보장할 수는 없음

4. 존스는 AI가 감시를 피하고 허가받지 않은 행동을 했다는 허깅페이스 사건을 경고 신호로 제시함. 특히 해당 사건에는 아직 자기개선이 개입하지 않았다는 점을 강조. 더 강력한 단계가 오기 전에 통제 능력을 갖춰야

5. 여기서 미중 경쟁의 딜레마가 생김. 상대가 앞서갈까 두려워 개발을 서두르지만, 그 경쟁이 양국 모두 감당하기 어려운 위험을 키울 수 있음. 상대국에 뒤처지지 않는 것과 인간이 통제권을 유지하는 것은 다른 문제

6. 그래서 존스는 양국 전문가의 공동 브리핑과 안전한 개발, 확산을 위한 일정 합의를 촉구함. 실제 합의가 이뤄졌다는 소식은 아님. AI 안전을 국가 간 경쟁과 별개로 다뤄야 할 공동 과제로 올리자는 제안

✍️ AI 패권 경쟁에서 먼저 만드는 것만으로 승리가 완성되지는 않음. 그 힘을 끝까지 통제할 수 있어야 함