A: '빠른 도래' 주장은 종종 자기 개선 문제를 이분법적으로 단순화합니다. 즉, 어느 순간 AI가 자신을 개선할 수 없다가 다음 순간 가능해진다는 식입니다. 저는 이것이 점진적인 스펙트럼이라고 생각합니다.
- 0년차: AI가 자신의 코드베이스조차 실행시키지 못합니다.
- 0.5년차: 새 버전을 훈련시킬 수는 있지만 결과가 좋지 않습니다.
- 1년차: 자율적으로 훈련할 수 있지만, 상위 10명의 인간 연구자만큼 뛰어나지는 않습니다.
- 2년차: 잘 실행되지만 여전히 가끔 인간의 개입이 필요합니다.
자기 개선 능력은 과업별로 봐야 합니다. 검증 가능한 수학 과업의 발전은 희귀 언어를 기록하는 것과 같이 실제 데이터 수집에 병목 현상이 있는 과업보다 훨씬 빠를 것입니다.
Q: 특정 과업에서 AI가 얼마나 빨리 발전할지 예측하는 핵심적인 경험 법칙(heuristics)은 무엇인가요?
A: 저는 몇 가지 간단한 경험 법칙을 사용합니다.
1. 디지털 vs. 물리적: AI는 디지털 과업에 훨씬 더 뛰어납니다. 반복 속도가 엄청나게 빠르기 때문입니다. 물리적 로봇으로 실험을 확장하는 것보다 컴퓨팅을 확장하는 것이 훨씬 쉽습니다.
2. 인간의 난이도: 일반적으로 인간에게 더 쉬운 과업이 AI에게도 더 쉬운 경향이 있습니다.
3. 풍부한 데이터: AI는 데이터가 풍부할 때 번성합니다. 모델이 특정 언어에 대한 데이터가 많을수록 해당 언어로 된 수학 성능이 더 좋다는 명확한 경향이 있습니다.
4. 단일 객관적 지표 (예외): 성공에 대한 명확한 단일 지표가 있다면, 강화 학습(알파고나 AlphaDevolve처럼)을 사용하여 합성 데이터를 생성하고 실제 데이터가 부족하더라도 빠르게 발전할 수 있습니다.
Q: 이 경험 법칙에 근거하여 AI가 특정 과업을 언제쯤 마스터할지에 대한 몇 가지 예측을 해주실 수 있나요?
A: 이 법칙들을 사용하여 몇 가지 합리적인 추측을 할 수 있습니다.
- 완료 (2023-2024): 번역(상위 50개 언어), 기본 코드 디버깅, 경시 수학. 이들은 디지털이고, 데이터가 풍부하며, 검증이 매우 용이합니다.
- 곧 (예: 2027년): AI 연구 수행. 인간에게 어렵고 데이터 생성이 까다롭지만, 디지털 영역입니다.
- 나중에 (예: 2029년 이후): 화학 연구(비디지털), 영화 제작(디지털이지만 매우 복잡).
- 불확실/먼 미래: 주식 시장 예측(매우 어려움), 배관 수리, 미용(물리적 과업).
- 가까운 미래에는 거의 불가능: 전통 우즈벡 카펫 제작(매우 어렵고, 비디지털이며, 데이터 없음), 틀링깃어 번역.
- 불가능: 여자친구가 만족할 만한 데이트를 하는 것. 인간에게도 불가능하고, 비디지털이며, 데이터도 없습니다. 이 분야에서는 한동안 우리 인간의 역할이 남아있을 것 같습니다.