🤖AI가 AI를 연구하는 시대의 병목 (Noam Brown) source

1. 노암 브라운과 드와르케시 파텔의 인터뷰는 지능이 풍부해진 뒤에도 무엇이 발전을 제한하는가를 짚음. 에이전트를 늘린다고 비용까지 줄어들지는 않음

2. 일부 벤치마크에서는 에이전트 4개를 투입하면 작업 시간이 절반으로 줄지만, 총비용은 2배가 됨. 같은 일을 싸게 하는 것이 아니라, 연산자원을 더 써서 시간을 사는 구조임

3. 브라운은 인터뷰에서 다룬 수학 성과 역시 에이전트 숫자보다 강력한 기반 모델과 오랫동안 문제를 풀어가는 능력이 핵심이었다고 설명함. 대규모 협업의 효율은 아직 충분히 측정되지 않았음

4. AI가 모든 분야에서 인간을 넘어야 다음 AI를 개선할 수 있는 것은 아님. 학습 효율처럼 목표가 명확하고 성과를 측정할 수 있는 문제에 강한 것만으로도 연구에 기여할 수 있다는 설명임

5. 다만 좋은 아이디어도 모델을 학습시키고 결과를 확인해야 함. GPU와 순차적인 실험 시간은 여전히 필요함. 브라운이 가속을 예상하면서도 하룻밤 사이 지능 폭발을 보진 않음. 가속폭에는 불확실성이 큼

6. AI는 업무 맥락을 가진 채 복제할 수 있음. 여기에 회사 목표에 맞춰 일관되게 협업하도록 만들 수 있다면, 조직이 커지면서 생기는 내부 이해충돌도 줄일 여지가 있음

7. 즉, 작은 팀의 생산성을 높이는 동시에 큰 조직의 비효율도 줄일 수 있다는 것. 다만 대규모 AI 집단이 인간 조직보다 잘 협업한다고 입증된 단계는 아님

8. AI가 다음 AI를 만드는 과정에서는 능력뿐 아니라 인간의 의도에서 벗어나는 행동도 이어질 수 있음. 다음 세대가 더 똑똑하다고 더 안전하다는 보장은 없음

9. 평가 시간도 문제임. 3개월짜리 업무 수행 모델이 2개월마다 출시된다면, 검증하기 전에 다음 모델이 나옴. 출시를 늦추면 검증 시간은 벌지만, 내부 모델과 공개 모델의 격차는 커짐

10. 컴퓨트는 답변을 생성하는 자원을 넘어, AI 연구자가 가설을 검증하는 실험실이 될 수 있음. 지능의 비용이 내려가도 시도할 실험이 더 많이 늘어난다면 연산 수요는 커질 수 있다는 해석