Q: 2030년까지 AGI가 등장할 것이라고 예측하셨습니다. 우리가 AGI에 도달했다는 것을 어떻게 알 수 있을까요? 그리고 AGI의 '신의 한 수'는 무엇일까요?
A: (데미스 하사비스) 제 추정치는 앞으로 5년 안에, 즉 2030년까지 50%의 확률입니다. AGI의 정의에 따라 달라지겠지만, 제 기준은 꽤 높습니다. 뇌가 가진 인지 기능을 따라잡을 수 있는가 하는 것이죠. 진정한 AGI를 가졌는지 알기 위해서는 그 모든 능력을 갖추었는지 확인해야 합니다. 오늘날의 시스템처럼 어떤 면에서는 뛰어나지만 다른 면에서는 결함이 있는 들쭉날쭉한 지능이 아니어야 합니다. 일관성이 필요하죠. 그리고 우리가 이야기했던 진정한 발명 능력이나 창의성 같은 빠진 능력들도 있습니다. 그것을 어떻게 테스트할 것인가... 한 가지 방법은 인간이 할 수 있다고 알려진 수만 개의 인지 과제를 무차별적으로 테스트하는 것입니다. 또는 각 분야의 세계 최고 전문가 수백 명에게 시스템을 제공하고, 한두 달 동안 명백한 결함을 찾아보라고 하는 방법도 있습니다. 만약 그들이 찾지 못한다면, 우리는 완전히 일반적인 시스템을 가졌다고 꽤 확신할 수 있을 겁니다.
Q: 인간은 지능이 향상될수록 그것을 당연하게 여기는 경향이 있습니다. 10,000개의 인지 과제 테스트보다는, '신의 한 수'처럼 한두 가지 경이로운 성과가 AGI의 등장을 알리는 신호가 되지 않을까요?
A: (데미스 하사비스) 정확합니다. 그래서 저는 일관성을 확인하기 위한 전반적인 테스트와 함께, '37수'와 같은 등대 같은 순간들을 찾을 것입니다. 하나는 아인슈타인이 그랬던 것처럼 물리학에 대한 새로운 추측이나 가설을 발명하는 것입니다. 1900년까지의 지식만 주고 특수 상대성 이론과 일반 상대성 이론을 생각해낼 수 있는지 엄격하게 백테스트해 볼 수 있을 겁니다. 또 다른 하나는 바둑과 같은 게임을 발명할 수 있는지입니다. 단순히 새로운 전략을 내놓는 것이 아니라, 바둑만큼 깊고 미학적으로 아름답고 우아한 게임을 발명하는 것이죠. 저는 그런 것들을 찾을 것입니다.
Q: 우리 인간, 심지어 당신 같은 전문가조차도 AGI의 발견을 놓칠 수 있다는 걱정은 없으신가요? 그 발견이 매우 복잡할 수 있으니까요.
A: (데미스 하사비스) 저는 그것이 최고의 인간 과학자들에게 완전히 미스터리하지는 않을 것이라고 생각합니다. 체스에서 게리 카스파로프나 마그누스 칼센과 게임을 하고 그들이 훌륭한 수를 뒀을 때, 제가 그 수를 생각해낼 수는 없겠지만, 그들은 나중에 왜 그 수가 타당했는지 설명해 줄 수 있고 우리는 어느 정도 이해할 수 있을 겁니다.
Q: AI가 생성한 코드나 아이디어를 볼 때, 이것이 버그인지 아니면 제가 놓치고 있는 더 깊은 통찰력인지 항상 스스로에게 질문해야 할 것입니다.
A: (데미스 하사비스) 네, 그리고 그것은 앞으로 더 복잡해질 것입니다. 하지만 물론, 그 코드나 아이디어를 생성하는 AI 시스템과, 그것을 분석하는 인간 프로그래머가 다른 AI 도구의 도움을 받는 모습을 상상할 수 있습니다.
Q: 알파이볼브와 같은 시스템이 재귀적 자기 개선(recursive self-improvement)을 가능하게 할 수 있을까요? 미래의 AGI 시스템은 어떤 모습일까요?
A: (데미스 하사비스) 잠재적으로는 가능하지만, 그것이 바람직한지는 확실하지 않습니다. 그것은 일종의 하드 테이크오프 시나리오니까요. 알파이볼브 같은 현재 시스템들은 인간이 결정 과정에 참여합니다. 언젠가 종단 간(end-to-end)으로 그것을 할 수 있을 것이라고 보지만, 현재 시스템들은 "더 나은 버전을 만들어라"와 같은 모호하고 높은 수준의 지시를 처리할 만큼 좋지는 않습니다. 하지만 "더 빠른 행렬 곱셈 알고리즘을 만들어라"와 같이 매우 구체적인 지시를 주면 점진적으로 개선하는 데는 매우 능숙합니다.
스케일링 법칙
Q: 스케일링 법칙은 여전히 유효한가요? 아니면 AI 발전이 벽에 부딪힐 것으로 예상하시나요?
A: (데미스 하사비스) 우리는 스케일링만으로도 아직 여지가 많다고 느낍니다. 사전 훈련, 사후 훈련, 추론 시간 등 세 가지 스케일링이 동시에 일어나고 있습니다. 새로운 돌파구가 필요한지, 아니면 기존 기술의 스케일링만으로 충분할지는 50대 50이라고 봅니다. 그래서 우리는 경험적인 방식으로 두 가지 모두를 최대한 밀어붙이고 있습니다. 새로운 기초 연구 아이디어와 현재 능력의 최대 스케일링 모두요.
Q: 고품질 데이터, 특히 인간이 생성한 고품질 데이터가 고갈될 것을 우려하시나요?
A: (데미스 하사비스) 별로 걱정하지 않습니다. 시스템을 꽤 좋게 만드는 데 충분한 데이터가 있거나, 올바른 분포에서 더 많은 합성 데이터를 생성할 수 있는 시뮬레이션을 만들 만큼 충분한 데이터가 있다고 입증되었기 때문입니다.
컴퓨팅 자원
Q: AGI 구축에 컴퓨팅 규모 확장은 얼마나 중요한가요? 에너지 문제와도 연결되는데요, 컴퓨팅 규모가 계속 확장될 것이라고 생각하시나요?
A: (데미스 하사비스) 네, 여러 가지 이유로 그렇게 생각합니다. 훈련, 추론, 그리고 더 오래 생각할수록 더 똑똑해지는 '사고 시스템(thinking systems)'이라는 새로운 패러다임 모두에 많은 컴퓨팅 자원이 필요하며, 그 수요는 줄어들지 않을 것입니다. 그리고 AI 시스템이 더 좋아질수록 더 유용해지고 더 많은 수요가 생길 겁니다. 그리고 우리는 AI 시스템을 구축하여 에너지 사용을 돕는 데에도 매우 관심이 많습니다. 데이터 센터 냉각 시스템 효율화, 전력망 최적화, 그리고 궁극적으로는 핵융합로의 플라즈마 제어와 같은 것들입니다.
Q: 20, 30, 40년 후의 주된 에너지원은 무엇이 될 것이라고 생각하시나요? 핵융합일까요?
A: (데미스 하사비스) 저는 핵융합과 태양광, 이 두 가지에 걸겠습니다. 태양광은 본질적으로 하늘에 있는 핵융합로죠. 여기서 진짜 문제는 배터리와 송전입니다. 핵융합은 올바른 원자로 설계와 플라즈마 제어가 가능하다면 분명히 가능해 보입니다. 이 두 가지가 해결되면, 우리는 거의 무료에 가까운 재생 가능한 청정에너지를 갖게 될 것입니다.
Q: 100년 후 인류가 카르다쇼프 척도 1단계 문명을 넘어섰다면 놀라시겠습니까?
A: (데미스 하사비스) 100년이라는 시간 척도라면 그다지 놀라지 않을 겁니다. 에너지 문제가 해결되면 물 부족 문제(해수 담수화), 로켓 연료 문제 등이 해결되고, 소행성 채굴이나 인류 번영의 새로운 시대가 열릴 수 있습니다. 저는 그것을 '급진적 풍요(radical abundance)' 시대라고 부르는데, 자원이 풍부해지는 것이죠. 물론 그 다음 큰 문제는 그것이 공정하게 공유되도록 하는 것입니다.
프로그래밍의 미래
Q: AI 시스템이 프로그래밍을 점점 더 잘하게 되면서, 프로그래머들이 일자리를 잃을까 걱정하고 있습니다. 얼마나 걱정해야 할까요? 그리고 이 새로운 현실에 어떻게 적응해야 할까요?
A: (데미스 하사비스) 프로그래밍과 수학은 합성 데이터를 많이 만들고 검증할 수 있기 때문에 AI가 배우기 더 쉬운 기술로 판명되었습니다. 앞으로 5~10년 동안은, 이 기술들을 받아들이는 사람들이 거의 초인적인 생산성을 갖게 될 것이라고 생각합니다. 훌륭한 프로그래머들은 오늘날보다 10배 더 나아질 것입니다. 그들은 자신의 기술을 사용하여 도구를 최대한 활용할 수 있을 것입니다.
Q: 기술 변화의 속도가 산업 혁명보다 10배 빠르고 10배 큰 영향을 미칠 수 있어 사회가 대처하기 더 어려울 것입니다. 우리는 지금 당장 이 문제에 대해 논의해야 합니다.
A: (데미스 하사비스) 맞습니다. 많은 변화가 있을 것입니다. 사회가 이에 어떻게 영향을 받을지, 그리고 보편적 기본 소득(UBI)과 같은 것들을 포함하여 무엇을 해야 할지에 대해 최고의 경제학자들과 철학자들이 생각하기 시작해야 합니다. 또한, 이러한 전환을 돕기 위해 새로운 거버넌스 구조와 기관이 필요할 것입니다. 정치 철학과 정치 과학이 핵심이 될 것입니다.
Q: 이세돌 9단의 '신의 한 수'는 인간의 천재성이 AI를 이긴 특별한 순간이었습니다. 이런 순간들이 앞으로도 계속될까요?