Q: 그리고 유체와 관련된 모든 것, 즉 매우 비선형적인 동적 시스템도 있습니다. 테렌스 타오(Terrence Tao)와의 대화에서 그는 특이점을 가진 시스템의 수학적 어려움에 대해 이야기했습니다. 우리 인간이 이런 시스템에 대해 명확한 예측을 하기는 어렵습니다. 하지만 당신의 말처럼, 고전적인 학습 시스템이 유체에 대해서도 놀라운 일을 해낼 수 있을지도 모르겠네요.
A: (데미스 하사비스) 그렇습니다. 정확해요. 유체 역학, 나비에-스토크스 방정식은 전통적으로 고전 시스템에서 다루기 매우 어렵고 난해한 문제로 여겨졌습니다. 기상 예측 시스템처럼 엄청난 양의 컴퓨팅 자원을 필요로 하죠. 하지만 저희 비디오 생성 모델인 Veo와 같은 것을 보면, 액체를 놀라울 정도로 잘 모델링합니다. 재료나 반사광도 마찬가지죠. 사람들이 유압 프레스에 투명한 액체를 넣고 압착하는 영상을 생성한 것을 보면 정말 감탄스럽습니다. 저는 초기에 게임 업계에서 물리 엔진과 그래픽 엔진을 작성했었는데, 그런 프로그램을 만드는 것이 얼마나 고된 작업인지 잘 압니다. 그런데 이 시스템들은 단지 유튜브 비디오를 보는 것만으로 그것을 리버스 엔지니어링하고 있습니다. 아마도 이 물질들이 어떻게 행동하는지에 대한 근본적인 구조를 추출하고 있는 것이겠죠. 어쩌면 그 내부에서 실제로 무슨 일이 일어나고 있는지 완전히 이해한다면, 학습될 수 있는 어떤 저차원 매니폴드(manifold)가 존재할지도 모릅니다. 이것은 아마 현실의 대부분에 해당될지도 모릅니다.
Q: Veo가 보여주는 물리 현상 모델링은 정말 놀랍습니다. 비판적인 시각에서는 확산 모델(diffusion model)이 아무것도 이해하지 못한다고 하지만, 그런 영상을 이해 없이 생성하는 것은 불가능해 보입니다. Veo가 우리 세계를 어느 정도까지 이해하고 있다고 생각하시나요?
A: (데미스 하사비스) 일관성 있는 다음 프레임을 예측할 수 있는 한, 그것은 일종의 이해라고 할 수 있습니다. 의인화된 버전의 이해, 즉 무슨 일이 일어나고 있는지에 대한 깊은 철학적 이해는 아니라고 생각합니다. 이 시스템들이 그런 것을 가지고 있다고는 생각하지 않아요. 하지만 그들은 분명히 동역학의 충분한 부분을 모델링해서, 눈으로 볼 때 적어도 언뜻 보기에는 문제점을 구별하기 어려운 8초간의 일관된 비디오를 꽤 정확하게 생성할 수 있습니다. 2~3년 후를 상상해 보세요. 1~2년 전의 초기 버전에 비하면 얼마나 놀라워질지 생각하고 있습니다. 진행 속도는 정말 놀랍습니다. 그리고 저도 당신처럼, 많은 사람들이 스탠드업 코미디언이나 인간의 동역학을 잘 포착하는 영상들을 좋아하지만, 제가 가장 감명 깊고 매료된 것은 물리적 행동, 즉 조명, 재료, 액체입니다. 그것을 할 수 있다는 것이 꽤 놀랍습니다. 그리고 그것은 이 시스템이 적어도 직관적인 물리, 즉 물건들이 어떻게 작동해야 하는지에 대한 직관적인 이해를 가지고 있다는 것을 보여준다고 생각합니다. 아마도 박사 과정 학생이 모든 방정식을 풀어내는 것보다는, 어린아이가 물리를 이해하는 방식과 더 비슷할 겁니다.
Q: 그 직관적인 물리 이해가 바로 상식이라고 불리는 기본 층입니다. 많은 사람들이 놀란 부분이죠. 로봇처럼 물리적 세계와 상호작용해야만 그 세계를 이해할 수 있다는 생각에 Veo가 직접적으로 도전하는 것 같습니다.
A: (데미스 하사비스) 네, 그리고 그것은 매우 흥미롭습니다. 5~10년 전에 저에게 물었다면, 비록 제가 이 모든 것에 깊이 관여하고 있었음에도, "네, 아마도 직관적인 물리를 이해해야 할 겁니다. 이 유리잔을 테이블에서 밀면 깨질 것이고, 액체는 쏟아질 거라는 것들이죠." 라고 말했을 겁니다. 그리고 신경과학에는 '인식 속의 행동(action in perception)'이라는 이론이 많습니다. 즉, 세상을 깊이 인식하기 위해서는 세상 속에서 행동해야 한다는 것이죠. 직관적인 물리를 이해하기 위해서는 구체화된 지능(embodied intelligence)이나 로봇공학, 혹은 적어도 시뮬레이션된 행동이 필요하다는 이론들이 많았습니다. 하지만 수동적인 관찰을 통해서도 그것을 이해할 수 있는 것 같습니다. 이것은 저에게 꽤 놀라운 일이며, 제 생각에는 그것이 생성하는 멋진 비디오를 넘어 현실의 본질에 대한 무언가를 암시한다고 봅니다. 그리고 물론 다음 단계는 그 비디오들을 상호작용 가능하게 만드는 것입니다. 그래서 실제로 그 안으로 들어가서 움직일 수 있게 하는 거죠. 제 게임 배경을 고려하면 정말 놀라운 일일 겁니다. 그러면 우리는 제가 '세계 모델(world model)', 즉 세상이 어떻게 작동하는지에 대한 모델, 세상의 역학, 물리, 그리고 그 세상 속의 사물들에 대한 모델에 가까워지기 시작하는 것입니다. 그리고 물론 그것이 진정한 AGI 시스템에 필요한 것이죠.
알파이볼브 (AlphaEvolve)
Q: 최근에 발표된 알파이볼브(AlphaEvolve)는 알고리즘을 진화시키는 시스템입니다. 이런 종류의 진화와 유사한 기술이 미래의 초지능 시스템의 구성 요소로서 유망하다고 보시나요?
A: (데미스 하사비스) 네, LLM 또는 파운데이션 모델을 다른 계산 기술과 결합하는 매우 유망한 방향의 한 예라고 생각합니다. 진화적 방법이 하나이지만, 몬테카를로 트리 탐색과 같은 다양한 종류의 탐색 알고리즘이나 추론 알고리즘을 파운데이션 모델 위에 얹거나 기반으로 사용하는 것을 상상할 수 있습니다. 그래서 저는 실제로 이러한 하이브리드 시스템으로 발견될 흥미로운 것들이 꽤 많다고 생각합니다.
Q: 진화라는 메커니즘에는 가치가 있다고 생각하시나요? 자연 시스템에 대해 이미 이야기했듯이, 우리가 진화를 이해하고 시뮬레이션하며, 그 자연에서 영감을 받은 메커니즘을 사용하여 탐색을 더 잘할 수 있는 잠재력이 많다고 보십니까?
A: (데미스 하사비스) 네. 우리가 만든 시스템을 근본적인 핵심으로 분해해 보면, 시스템의 기본 동역학 모델이 있습니다. 그리고 이전에 보지 못했던 새로운 것, 참신한 것을 발견하고 싶다면, 탐색 공간의 새로운 영역으로 당신을 이끌어 줄 어떤 종류의 탐색 과정이 필요합니다. 진화적 컴퓨팅은 그 방법 중 하나입니다. 알파고에서는 몬테카를로 트리 탐색을 사용했고, 그것이 바둑에서 이전에 본 적 없는 새로운 전략인 '37수'를 찾아냈습니다. 그렇게 해서 이미 알려진 것을 넘어설 수 있습니다. 모델은 현재 알고 있는 모든 데이터에 대해 모델링할 수 있지만, 어떻게 그것을 넘어설 수 있을까요? 이것은 창의성에 대한 아이디어와 연결됩니다. 이 시스템들이 어떻게 새로운 것을 창조하고 발견할 수 있을까요?
Q: 진화는 단지 자연선택뿐만 아니라, 여러 요소를 결합하여 점점 더 복잡한 계층적 시스템을 구축하는 데 능숙합니다. 특히 프로그램 공간에서 알파이볼브와 같은 시스템의 경우, 이러한 측면이 매우 흥미롭습니다.
A: (데미스 하사비스) 맞습니다. 진화 시스템에서는 새로운 창발적 능력이 나타날 수 있다는 추가적인 속성을 얻을 수 있습니다. 하지만 LLM과 현대 AI가 없던 시절의 전통적인 진화 컴퓨팅 방법의 문제점은, 새로운 창발적 속성을 진화시키는 방법을 알아내지 못했다는 것입니다. 항상 시스템에 입력한 속성의 하위 집합만을 얻었습니다. 하지만 아마도 파운데이션 모델과 결합한다면 그 한계를 극복할 수 있을 것입니다. 분명히 자연의 진화는 그것을 해냈습니다. 박테리아에서 지금의 우리까지 새로운 능력을 진화시켰으니까요. 분명히 진화 시스템으로 새로운 패턴과 능력을 생성하는 것이 가능해야 합니다. 어쩌면 우리는 그것을 어떻게 하는지 발견할 문턱에 와 있는지도 모릅니다.
AI 연구
Q: '연구 취향(research taste)'이라는 흥미로운 개념이 있습니다. AI 시스템이 훌륭한 과학자들이 올바른 방향을 찾아내는 것과 같은 '연구 취향'을 가질 수 있다고 생각하십니까? 진정으로 새로운 아이디어를 생성하기 위해 어떤 방향을 탐색해야 하는지 스스로 알아내는 것이 가능할까요?