네. 저는 잠을 많이 자지 않습니다. 일이 너무 많아서이기도 하지만 잠을 잘 못 잡니다. 매우 복합적인 감정을 다루어야 합니다. 믿을 수 없을 만큼 흥미진진하니까요. 저는 기본적으로 제가 꿈꿔왔던 모든 것을 하고 있고, 응용 과학뿐만 아니라 머신 러닝 등 여러 면에서 과학의 절대적인 최전선에 있습니다. 모든 과학자가 알다시피 최전선에 서서 무언가를 처음으로 발견한다는 느낌은 짜릿합니다. 그리고 우리에게는 거의 매달 그런 일이 일어나고 있는데, 정말 놀랍죠.
하지만 물론 저와 셰인, 그리고 오랫동안 이 일을 해온 다른 사람들은 다가오는 것의 거대함을 누구보다 잘 이해하고 있습니다. 그리고 그것이 여전히 실제보다 과소평가되어 있다는 점도요. 사실 앞으로 10년 정도의 시간 스케일에서 일어날 일들, 인간이라는 것의 의미에 대한 철학적 문제, 무엇이 중요한지에 대한 문제 등을 포함해서요. 이 모든 질문들이 떠오를 것입니다. 그래서 큰 책임감을 느낍니다. 하지만 우리에게는 이런 것들에 대해 생각하는 훌륭한 팀이 있습니다.
또한, 적어도 제 자신에게는, 평생 훈련해 온 일이라고 생각합니다. 체스를 두던 어린 시절부터 컴퓨터와 게임, 시뮬레이션, 신경과학을 연구하던 시절까지, 이 모든 것이 이런 순간을 위한 것이었습니다. 그리고 대략 제가 상상했던 그대로입니다. 그래서 그것이 제가 이것을 견디는 방법의 일부입니다. 그냥 훈련인 거죠.
Q: 예상보다 더 힘들게 다가오는 부분도 있나요?
네, 확실히 있습니다. 오는 길에—알파고 대국 때도 그랬죠. 우리가 바둑을 깨는 것을 보면서요. 바둑은 아름다운 미스터리였는데, 그것이 변했습니다. 그래서 흥미로우면서도 시원섭섭했죠. 언어와 이미징, 그리고 그것이 창의성에 의미하는 바와 같은 더 최근의 일들도 그렇습니다. 저는 게임 디자인을 직접 해봤기 때문에 창의적 예술에 대해 큰 존경심과 열정을 가지고 있습니다. 영화감독들과도 이야기를 나눕니다. 그들에게도 흥미로운 이중적인 순간입니다. 한편으로는 아이디어 프로토타이핑 속도를 10배 높여주는 놀라운 도구를 갖게 되었습니다. 하지만 다른 한편으로는 특정 창의적 기술을 대체하고 있는가 하는 문제입니다.
그래서 저는 모든 곳에서 이러한 트레이드오프(상충 관계)가 진행되고 있다고 생각합니다. 과거의 전기나 인터넷처럼 AI만큼 강력하고 변혁적인 기술에는 불가피한 일이라고 봅니다. 그리고 우리는 그것이 인류의 이야기라는 것을 보아왔습니다. 우리는 도구를 만드는 동물입니다. 그리고 그것이 우리가 하기를 좋아하는 일입니다. 그리고 어떤 이유에서인지 우리는 과학을 이해하고 과학을 할 수 있는 뇌를 가지고 있습니다. 놀라운 일이지만, 동시에 채울 수 없는 호기심을 가지고 있죠. 저는 그것이 인간됨의 핵심이라고 생각합니다. 그리고 저는 처음부터 그 버그(열정)를 가지고 있었습니다. 그리고 그것에 답하려는 저의 표현 방식이 바로 AI를 만드는 것입니다.
Q: 향후 10년을 생각할 때, 개인적으로 가장 우려되는 큰 순간들이 있나요?
지금 현재 시스템들은 제가 '수동적 시스템'이라고 부르는 것입니다. 사용자가 에너지를 투입합니다—질문이나 과제 같은 것을요. 그러면 이 시스템들은 요약이나 답을 제공합니다. 그래서 매우 인간 주도적이고 인간의 에너지와 아이디어가 들어갑니다.
다음 단계는 에이전트 기반 시스템입니다. 지금도 보고 있지만 아직 꽤 원시적입니다. 앞으로 2~3년 안에 정말 인상적이고 신뢰할 수 있는 시스템들을 보게 될 것입니다. 비서 같은 것으로 생각한다면 믿을 수 없을 만큼 유용하고 유능할 것입니다. 하지만 또한 더 자율적일 것입니다. 그래서 그런 유형의 시스템에서는 위험도 함께 커진다고 생각합니다.
그래서 저는 2~3년 후에 그런 시스템들이 무엇을 할 수 있을지 꽤 걱정됩니다. 그래서 우리는 아마도 수백만 개의 에이전트가 인터넷을 돌아다닐 그런 세상에 대비하여 사이버 방어를 연구하고 있습니다.
딱 일주일만 쉬세요, 데미스.
네, 일주일, 아니 하루라도 좋겠네요. 하지만, 보세요. 제 사명은 항상 인류 전체를 위해 AGI를 안전하게 결승선 너머로 안착시키는 것을 돕는 것이었습니다. 그래서 그 지점에 도달하면, 물론 초지능이 있고 AGI 이후가 있고 우리가 논의했던 모든 경제적, 사회적 문제들이 있겠죠. 어쩌면 제가 거기서 어떤 식으로든 도울 수 있을지도 모릅니다. 하지만 제 사명의 핵심 부분, 제 인생의 사명은 완료될 것입니다.
작은 일이죠(농담조). 그냥 결승선을 넘기거나, 세상이 그것을 넘도록 돕는 것뿐입니다. 앞서 말했듯이 협력이 필요할 것이라고 생각합니다. 그리고 저는 꽤 협력적인 사람이기 때문에 제가 가진 위치에서 도울 수 있기를 바랍니다.