배울 점이 많다고 생각합니다. 적어도 영국에서는 학교에서 배우지만 매우 피상적인 수준이죠. 저는 그것이 어떻게 일어났는지, 무엇으로 시작했는지, 그 배후의 경제적 이유(섬유 산업) 등을 들여다보는 것이 정말 흥미로웠습니다. 최초의 컴퓨터는 사실상 재봉틀이었습니다. 그러다 초기 포트란 컴퓨터, 메인프레임을 위한 천공 카드가 되었죠. 한동안은 매우 성공적이었습니다. 영국은 자동화 시스템 덕분에 놀랍도록 고품질의 물건을 매우 저렴하게 만들 수 있었기에 세계 섬유 산업의 중심이 되었습니다. 그러다 증기 기관과 그 모든 것들이 들어왔죠. 산업 혁명에서 놀라운 발전들이 많이 나왔다고 생각합니다. 아동 사망률이 낮아졌고, 모든 현대 의학과 위생 상태, 일과 삶의 분리 등이 산업 혁명 기간에 정립되었습니다.
하지만 꽤 오랜 시간, 대략 한 세기에 걸쳐 많은 도전 과제도 있었습니다. 노동력의 다른 부분들이 특정 시기에 일자리를 잃었고, 새로운 것들이 만들어져야 했습니다. 그 균형을 다시 맞추기 위해 노조와 같은 새로운 조직들이 만들어져야 했습니다. 그래서 사회 전체가 시간이 지나면서 적응해야 했던 것을 보는 것은 매혹적이었습니다. 그리고 지금의 현대 사회가 되었죠. 산업 혁명의 장단점과 발생 원인은 분명 많았지만, 전체적인 결과를 생각해보면—서구 세계의 식량 풍요, 현대 의학, 현대 교통 등—이 모든 것이 산업 혁명 덕분입니다. 그래서 우리는 산업 혁명 이전으로 돌아가고 싶지는 않을 겁니다. 하지만 이번에는 거기서 배워서 어떤 혼란이 있었는지 미리 파악하고, 더 일찍 혹은 더 효과적으로 완화할 수 있을지 모릅니다. 그리고 아마 그래야 할 겁니다. 이번의 차이점은 산업 혁명보다 10배 더 클 것이고, 아마도 10배 더 빨리 일어날 것이라는 점입니다. 한 세기가 아니라 10년 정도에 걸쳐 펼쳐질 것입니다.
Q: 셰인이 우리에게 말했던 것 중 하나는 노동을 자원과 교환하는 현재의 경제 시스템이 AGI 이후 사회에서는 같은 방식으로 작동하지 않을 거라는 점이었습니다. 사회가 작동하는 방식으로 어떻게 재구성되어야 하거나 재구성될 수 있을지에 대한 비전이 있나요?
산업 혁명 때처럼, 농업에 가까웠던 산업 혁명 이전과 비교해 전체 노동 세계와 노동 주간 등 모든 것이 바뀌었기 때문입니다. 그리고 적어도 그 정도 수준의 변화가 다시 일어날 것이라고 생각합니다.
그래서 새로운 경제 시스템, 새로운 경제 모델이 필요하다고 해도 놀랍지 않을 것입니다. 그 변화를 돕고, 예를 들어 혜택이 널리 분배되도록 하고, 보편적 기본 소득(UBI) 같은 것들이 해결책의 일부가 될 수 있도록 하기 위해서요. 하지만 그것이 전부는 아니라고 생각합니다. 그것은 우리가 지금 모델링할 수 있는 것일 뿐, 오늘날 우리가 가진 것에 추가되는 개념이니까요. 하지만 뭔가 훨씬 더 나은 시스템이 있을 수 있습니다.
그리고 철학적인 측면도 있습니다. 좋아요, 직업이 바뀌고 다른 것들도 바뀌겠지만, 핵융합이 해결되었다고 칩시다. 그래서 우리는 풍부하고 공짜인 에너지를 갖게 되었고, 결핍 이후(post-scarcity)의 시대가 되었습니다. 그럼 돈은 어떻게 될까요? 어쩌면 모두가 더 잘 살게 될지 모릅니다. 하지만 '목적(purpose)'은 어떻게 되나요? 많은 사람들이 직업에서, 그리고 가족을 부양하는 것에서 목적을 찾습니다. 그것은 매우 고귀한 목적이죠. 그래서 이런 질문들 중 일부는 경제적 질문에서 거의 철학적 질문으로 섞여 들어갑니다.
Q: 장기적으로, AGI를 넘어 ASI(인공 초지능)를 향해 갈 때, 기계는 절대 해낼 수 없는 인간만이 할 수 있는 일이 있다고 생각하시나요?
글쎄요, 그게 큰 질문이라고 생각합니다. 아시다시피 제가 가장 좋아하는 주제 중 하나가 튜링 머신입니다. 저는 항상 이렇게 생각해 왔습니다. 우리가 AGI를 만들고, 그것을 마음의 시뮬레이션으로 삼아 실제 마음과 비교해 본다면, 그 차이점이 무엇인지, 그리고 인간의 마음에 남아있는 특별한 점이 무엇인지 알게 될 것이라고요. 어쩌면 그건 창의성일 수도, 감정일 수도, 꿈이나 의식일 수도 있겠죠. 무엇이 계산 가능한지 혹은 불가능한지에 대해 세상에는 많은 가설이 존재합니다. 그리고 이것은 결국 튜링 머신의 한계가 무엇인가 하는 질문으로 돌아옵니다.
그것이 제가 튜링과 튜링 머신에 대해 알게 된 이후 제 인생의 중심적인 질문이라고 생각합니다. 저는 그것과 사랑에 빠졌죠. 그것이 저의 핵심 열정입니다. 우리가 해온 모든 일은 단백질 접힘을 포함하여 튜링 머신이 할 수 있는 일의 개념을 한계까지 밀어붙이는 것이라고 생각합니다. 그런데 알고 보니 그 한계가 무엇인지 잘 모르겠습니다. 어쩌면 한계가 없을지도 모릅니다. 물론 제 양자 컴퓨팅 친구들은 한계가 있고 양자 시스템을 하려면 양자 컴퓨터가 필요하다고 말하겠죠. 하지만 저는 정말 확신하지 못하겠습니다.
실제로 양자 분야 사람들과 그에 대해 토론해 봤습니다. 고전적 시뮬레이션을 만들기 위해 양자 시스템의 데이터가 필요할 수도 있습니다. 그러면 다시 마음의 문제로 돌아옵니다. 마음은 모두 고전적 계산일까요, 아니면 로저 펜로즈(Roger Penrose)가 믿는 것처럼 뇌에 양자 효과가 있는 걸까요? 만약 있고, 그것이 의식과 관련이 있다면, 기계는 적어도 고전적 기계는 절대 그것을 가질 수 없을 것입니다. 양자 컴퓨터를 기다려야겠죠. 하지만 만약 없다면, 한계가 없을 수도 있습니다. 어쩌면 우주의 모든 것은 올바른 방식으로 보면 계산 가능할지도 모르고, 따라서 튜링 머신은 우주의 모든 것을 모델링할 수 있을지도 모릅니다. 만약 저에게 추측해 보라고 한다면, 저는 그렇다고 추측하겠습니다. 그리고 물리학이 저에게 그렇지 않다는 것을 보여줄 때까지 그 기초 위에서 작업하고 있습니다.
그렇다면 이러한 계산적인 범위 내에서 불가능한 것은 없다는 말씀인가요?
음, 이렇게 말씀드리죠. 지금까지 우주에서 계산 불가능한 것은 아무것도 발견되지 않았습니다, 아직까지는요.
단백질 접힘이나 바둑 같은 것들을 통해 오늘날 고전적 컴퓨터가 할 수 있는 일이 복잡성 이론가들의 일반적인 'P=NP' 관점을 훨씬 넘어설 수 있다는 것을 이미 보여주었다고 생각합니다. 그래서 저는 그 한계가 무엇인지 아무도 모른다고 생각합니다. 딥마인드와 구글에서 우리가 무엇을 하고 있는지, 제가 무엇을 하려고 하는지를 한마디로 줄이자면 그 한계를 찾는 것입니다.
Q: 하지만 그 아이디어의 한계 안에서는... 우리가 여기 앉아 있고, 얼굴에 와닿는 조명의 따스함, 배경에서 들리는 기계 소리, 손에 닿는 책상의 느낌. 이 모든 것이 고전적 컴퓨터로 복제가 가능하다는 건가요?
결국 제 생각에는—이것이 제가 칸트를 사랑하는 이유이기도 합니다. 제가 가장 좋아하는 두 철학자가 칸트와 스피노자인데 이유는 다릅니다만. 칸트는 '현실은 마음의 구성물'이라고 했습니다. 저는 그게 사실이라고 생각합니다. 네, 당신이 언급한 그 모든 것들이 우리의 감각 기관으로 들어오고 다르게 느껴집니다. 빛의 따스함, 테이블의 감촉. 하지만 결국 그것은 모두 정보이며, 우리는 정보 처리 시스템입니다. 저는 생물학이 바로 그것이라고 생각합니다. 이것이 우리가 아이소모픽(Isomorphic)으로 하려는 일입니다. 저는 생물학을 정보 처리 시스템으로 생각함으로써 결국 모든 질병을 치료하게 될 것이라고 믿습니다.
그리고 결국—저는 남는 시간, 그 2분의 여가 시간에 에너지나 물질이 아니라 '정보'가 우주의 가장 근본적인 단위라는 물리학 이론에 대해 연구하고 있습니다. 그래서 결국 이 모든 것이 상호 교환 가능할지 모르지만, 우리는 단지 그것을 감지할 뿐입니다. 다른 방식으로 느낄 뿐이죠. 하지만 우리가 아는 한, 우리가 가진 이 모든 놀라운 센서들은 여전히 튜링 머신으로 계산 가능합니다.
그래서 당신의 시뮬레이션된 세계가 그렇게 중요한 거군요.
네, 정확합니다. 왜냐하면 그것이 그곳에 도달하는 방법 중 하나가 될 테니까요. 우리가 시뮬레이션할 수 있는 것의 한계는 무엇인가? 시뮬레이션할 수 있다면, 어떤 의미에서는 그것을 이해한 것이니까요.