Q: 당신이 오랫동안 이 시뮬레이션된 세계에 대해 생각해 왔다는 것을 압니다. 우리의 첫 인터뷰 대본을 다시 봤는데, 당신은 의식이 진화의 결과라는 이론을 정말 좋아한다고 말했더군요. 진화적 과거의 어느 시점에 타인의 내부 상태를 이해하는 것이 이점이 있었고, 그것을 우리 자신에게로 돌렸다는 이론 말이죠. 그렇다면 시뮬레이션 안에서 에이전트 진화를 실행해 보는 것에 대해 호기심이 생기지 않나요?
언젠가 그 실험을 꼭 해보고 싶습니다. 진화를 다시 돌려보고, 사회적 역학도 다시 돌려보는 거죠. 산타페 연구소(Santa Fe Institute)에서 작은 그리드 월드(grid world)에서 멋진 실험들을 하곤 했습니다. 저는 그런 것들을 좋아했죠. 대부분 경제학자들이었는데, 작은 인공 사회를 운영해 보려고 했고, 에이전트들이 올바른 인센티브 구조하에 충분히 오랫동안 돌아다니게 두면 시장, 은행 등 온갖 흥미로운 것들이 발명된다는 것을 발견했습니다. 그래서 정말 멋질 것 같고, 생명의 기원과 의식의 기원을 이해하는 데도 좋을 것 같습니다.
제가 처음부터 AI 연구에 열정을 가졌던 큰 이유 중 하나는 우리가 어디서 왔는지, 이 현상들이 무엇인지 정말로 이해하기 위해 이런 종류의 도구가 필요할 것이라고 생각했기 때문입니다. 시뮬레이션은 그것을 수행하는 가장 강력한 도구 중 하나입니다. 통계적으로 수행할 수 있으니까요. 초기 시작 조건을 약간씩 다르게 하여 시뮬레이션을 여러 번 실행하고, 어쩌면 수백만 번 실행한 다음, 매우 통제된 실험 방식으로 그 미세한 차이가 무엇인지 이해할 수 있습니다. 물론 우리가 답하고자 하는 정말 흥미로운 질문들에 대해 현실 세계에서는 하기가 매우 어렵죠. 그래서 정확한 시뮬레이션은 과학에 믿을 수 없을 만큼 큰 혜택이 될 것입니다.
Q: 이 모델들의 창발적 속성(emergent properties)에 대해 우리가 발견한 것들, 우리가 예상치 못한 개념적 이해를 가지고 있다는 점을 감안할 때, 그런 종류의 시뮬레이션을 실행하는 것에 대해서도 꽤 조심해야 하지 않을까요?
네, 그래야 한다고 생각합니다. 하지만 그게 시뮬레이션의 또 다른 장점입니다. 꽤 안전한 샌드박스 안에서 실행할 수 있으니까요. 결국에는 에어갭(airgap, 외부와 네트워크 격리) 상태로 만들고 싶을 수도 있고요. 물론 시뮬레이션에서 일어나는 일을 24시간 모니터링할 수 있고 모든 데이터에 접근할 수 있습니다.
시뮬레이션이 너무 복잡하고 너무 많은 일이 일어날 것이기 때문에 모니터링을 돕기 위해 AI 도구가 필요할 수도 있습니다. 수많은 AI가 시뮬레이션 안을 돌아다니는 것을 상상해 보면 인간 과학자가 따라잡기는 힘들 겁니다. 하지만 다른 AI 시스템을 사용하여 시뮬레이션에서 흥미롭거나 걱정스러운 점을 자동으로 분석하고 표시하도록 도울 수 있을 겁니다.