Q: SSI는 무엇을 다르게 할 계획인가요? 당연히 당신의 계획은 이 시기가 도래했을 때 프런티어 기업 중 하나가 되는 것이겠죠. "나는 다른 회사들은 모르는, 안전하게 하는 접근법을 알고 있어"라고 생각해서 SSI를 시작했을 텐데요. 그 차이점은 무엇입니까?
A: 제가 설명하는 방식은 이렇습니다. 유망하다고 생각하는 아이디어들이 있고, 그것이 정말 유망한지 아닌지 조사해 보고 싶습니다. 정말 그렇게 간단합니다. 시도(attempt)입니다. 만약 그 아이디어들이 옳다고 판명된다면—우리가 논의했던 일반화를 이해하는 것과 관련된 아이디어들 말이죠—우리는 가치 있는 무언가를 갖게 될 것입니다. 옳다고 판명될까요? 우리는 연구를 하고 있습니다. 우리는 확실히 "연구의 시대"에 있는 회사입니다. 우리는 진전을 이루고 있습니다. 사실 지난 1년 동안 꽤 좋은 진전을 이뤘지만, 더 많은 진전, 더 많은 연구를 계속해야 합니다. 저는 그렇게 봅니다. 하나의 목소리이자 참여자가 되려는 시도로 봅니다.
Q: 당신의 공동 창업자이자 전 CEO가 최근 메타(Meta)로 떠났는데, 사람들은 "많은 돌파구가 만들어지고 있었다면 일어나기 힘든 일 아니냐"고 묻습니다. 어떻게 답변하시겠습니까?
A: 이에 대해서는 잊혔을 수도 있는 몇 가지 사실을 상기시켜 드리는 것으로 대신하겠습니다. 상황을 설명해 주는 맥락이죠. 맥락은 우리가 320억 달러 가치로 자금을 조달하고 있었는데, 그때 메타가 들어와서 인수를 제안했고, 저는 거절했다는 겁니다.
하지만 제 전 공동 창업자는 어떤 면에서 '예스'라고 했습니다. 그 결과 그는 많은 단기 유동성을 누릴 수 있게 되었고, SSI에서 메타로 간 유일한 사람이 되었습니다.
Q: SSI의 계획은 초인적 지능이 등장하는 인류 역사의 매우 중요한 시기에 프런티어에 있는 회사가 되는 것 같군요. 당신은 초인적 지능이 잘 작동하게 하는 방법에 대한 아이디어를 가지고 있고요. 하지만 다른 회사들도 각자의 아이디어를 시도할 겁니다. 초지능을 잘 만드는 데 있어 SSI의 접근 방식은 무엇이 다릅니까?
A: SSI를 차별화하는 주된 것은 기술적 접근 방식입니다. 저는 가치 있다고 생각하는 다른 기술적 접근 방식을 가지고 있고 그것을 추구하고 있습니다.
저는 결국 전략의 수렴(convergence)이 있을 것이라고 주장합니다. 언젠가 AI가 더 강력해짐에 따라 전략이 무엇이어야 하는지 모두에게 어느 정도 명확해지는 수렴이 있을 것입니다. 서로 대화할 방법을 찾아야 하고, 첫 번째 실제 초지능 AI가 정렬되고 어떻게든 지각 있는 생명체를 아끼고, 사람을 아끼고, 민주적이고, 이런 것들의 조합이어야 한다는 조건 말입니다. 저는 이것이 모두가 노력해야 할 조건이라고 생각합니다.
그게 SSI가 노력하는 것입니다. 이번에는, 이미 그렇지 않다면, 다른 모든 회사들도 자신들이 같은 것을 향해 노력하고 있다는 것을 깨닫게 될 것입니다. 두고 보죠. AI가 더 강력해지면 세상이 진정으로 변할 것이라고 생각합니다. 상황은 정말 다를 것이고 사람들은 정말 다르게 행동할 것입니다.
Q: 예측에 대해 말하자면, 당신이 묘사한 시스템, 즉 인간만큼 잘 배우고 결과적으로 초인적이 되는 시스템에 대한 예측은 언제입니까?
A: 5년에서 20년 사이라고 생각합니다.
Q: 5년에서 20년이요? 세상이 어떻게 다가올지 펼쳐보고 싶습니다. 앞으로 몇 년간 다른 회사들은 현재의 접근 방식을 계속하고 그것이 정체(stall out)됩니다. 여기서 "정체"란 매출이 수천억 달러를 넘지 못한다는 뜻인가요? 정체된다는 게 어떤 의미라고 생각하십니까?
A: 정체는... 모든 회사에서 매우 비슷하게 보일 것 같습니다. 이럴 수도 있죠. 확신할 순 없습니다. 정체되더라도 이 회사들은 엄청난 매출을 올릴 수 있다고 생각하거든요. 이익은 아닐 수도 있습니다. 서로 차별화하기 위해 열심히 노력해야 할 테니까요. 하지만 매출은 확실히요.
Q: 하지만 당신 모델의 무언가는 올바른 해결책이 나타나면 모든 회사 간에 수렴이 있을 것이라고 암시합니다. 왜 그렇다고 생각하시나요?
A: 저는 정렬 전략에 대한 수렴을 더 이야기한 겁니다. 기술적 접근 방식에 대한 수렴도 결국 일어날 것이라고 생각하지만, 저는 정렬 전략에 대한 수렴을 암시했습니다. 정확히 무엇을 해야 할까요?
Q: 미래가 어떻게 펼쳐질지 더 잘 이해하고 싶습니다. 현재 여러 회사들이 있고, 당신은 그들의 접근 방식이 매출은 계속 내겠지만 인간 같은 학습자에는 도달하지 못할 것이라고 예상합니다. 이제 여러 갈래의 회사들이 있습니다. 당신도 있고, 씽킹 머신(Thinking Machines)도 있고, 다른 연구소들도 있죠. 아마 그중 하나가 올바른 접근법을 알아낼 겁니다. 하지만 그들의 제품 출시가 다른 사람들에게 이걸 어떻게 하는지 명확하게 해주지 않을까요?
A: 어떻게 하는지 명확하진 않겠지만, 다른 무언가가 가능하다는 것은 명확해질 것이고, 그것은 정보입니다. 사람들은 그게 어떻게 작동하는지 알아내려고 노력하겠죠.
하지만 여기서 다루지 않은, 논의되지 않은 것 중 하나는 AI의 능력이 증가할 때마다 일하는 방식에 어떤 변화가 있을 것이라는 점입니다. 정확히 어떤 것인지는 모르겠지만요. 저는 그게 중요할 것이라고 생각하지만 정확히 무엇인지는 설명할 수 없습니다.
Q: 기본적으로 그 모델을 가진 회사가 모든 이득을 얻을 것이라고 예상하게 됩니다. 그 모델은 세상에서 기술과 지식을 쌓아가는 모델이니까요. 그 혜택이 널리 분산되고, 지속적 학습 루프를 가장 먼저 시작한 모델 회사에만 머물지 않을 것이라고 생각하는 이유는 무엇입니까?
A: 제가 생각하는 시나리오는 이렇습니다. 첫째, 과거의 AI들이 어떻게 진행되었는지 봅시다. 한 회사가 발전을 만들어내면 다른 회사가 허둥지둥하다가 얼마 뒤 비슷한 것들을 만들어내고, 시장에서 경쟁하기 시작하며 가격을 낮춥니다. 시장 관점에서는 거기서도 비슷한 일이 일어날 것이라고 생각합니다. 참고로 우리는 좋은 세상(good world)에 대해 이야기하고 있습니다.
좋은 세상이란 무엇입니까? 강력한 인간 같은 학습자들이 있는 곳이죠. 참고로 초지능 AI의 스펙에 대해 논의하지 않은 게 있는데 고려해 볼 가치가 있습니다. 좁게(narrow) 만들 수 있다는 겁니다. 유용하면서 동시에 좁을 수 있습니다. 좁은 초지능 AI를 많이 가질 수 있습니다.
하지만 그런 AI가 많고 어떤 회사가 그것으로 많은 이익을 내고 있다고 칩시다. 그러면 다른 회사가 들어와 경쟁을 시작합니다. 경쟁이 작동하는 방식은 전문화(specialization)를 통해서입니다. 경쟁은 전문화를 좋아합니다. 시장에서도 보고 진화에서도 봅니다.
우리는 많은 다른 틈새(niche)를 갖게 될 것이고, 다른 틈새를 점유하는 많은 다른 회사들을 갖게 될 것입니다. 이 세상에서 우리는 어떤 AI 회사는 정말 복잡한 경제 활동의 어떤 영역에서 꽤 더 낫고, 다른 회사는 다른 영역에서 더 낫다고 말할 수 있습니다. 세 번째 회사는 소송을 정말 잘한다든지요.
Q: 이건 인간 같은 학습이 암시하는 것과 모순되지 않나요? 배울 수 있다는 건...
A: 배울 수는 있지만, 축적된 학습이 있습니다. 큰 투자가 있죠. 어떤 분야에서 정말, 정말 뛰어나고 경이로울 정도로 잘하기 위해 많은 컴퓨팅을 썼습니다. 다른 누군가는 다른 분야에서 정말 잘하기 위해 엄청난 양의 컴퓨팅과 경험을 썼고요. 거기에 도달하기 위해 많은 인간 학습을 적용했지만, 이제 당신은 다른 누군가가 "봐, 네가 배운 걸 배우기 시작하고 싶지 않아"라고 말할 높은 지점에 있는 겁니다.
Q: 그러려면 여러 회사가 인간 같은 지속적 학습 에이전트를 동시에 시작해서 서로 다른 가지에서 트리 탐색(tree search)을 시작해야겠군요. 하지만 한 회사가 그 에이전트나 학습자를 먼저 얻으면... 경제의 모든 직업을 생각해보면, 한 회사가 각 직업을 배우는 인스턴스를 갖는 게 처리 가능해 보이는데요.