그는 심지어 이러한 모델을 만드는 사람들조차 자신이 만든 것을 완전히 이해하지 못한다고 인정한다:
1. 모든 전문화된 AI 모델들이 하나로 수렴하고 있다. 구글은 과거에 다양한 과학적 문제에 대해 별도의 모델이 필요했다. 이제 주요 제미나이 모델들은 수학과 다른 과학적 질문에 대해 동시에 최첨단 수준이 되고 있다. 브린은 처음에 이 수렴을 예측하지 못했을 것이며, 그것이 일어나는 것을 지켜보는 것은 놀라웠다고 말한다.
2. 한 기술에 AI를 훈련시키면 관련 없는 기술이 신비롭게 향상된다. 이것이 전이의 개념이다. 모델을 코딩에 훈련시키면 수학적 추론이 좋아지고, 그 반대도 마찬가지다. 이미지를 처리하도록 가르치면 기하학적 단어 문제에 대한 사고 능력이 향상될 수 있다. 능력들은 아무도 완전히 설계하지 않은 방식으로 서로 스며든다.
3. 심지어 세르게이 브린조차 이러한 모델들을 어떻게 프롬프트해야 할지 모른다. 그는 프롬프트할 수준에 대해 진심으로 혼란스럽다고 말한다. 특정 코드 덩어리를 디버그하라고 말할지, 더 나은 신경망 훈련 알고리즘을 작성하라고 요청할지, 아니면 그냥 "오늘 내가 뭘 해야 할까"라고 말할지. 그는 구글에서조차 제미나이의 능력 한계가 정확히 어디인지 모른다고 인정한다.
4. AI의 가장 큰 도약 중 하나는 가장 어리석아 보이는 트릭에서 왔다. 사고의 사슬 프롬프팅은 모델에게 문제를 주기 전에 단계별로 생각하라고 말하는 것일 뿐이다. 브린은 그것이 그동안 가장 어리석은 것처럼 보였고, 작동할 이유가 명백하지 않았다고 말한다. 하지만 작동했고, AI 능력의 상당한 증가를 촉진했다. 가장 간단한 요청들이 가장 큰 잠금을 푸는 것으로 드러난다.
5. 브린은 오늘날 AI를 위해 자신의 생물학을 수정하지 않을 것이다. 모델들의 가속화되는 대역폭에 인간이 어떻게 따라갈 수 있느냐는 질문에, 그는 신경 연결과 직접적인 뇌 연결이 추구되고 있음을 인정했다. 하지만 그는 개인적으로 기술이 훨씬 성숙할 때까지 자신의 생물학을 바꾸기 위해 아무것도 하지 않을 것이라고 말했다. 오늘날 모델들은 그것을 정당화하지 않는다.
6. 초지능은 불가능한 것을 해결한다는 의미가 아니다. 청중 중 한 명이 진정한 초지능은 여행하는 판매원 같은 NP 완전 문제 해결을 의미할 것이라고 주장했다. 브린은 반박했다. 대부분의 컴퓨터 과학자들은 P가 NP와 같지 않다고 믿으며, 이는 어떤 알고리즘도 그 문제들을 최적으로 신뢰성 있게 해결할 수 없다는 뜻이고, AI가 얼마나 똑똑하든 상관없다. 불가능은 여전히 불가능하다. 초지능은 단지 인간보다 더 똑똑하다는 의미일 뿐이다.
7. 컴퓨터가 기술을 마스터한다고 해서 인간이 그것을 추구하는 것을 멈추게 한 적이 없다. 1990년대에 딥 블루가 체스에서 카스파로프를 이겼지만, 사람들은 체스를 계속 두었다. 알파고 이후, 인간의 바둑 게임은 극적으로 발전했고, 그것에게 패배한 선수들은 훨씬 더 나아졌다. 브린의 요점: AI는 한 분야에서 인간의 야망을 퇴역시키지 않는다; 종종 최첨단을 밀어붙이고 사람들을 끌어올린다.
8. 브린은 트랜스포머와 유사한 것이 AGI로 우리를 이끌 수 있다고 생각한다. 트랜스포머가 충분하냐는 직접적인 질문에, 그는 자신의 추측으로는 그렇다고 말하며, 주로 그것들이 원래 텍스트 목적을 훨씬 넘어 이미지와 비디오에 대해 이상할 정도로 유연하게 작동했기 때문이라고 했다. 하지만 그는 그것들이 도중에 조용히 많이 변했고, 원래 트랜스포머 논문과 동일한 아키텍처가 아니라는 점을 주의 깊게 지적했다.
9. AGI는 두 가지 다른 의미를 가지며, 그중 하나는 물리적 세계 이해를 요구한다. 브린은 개인적으로 AGI를 스스로를 개선할 수 있는 AI로 생각한다. 하지만 그는 다른 사람들은 그것을 사람이 할 수 있는 모든 것을 할 수 있는 AI로 정의하며, 그들이 아마 더 정확할 것이라고 인정했다. 사람이 할 수 있는 모든 것을 하기 위해, AI는 물리적 세계를 이해하고 상호작용해야 하며, 이것이 세계 모델과 로보틱스가 필수적이기 때문이다.
10. 구글 내부에서, 그들은 이제 AI를 이용해 AI를 만든다. 브린은 팀이 훈련 실행을 모니터링하고 자체 훈련 데이터를 생성하는 등의 일을 AI가 하도록 많은 에너지를 옮겼다고 말한다. 도구를 이용해 도구를 만드는 데서 시작한다. 그것이 그가 지금 대부분의 시간을 보내는 일이며, 그가 자가 개선 게임이라고 부르는 것이다.
11. 브린은 구글이 경쟁자들에 뒤처진 부분에 대해 비정상적으로 솔직하다. 그는 구글이 코딩에 깊이 집중하는 데 조금 늦었다고 인정한다. 그는 제미나이 3.0과 3.1이 6개월 전 모든 면에서 최상위에 있었지만, 그 이후 다른 연구소들이 특히 코딩에서 진전을 이루었다고 말한다. 그는 지금 경쟁자 모델이 깊은 코딩과 야간 작업에서 우위를 점한다고 하며, 제미나이의 플래시 모델을 빠른 상호작용 반복에 훨씬 더 빠르다고 강조한다. 회고적으로, 그는 코드에 더 일찍 집중했어야 했다고 말한다.
12. 그는 자신의 역할을 관리자가 아닌 선동자로 본다. 브린은 제미나이를 전달하는 것이 코리와 데미스의 책임이지 자신의 것이 아니라고 솔직히 말한다. 그는 자신의 일을 팀을 찌르고 자극하는 것으로 묘사하며, "정말 그렇게 하고 있나요?"라고 묻고, 그들이 놓칠 수 있는 우선순위와 충분히 주의를 기울이지 않는 아이디어를 상기시키는 것이라고 한다. 그는 이것이 때때로 약간 혼란스럽다는 것을 인정한다.
13. 자신감은 월별 온도를 무시할 때 온다. 브린은 경쟁자가 방금 모델을 출시한 것으로 매달 구글의 위치를 판단한다면 자신감이 아주 빨리 사라질 것이라고 말한다. 대신 그는 더 긴 아크를 지켜본다. 상황은 끊임없이 변한다; 한 연구소가 한 분야에서 앞서고, 다른 곳에서 다른 연구소가 앞서며, 그는 일상적인 소음에도 불구하고 제미나이가 실제로 어디에 있는지에 대해 기분이 좋다.