에릭 슈미트 : 우리는 업계에서 앞으로 1년 안에 대부분의 프로그래머가 AI 프로그래머로 대체될 것이라고 믿습니다.
또한 1년 안에 대학원 수준의 수학자들이 최고 수준의 대학원 수학 프로그램에서 경쟁할 수 있을 거라고 믿어요.
좋아요. 그럼 2년 후에는 어떻게 될까요?
방금 제가 추론과 수학에 대해 말씀드렸죠.
증거로, OpenAI의 연구 그룹에서 주장하는 바에 따르면 지금 그들의 코드 중 10-20% 정도가 컴퓨터에 의해 생성되고 있습니다. 그걸 재귀적 자가 개선이라고 부르죠.
이게 규모가 커지면 어떻게 될까요? 글쎄요, 엄청난 일이 벌어질 겁니다.
한 가지 표현으로, 3-5년 안에 우리는 범용 지능(general intelligence)이라고 불리는 것을 갖게 될 거예요. 이는 가장 똑똑한 수학자, 물리학자, 예술가, 작가, 사상가, 정치인으로 정의될 수 있는 시스템입니다.
저는 이를 샌프란시스코 합의(San Francisco consensus)라고 불러요. 왜냐하면 이걸 믿는 사람들은 모두 그곳 출신이니까요.
앞으로 1-2년 안에 이 기반이 고정될 테고, 우리는 멈출 수 없을 겁니다. 그 이후에는 훨씬 더 흥미로워질 거예요. 왜냐하면 컴퓨터가 이제 자가 개선을 하고 있으니까요.
그들은 계획하는 법을 배우고, 더 이상 우리 말을 들을 필요가 없어요.
우리는 이를 초지능(super intelligence) 또는 ASI(Artificial Super Intelligence)라고 부릅니다. 그리고 이 이론은 컴퓨터가 인류 전체를 합친 것보다 더 똑똑해질 거라는 거예요.
샌프란시스코 합의에 따르면, 이는 단순히 규모 확대만으로 6년 안에 일어납니다.
이걸 실현하려면 엄청난 양의 전력이 필요해요.
이 경로는 우리 사회에서 제대로 이해되지 않고 있어요. 이게 도착했을 때 무슨 일이 일어나는지 설명할 언어가 없어요. 우리 민주주의, 우리 법률이 이를 다룰 거예요. 그리고 많은 함의가 있어요. 그래서 이게 과소평가되는 이유죠.
사람들은 이 수준의 지능이 거의 무료로 이용 가능해질 때 무슨 일이 일어나는지 이해하지 못해요.