■ AI 반발이 커진 이유
누가 이득을 보고 누가 손해를 볼지 불분명하다는 점을 첫째 이유로 꼽음. AI가 성장을 크게 늘리겠지만 그 과정이 상당히 파괴적일 것이라는 설명. 터미네이터나 매트릭스 같은 디스토피아 시나리오도 완전히 터무니없지는 않다고 인정
■ AI 회사들이 위험을 강조하게 된 배경
딥마인드가 구글에 팔린 뒤 머스크와 올트먼이 이 기술을 한 회사가 갖기엔 너무 위험하다는 생각으로 오픈AI를 설립. 머스크는 2018년쯤 이탈. 2020년 무렵 위험을 더 심각하게 본 7명이 오픈AI를 나와 앤스로픽 설립. 효과적 이타주의 진영은 컬트 같은 면이 있지만 AI가 곧 온다는 큰 사실 하나는 맞혔다는 평가. 앤스로픽 기업가치는 상장 시 2조 달러에 가까워 세계 시가총액 6~7위가 될 것으로 추정. 컬트가 6~7년 만에 이런 회사를 만든 적이 있느냐고 반문
■ 일자리와 생산성 전망
아무도 확신할 수 없다는 단서를 붙인 전망. 거시경제 전체로는 생산성이 크게 오르고 물가를 낮추는 힘으로 작용한다고 봄. 소수 기업이 이익을 독차지하지 않으면 중위 소득자의 형편도 나아진다는 입장. 19세기 러다이트 사례처럼 일부 산업은 크게 흔들리지만 사람들은 더 생산적인 일로 옮겨 갈 수 있음
■ AI 회사에 독점력이 없다고 보는 이유
지난 200~250년 동안 기술 혁신의 이익은 대부분 소비자와 노동자에게 갔고 소프트웨어와 인터넷만 예외였다는 진단. 아마존처럼 한 회사가 시장을 장악하는 일이 AI에서도 생길까 걱정하는 것은 합리적이라고 인정. 다만 틸은 투자 심사 때마다 왜 독점인지 묻는데 AI 회사들의 투자 제안은 성장과 기술 이야기뿐이고 독점 논리는 매우 약하다고 지적. 선두도 계속 바뀜. 2010년대 초 딥마인드가 앞섰고 이후 챗GPT로 오픈AI가 그 자리를 차지. 올트먼은 칩과 데이터센터를 먼저 확보하는 대규모 투자 전략을 제대로 밀어붙였다는 평가. 지금은 앤스로픽이 조금 앞선 것 같지만 구글과 메타와 xAI도 멀지 않고 중국도 크게 뒤처지지 않았다고 봄. 경영자들이 서로 사생결단으로 싸우는 상황이어서 AI의 이익이 사회 전반에 넓게 퍼질 가능성이 높다는 결론.
■ 사람들이 불안해하는 이유
평균적으로는 좋아져도 결과의 편차가 크다는 설명. 임금이 3% 오를 것으로 기대해도 실제로는 위아래 10%씩 흔들릴 수 있다는 예시. 미국 사회는 위험과 변동을 싫어하고 대학은 여전히 20세기 산업에 맞춰져 있다고 지적. 좋은 결과는 잘 보이지 않고 나쁜 결과는 예측하기 쉬워 불안이 생김. 불안은 이해하지만 잘못된 불안
■ AI 개발을 멈추면 안 되는 이유
회사 간 경쟁과 중국과의 경쟁 때문에 멈출 수 없다는 말에 동의. 개인보다 그 개인을 더 잘 아는 중국식 첨단 감시 체제가 이기는 모델이 되면 안 된다고 생각하며 데이비드 색스와 트럼프 대통령이 중국을 이유로 AI 중단 논의를 그만하자고 한 데에도 대체로 동의. 다만 AI 회사들이 스스로 멈추자고 말하는 상황이라 이런 주장을 공개적으로 하기는 부담스럽다고 언급. 그래도 가속 페달을 최대한 세게 밟아야 한다고 발언. AI를 통제하려면 AI 기술을 먼저 개발해야 하고 중국보다 앞서야 할 필요는 더 커짐
■ 성장이 멈췄을 때의 문제
미국은 자녀가 부모보다 잘살 것이라고 기대하는 중산층 사회였는데 밀레니얼과 Z세대는 그 기대를 잃었다고 봄. 인터넷을 금지했거나 지금 AI를 금지하면 성장이 거의 없을 것이며 미국도 유럽이나 일본처럼 한쪽이 얻으면 다른 쪽이 잃는 제로섬 사회. 세계화는 노동비 차이를 이용한 성장이라 성공할수록 효과가 줄지만 기술은 1인당 소득을 높여 혜택이 더 고르게 퍼질 수 있고 인터넷은 성장을 충분히 만들지 못했고 AI는 인터넷보다 크다
■ AI 회사들의 위험 경고와 규제 요구 해석
AI 회사들은 내부 통제를 갖추고 있고 정부보다 AI를 훨씬 잘 안다는 전제. 정부는 규제 방법을 모른다고 봄. 첫 번째 해석은 정부가 느리고 규제 방법을 모른다는 것을 알면서 규제를 요청해 책임을 덜어내려는 면이 있다는 것. 트럼프가 이미 형사처벌 대상이니 추가 규제는 필요 없다고 한 것은 책임이 회사에 있다는 뜻으로 해석. 두 번째는 메타 이사 시절 경험. 2018~2019년 규제를 요청하던 저커버그에게 의원들은 규제할 생각 없이 불러다 꾸짖고 싶을 뿐이라고 말해줬다는 일화 소개. 세 번째는 직원 동기부여. 경영진이 이 기술이 크고 위험하다고 말하면 직원들은 역사상 가장 중요한 회사에서 일한다고 느낌
■ 창업자의 권력과 애플 사례
카리스마 있는 창업자 경영의 대안은 아무것도 하지 않는 관료형 경영뿐. 애플은 잡스 이후 새로운 것을 내놓지 못하고 연구개발은 적고 자사주 매입은 많은 가치주가 됐음. 사회 전체로 보면 머스크나 잡스가 팀 쿡보다 훨씬 낫다
■ 기술 진보의 목적
1970년대 이후 디지털 분야는 크게 발전했지만 물리적 세계의 발전은 느렸음. AI가 과학과 공학 전반을 다시 움직여 치매와 알츠하이머 치료 같은 성과로 이어지길 기대. 과거 인류의 생존을 원하느냐는 질문에 머뭇거린 이유는 지금 이대로도 충분하다는 생각이 질문 뒤에 깔려 있다고 느꼈기 때문. 인류가 살아남고 번영하기를 원하지만 진보 없이는 어렵움