첫 번째 원칙은 무조건 직접 써봐야 한다는 겁니다. 정말 많은 유명하고 저명한 투자자들이 AI에 대해 아주 확정적인 결론을 내리는데, 알고 보면 '무료 버전(Free tier)'만 써보고 하는 소리일 때가 많아 놀랍습니다.
두 번째는, 예전에 OpenAI 내부자 포스팅에서도 언급됐듯이, OpenAI조차 상당 부분 '트위터(X)의 분위기(Vibes)'에 따라 돌아간다는 겁니다. 저는 AI의 모든 일은 X에서 일어난다고 생각합니다.
지구상에 이 분야를 정말 깊이 이해하고 최첨단에 있는 사람이 500명에서 1,000명 정도 되는데, 그중 상당수가 중국에 살고 있기도 합니다. 그냥 그 사람들을 팔로우해야 합니다. 저에게 있어 AI의 모든 것은 그 사람들의 하류(downstream)에 있습니다. 엄청난 신호들이 그곳에 있죠.
Q: 안드레 카파시(Andrej Karpathy)가 쓰는 글은 다 읽어야겠죠?
A: 네, 안드레 카파시가 쓰는 모든 글은 최소 세 번은 읽어야 합니다. 그는 정말 대단하죠. 그리고 중요한 4개 랩(OpenAI, Google Gemini, Anthropic, xAI)의 관계자가 팟캐스트에 나오면 무조건 듣는 게 중요합니다.
그리고 저에게 있어 AI의 가장 좋은 활용 사례 중 하나는 이 모든 정보를 따라잡는 것입니다. 팟캐스트를 듣다가 흥미로운 부분이 있으면 AI와 그것에 대해 이야기하는 거죠. 마찰(friction)을 줄이는 게 중요한데, 저는 버튼 하나만 누르면 Grok이 뜨게 해 놨습니다.
Q: 추론 모델 덕분에 발전이 계속됐다는 건 구체적으로 어떤 의미인가요?
1. 사후 학습(Post-training) 단계에서의 검증 가능한 보상을 통한 강화 학습(RLVR).
2. 테스트 타임 컴퓨트(Test-time compute, 추론 시 연산 시간을 늘리는 것).
카파시가 말했듯 소프트웨어는 명세할 수 있는 모든 것을 자동화하지만, AI는 검증할 수 있는(Verify) 모든 것을 자동화합니다. 이 두 가지 새로운 법칙 덕분에 2024년 10월 이후 엄청난 발전이 있었던 겁니다.
Q: 저비용 생산자가 되는 게 왜 중요한가요?
A: 제 기술 투자 경력상 처음으로 '저비용 생산자'가 되는 게 중요한 시점입니다. 애플이나 마이크로소프트, 엔비디아가 시총 1위인 이유는 저비용 생산자여서가 아닙니다. 하지만 AI에서는 구글이 저비용 생산자로서 AI 생태계의 '경제적 산소'를 빨아들이는 전략을 쓰고 있습니다. 경쟁자들을 힘들게 만드는 매우 합리적인 전략이죠.
하지만 2026년 초가 되면 상황이 바뀝니다. 첫 번째 Blackwell 기반 모델이 나올 겁니다. 아마 xAI가 최초일 겁니다. 젠슨 황도 말했듯이 일론 머스크보다 데이터 센터를 빨리 짓는 사람은 없으니까요. xAI가 엔비디아를 위해 대규모로 Blackwell을 깔고 버그를 잡아주면, 그다음엔 GB300 칩이 나옵니다. GB300은 기존 랙에 그대로 끼울 수 있는(Drop-in compatible) 칩입니다.
GB300을 쓰는 기업들이 이제 저비용 생산자가 될 겁니다. 구글의 비용 우위가 사라지는 거죠.
Q: 구글의 전략적 계산이 바뀌겠군요?
A: 네, 구글이 압도적인 비용 우위가 있다면 검색 사업 등으로 돈을 벌면서 AI 사업을 마진 -30%로 운영해서 경쟁자들을 말려 죽이는 게 합리적입니다. 하지만 구글이 더 이상 저비용 생산자가 아니게 되면, 그 전략은 매우 고통스러워집니다. 구글 주가에도 영향을 줄 수 있고요. AI의 경제학에 심오한 변화가 오는 시점입니다.
Q: 구글 TPU가 계속 발전해서 엔비디아를 따라잡을 순 없나요?
A: 구글은 TPU 설계(프런트엔드)는 직접 하지만, 제작(백엔드)과 TSMC 관리는 브로드컴(Broadcom)에 맡깁니다. 브로드컴은 여기서 50~55% 마진을 챙기죠. 구글이 300억 달러를 쓰면 150억 달러를 브로드컴에 주는 셈입니다. 애플처럼 모든 걸 내재화하면 이 돈을 아낄 수 있습니다. 구글도 이걸 알고 미디어텍(MediaTek)을 끌어들이며 브로드컴을 견제하고 있습니다.
하지만 엔비디아와 AMD가 매년 신제품을 내놓으며 가속하고 있기 때문에, 자체 칩(ASIC)으로 이를 따라잡기는 점점 더 어려워지고 있습니다. 칩만 만드는 게 아니라 네트워킹, 소프트웨어 등 모든 게 얽혀 있으니까요. 아마존의 자체 칩 팀이 가장 훌륭하긴 하지만, 저는 Tranium(아마존 칩)과 TPU 외에 다른 자체 칩들이 크게 성공할지 의문입니다. 결국 경제성의 논리에 따라 자체 칩들도 엔비디아 GPU와 섞어 쓰거나 대체될 수밖에 없을 겁니다.
Q: 너무 디테일에 빠진 것 같으니 좀 크게 봐서(Zoom out), 이 모든 인프라 전쟁의 결과로 인류가 얻는 이득은 무엇입니까? 다음 단계의 '잠금 해제'는 무엇인가요?
A: Blackwell 모델들이 나오면 토큰당 비용이 급격히 줄어들고, 모델들이 훨씬 더 오랫동안 '생각'할 수 있게 됩니다. Gemini 3가 제 식당 예약을 대신해줬는데 꽤 인상적이었습니다. 식당 예약을 할 수 있다면 호텔, 비행기, 우버까지 예약해서 제 비서가 될 날이 머지않았습니다.
하지만 더 중요한 건 기업의 핵심 기능인 '판매(Sales)'와 '고객 지원(Support)'입니다. AI는 설득에 능합니다. 그리고 무엇보다 '검증 가능한(Verified)' 영역에서 엄청난 능력을 발휘할 겁니다.
Q: 검증 가능한 영역이란 어떤 건가요?
A: 회계장부가 맞는지 틀린 지(회계), 코딩이 돌아가는지 안 돌아가는지, 고객이 물건을 샀는지 안 샀는지 같은 겁니다. 정답이나 결과가 명확한 분야는 강화 학습을 통해 AI를 엄청나게 똑똑하게 만들 수 있습니다.
2026년쯤 되면 AI가 기업의 핵심 기능들을 수행하고, 로봇 공학(테슬라 옵티머스 등)이 현실화되며, 미디어 제작에도 큰 영향을 줄 겁니다.
Q: 가장 큰 리스크(Bear Case), 즉 찬물을 끼얹는 시나리오는 무엇인가요?
A: 가장 명백한 베어 케이스는 '에지 AI(Edge AI)'입니다. 3년 뒤, 조금 더 크고 배터리가 덜 가는 스마트폰에서 Gemini 5나 GPT-4 수준의 모델이 무료로 돌아간다면 어떨까요? 애플의 전략이 바로 이겁니다. "우리는 AI 배포자가 되겠다. 프라이버시를 지키며 폰에서 돌리고, 정말 어려운 것만 클라우드 신(God) 모델에게 물어보라."
만약 폰에서 무료로 꽤 괜찮은 지능(IQ 115 수준)을 초당 60 토큰 속도로 쓸 수 있다면, 굳이 비싼 클라우드 AI를 쓸 필요가 없어질 수도 있습니다. 이게 확장 법칙 둔화 외에 가장 무서운 시나리오입니다.
이제는 '지능의 향상'에서 '유용성(Usefulness)의 향상'으로 넘어가야 할 때입니다. 모델이 더 많은 문맥(Context)을 기억하고, 내 모든 슬랙 메시지와 이메일, 회사 매뉴얼을 기억해서 새로운 업무를 처리할 수 있어야 합니다.
Q: 중국 상황은 어떤가요?
A: 중국이 희토류 수출 통제로 미국을 압박하려 한 건 큰 실수였습니다. 엔비디아의 Blackwell 칩이 나오면서 미국 모델과 중국 모델(오픈소스 포함) 간의 성능 격차가 크게 벌어질 겁니다. 중국 모델인 DeepSeek도 논문에서 "컴퓨팅 파워 부족으로 경쟁하기 힘들다"라고 우회적으로 인정했죠. 중국이 Blackwell을 구하지 못하면 격차는 더 벌어질 것이고, 희토류 문제는 미국이 기술적/지정학적으로 해결책을 찾을 겁니다.