샘 알트먼: AI에는 아직 ‘아이폰 모먼트’가 오지 않았다

“저는 지금의 상황이 대부분 제품의 실패(product failure) 때문이라고 생각합니다. 현재 우리가 있는 단계는 아이폰이 나오기 전의 스마트폰 시장을 떠올리게 합니다.

저는 꽤 일찍부터 스마트폰을 사용했습니다. 2003년이나 2004년쯤 Palm Treo를 썼죠. 당시에도 필요한 기술의 상당 부분은 이미 존재했습니다. 멀티터치가 없기는 했지만, 더 본질적인 문제는 아이폰을 ‘아이폰답게’ 만들어준 제품적 아이디어들이 없었다는 것입니다.

지금 AI도 비슷하다고 느낍니다. 필요한 기술적 요소들은 이미 대부분 갖춰져 있지만, 사람들이 기술과 상호작용하는 방식을 완전히 바꿔놓는 ‘아이폰 모먼트’는 아직 오지 않았습니다.”

엔비디아, AI 스타트업 퍼플렉시티 투자 논의 — The Information

엔비디아(Nvidia)가 AI 스타트업 퍼플렉시티(Perplexity)의 기업가치를 300억 달러 이상으로 평가하는 신규 지분 투자 라운드 참여를 논의하고 있다고 The Information이 협상에 정통한 익명의 관계자들을 인용해 보도했습니다.

이번 투자 라운드의 자금조달 규모는 수십억 달러에 이를 것으로 예상되며, 성사될 경우 퍼플렉시티의 기업가치는 1년 전 마지막 투자 라운드 대비 50% 이상 상승하게 됩니다.

퍼플렉시티의 연환산 매출(Annualized Revenue)은 올해 초 2억5,000만 달러 미만에서 최근 7억5,000만 달러 이상으로 증가했습니다. 이러한 고성장에는 퍼플렉시티의 AI 에이전트인 ‘Perplexity Computer’가 일부 기여한 것으로 알려졌습니다.

보도에 따르면 엔비디아는 앞서 퍼플렉시티의 일부 기술에 대한 라이선스를 확보하고 인력을 영입하기 위해 수십억 달러를 지급하는 방안도 검토한 바 있습니다.

엔비디아는 이미 퍼플렉시티의 기존 투자자입니다. 퍼플렉시티는 지금까지 17억 달러 이상을 조달했으며, 주요 투자자로는 엔비디아, New Enterprise Associates(NEA), Accel, SoftBank 등이 있습니다.

엔비디아 2분기 실적 프리뷰: 루빈(Rubin)이 추가 상승 여력을 견인, 마진이 여전히 핵심

엔비디아는 이번 분기에도 시장 기대치를 상회하고 가이던스를 상향하는 ‘Beat & Raise’를 기록할 가능성이 높습니다. 초기 Vera Rubin 출하 확대, 견조하게 지속되는 Blackwell 수요, 네트워킹 제품의 동반 탑재(attach) 확대, 그리고 여전히 공급을 웃도는 컴퓨팅 수요가 실적을 견인할 것으로 예상됩니다. 시장의 관심은 이제 Vera Rubin의 출하 확대가 회계연도 3분기와 4분기에 어떤 속도로 진행될지로 이동하고 있습니다.

공급망 관련 잡음에도 불구하고 Vera Rubin의 초기 배치는 계획대로 진행되고 있습니다. 초기 Rubin 출하량이 예상보다 더디더라도 Blackwell 출하 증가가 이를 메워줄 것으로 예상되기 때문에, 세대 전환 과정에서 발생할 수 있는 실적 공백이나 리스크는 제한적일 것으로 보입니다. 다만 최근 하이퍼스케일러의 대규모 자본지출(Capex)이 얼마나 지속 가능하고 충분한 투자수익률을 창출할 수 있는지에 대한 우려로 AI 반도체 업종의 투자심리가 악화된 만큼, 통상적인 수준의 Beat & Raise만으로는 투자심리를 끌어올리기에 부족할 수 있습니다.

수요 기반은 하이퍼스케일러를 넘어 계속 확대되고 있습니다. AI 클라우드 사업자, 소버린 AI 구축 수요, 프런티어 모델 개발업체 등으로 수요처가 넓어지고 있으며, 소버린 AI의 경우 한국과 일본이 발표한 대규모 AI 인프라 구축 계획도 수요 확대에 기여할 것으로 예상됩니다.

엔비디아가 새롭게 구축한 금융기관들과의 파이낸싱 파트너십도 AI 인프라 투자를 추가로 지원할 수 있습니다. 엔비디아는 6개 주요 금융기관과 최대 5,000억 달러 규모의 자금조달을 목표로 하고 있으며, 이는 고객들의 대규모 AI 인프라 구축을 위한 자본지출 여력을 확대하는 데 도움이 될 수 있습니다.

70%대 중반(mid-70s)의 매출총이익률(Gross Margin)은 여전히 달성 가능한 수준으로 예상됩니다. 다만 HBM4 비용이 100% 상승하고 TSMC 파운드리 서비스 비용도 10% 상승하면서, Rubin 출하가 본격적으로 확대될수록 제품 가격 책정과 제품 믹스가 수익성 방어에 더욱 중요해질 전망입니다.

따라서 시장의 관심은 향후 엔비디아가 차세대 GPU 제품의 가격을 어떻게 책정할 것인지, 그리고 HBM을 비롯한 메모리 원가 상승분을 얼마나 효과적으로 제품 가격에 전가하거나 다른 방식으로 상쇄할 수 있을지에 집중될 것으로 보입니다.

한편 중국향 H200 출하량은 여전히 제한적인 수준입니다. 따라서 중국 H200 판매가 실적에 의미 있게 기여하는 것은 현재 기본 시나리오(Base Case)에 포함되기보다는 추가적인 실적 상방 요인(Upside)으로 보는 것이 적절합니다.

골드만삭스가 HBM 공급 경쟁에 대해 상당히 구체적인 전망치를 제시했습니다.

삼성전자의 HBM 출하량은 2026년부터 2028년까지 연평균 52% 성장해, 15.03억 GB에서 34.94억 GB까지 증가할 것으로 전망됩니다.

SK하이닉스($SKHY)는 같은 기간 연평균 37% 성장해 39.68억 GB에 이를 것으로 예상됩니다.

중국 CXMT(창신메모리)는 출발점 자체는 훨씬 작지만, 연평균 성장률(CAGR)이 207%에 달할 것으로 전망됩니다.

수요 측면에서는 중국 전체 DRAM 수요가 연평균 44% 성장할 것으로 예상됩니다. 특히 AI 서버 관련 수요는 130% 성장하고, HBM 수요 자체는 138% 증가할 것으로 전망됩니다.

반면 주요 메모리 업체들의 전체 DRAM 공급 증가율은 10%대 중후반 수준에 머물 것으로 예상됩니다.

결국 공격적인 HBM 출하량 확대 목표와 상대적으로 제한적인 전체 웨이퍼 생산 증가율 사이의 격차 때문에 실제 생산능력과 실행력이 더욱 중요해지고 있습니다.

특히 삼성전자가 HBM 물량을 연평균 52%씩 확대할 수 있을지는 수율(Yield) 개선과 신규 생산능력(Capacity)을 얼마나 빠르게 정상 가동 수준까지 끌어올릴 수 있느냐에 크게 좌우될 것입니다.

Goldman Sachs: HBM 수요 및 시장 규모(TAM)

HBM 전체 시장 규모(TAM)는 올해 전년 대비 67%, 내년에는 108% 성장할 것으로 전망

HBM 평균판매가격(ASP)은 2027년 44% 상승해 GB당 17달러에 이를 것으로 전망

OpenRouter의 데이터와 차트 제작자 Peter Walker에 따르면, 에이전트는 인간보다 거의 5배 많은 토큰을 사용하고 있으며, 에이전트의 토큰 사용량은 불과 지난 2월 이후 약 14배 증가했습니다.

에이전트는 사람보다 훨씬 많은 토큰을 사용할 뿐만 아니라, 토큰을 사용하는 방식 자체도 상당히 다릅니다. 특히 에이전트는 사람에 비해 캐시된 토큰(cached tokens)을 훨씬 더 많이 활용합니다.

다시 OpenRouter 데이터에 따르면, 에이전트형(agentic) 작업에서 소비되는 토큰의 85% 이상이 캐시된 프롬프트에서 발생하며, 최근 토큰 사용량의 상대적인 증가분 역시 거의 대부분이 캐시 토큰에서 나오고 있습니다.

그 이유는 비교적 단순합니다. 사람은 일반적으로 ‘프롬프트 → 응답’ 형태의 대화를 하는 반면, 에이전트는 하나의 목표를 달성하기 위해 반복적으로 작업하고 또 반복하도록 설계되어 있기 때문입니다.

초기 프롬프트에는 토큰을 많이 사용하는 ‘프리필(pre-fill)’ 과정이 포함됩니다. 여기에는 목표를 수행하기 위한 핵심 컨텍스트, 예를 들어 정책과 절차, 코드 작성 가이드라인 등이 들어갑니다.

이후 에이전트는 최종 결과에 도달할 때까지 조금씩 정보를 읽고 쓰는 작업을 반복합니다. 이 과정에서 새로운 정보가 계속 기존 캐시에 추가되며, 에이전트가 작업을 진행할수록 캐시의 크기도 점진적으로 커지게 됩니다.

캐시 토큰은 초기 프리필 토큰보다 훨씬 저렴합니다. 이는 긍정적인 부분으로, 에이전트의 경제성이 점점 높아질 수 있는 이유이기도 합니다.

하지만 캐시 토큰은 정의상 메모리 자원을 소비합니다.

바로 이 지점에서 HBM(High Bandwidth Memory·고대역폭 메모리)이 왜 이렇게 강한 수요를 받고 있는지 이해할 수 있습니다.

수많은 AI 에이전트들이 매번 처음부터 다시 작업하는 것이 아니라, 기존 작업 내용을 메모리에 유지하면서 계속 연산을 수행하려면 막대한 메모리 자원이 필요하기 때문입니다.

그리고 에이전트 기술은 아직 전체 발전 과정에서 극히 초기 단계에 있음에도 불구하고 빠르게 확산되고 있습니다.

에이전트 확산과 관련해 주목할 만한 또 하나의 2차 효과(second-order effect)도 있습니다.

바로 에이전트가 기존의 자동화 및 워크플로우 소프트웨어에 대한 수요를 감소시킬 가능성입니다.

Similarweb 데이터에 따르면, Gumloop을 제외하면 자동화 툴 관련 웹사이트의 트래픽은 지속적인 감소세를 보이고 있습니다.

HSBC: 메모리

시장 성장 및 밸류에이션

폭발적인 시장 확대: HBM 시장은 2022년 10억 달러에서 2028년 약 1,960억 달러 규모까지 빠르게 성장할 것으로 전망됩니다.

공격적인 CAGR: 2025년부터 2028년까지 HBM 시장은 연평균 70%의 매우 높은 성장률(CAGR)을 기록할 것으로 예상됩니다.

높은 연간 성장률 지속: 전망 기간 동안 전년 대비 성장률 역시 매우 높은 수준을 유지할 것으로 예상됩니다. 구체적으로 2025년 +83%, 2026년 +89%, 이후에도 성장을 이어가며 2028년에는 +43% 성장해 시장 규모가 1,960억 달러에 이를 것으로 전망됩니다.

비트 수요 및 DRAM 내 비중

전체 비트 수요: HBM 전체 비트 수요는 2025년부터 2028년까지 연평균 37% 성장해, 2025년 230억 Gb 환산에서 2028년 590억 Gb 환산까지 증가할 것으로 전망됩니다.

전체 DRAM에서 HBM 비중 확대: 전체 DRAM 수요에서 HBM이 차지하는 비중도 꾸준히 높아질 것으로 예상됩니다. 초기에는 한 자릿수 초반의 미미한 수준이었으나, 2025년 약 7%에서 2028년 약 10%까지 확대될 전망입니다.