벤 호로위츠와 동료들은 AI 수요 확대에 비해 칩·메모리·전력·데이터센터 공급이 부족해 인프라 전반의 재설계가 필요하다고 진단했다.
1️⃣ AI 수요는 공급 확장 속도를 앞서고 있다
출연진은 주요 공급이 사실상 2028년까지 예약됐고 GPU 가격도 반등했다며, 현재 수요를 충족하는 데만 주요 메모리 업체의 3년 치 생산능력이 필요하다는 업계 발언을 근거로 제시했다.
2️⃣ 추론과 에이전트가 컴퓨트 소비를 더 키운다
추론·장기 실행 에이전트는 작업당 더 많은 토큰을 사용하며, 활용 범위도 개발자에서 10억 명이 넘는 지식 노동자와 백오피스 업무로 확장될 가능성이 거론됐다.
3️⃣ 기존 데이터센터는 AI 워크로드에 맞지 않는다
메모리 계층과 칩 간 연결부터 전력 공급, 액체 냉각, 건물 구조까지 다시 설계해야 하며, 칩 생산과 데이터센터 건설에 수년이 걸려 공급 격차를 단기간에 해소하기 어렵다는 설명이다.
4️⃣ 하드웨어 효율이 AI 사업의 수익성을 결정한다
대규모 모델에서는 효율 개선의 경제적 가치가 커져 맞춤형 ASIC과 전력·냉각 기술이 투자 기회가 될 수 있지만, 실제 성과에는 시스템 전체를 이해하는 창업팀과 기술적 돌파가 필요하다.
🔗 네이버 블로그 · [[블로그글 상세 링크]](https://blog.naver.com/PostVie…ength=179058)