구글이 Gemini 모델의 구조를 칩 설계에 직접 반영한 AI 추론칩 ‘Frozen v2’를 개발 중이다. AI 컴퓨팅 용량 부족으로 Google Cloud가 외부 고객 계약을 거절하는 사례까지 발생한 가운데, Gemini 실행 과정에서 필요한 일부 판단을 칩에 미리 구현해 연산 단계와 데이터 이동을 줄이려는 목적이다.
전력당 토큰 처리 효율은 최신 TPU 대비 6~10배 높아질 것으로 내부에서 예상하고 있으며, 목표 배치 시점은 2028년이다.
Frozen v2는 TPU를 대체하는 것이 아니라 Gemini에 특화된 별도 칩 계열이다. 범용 GPU·TPU보다 추론 속도와 전력 효율을 높일 수 있지만, 향후 Gemini의 기반 아키텍처가 크게 바뀌면 이후 모델에 활용하기 어려울 수 있다.
구글은 현재 Frozen v2를 TPU만큼 대규모로 생산할 계획은 없으며, 이번 세대를 향후 모델 특화형 칩 개발을 위한 시험 단계로 보고 있다.
출처: The Information