• 세쿼이아 캐피털을 비롯해 안드레센 호로위츠, 제인 스트리트, 디퓨전, 아르고, SK 하이닉스 등이 참여
• 지금까지 총 투자금은 800M
핵심 목표 및 시스템 개발
• 목표: 세계 최고 수준의 AI 추론(Inference) 속도 및 효율 향상.
• 프론티어 추론 클러스터: 칩, 랙, 소프트웨어, 제조 방식을 일체화하여 프런티어 모델(MoE, 긴 컨텍스트, 에이전트 워크로드 등)을 최고 효율로 실행할 수 있는 첨단 시스템 공동 설계.
• 팀 및 파트너십: NVIDIA, Google TPU, Broadcom, SK Hynix, TSMC 출신의 400여 명의 엔지니어로 구성.
주요 기술 혁신 성과
저전압 간섭 (LVI, Low-Voltage Inference):
• 기존 AI 칩과 달리 연산 블록을 절반 이하의 전압으로 실행하여 열 스로틀링 없이 높은 FLOPs 밀도 유지. (초당 처리할 수 있는 계산량이 많음)
• 수조 개의 파라미터를 가진 희소 MoE 모델을 최대 FLOPs의 80% 이상 효율로 작동 지원.
클러스터 스케일 메모리 (CSM, Cluster-Scale Memory):
• HBM/SRAM 하이브리드 설계를 통해 초저지연·고대역폭 인터커넥트 기반의 공유 메모리 풀 구축.
• 메모리 용량 문제와 지연 시간을 동시에 해결하여 최고 수준의 처리량과 빠른 응답 속도 확보.
양산 및 시설 확장 현황
• 실리콘 검증: TSMC N4P 공정 기반 A0 실리콘 수령 후, 10억 달러 이상의 고객 주문을 충족하기 위한 첫 번째 랙 제품 검증 진행 중.
• 배포 및 시설: 올여름 첫 랙 제품 출하 예정. 24시간 엔지니어링 지원을 위한 대만 공장 설립 및 산호세 본사 인근에 10메가와트(MW) 규모의 R&D 연구실/데이터센터 구축.
https://www.etched.com/progress