Ryzen AI Max+ 395(Strix Halo)는 CPU와 GPU가 128GB 메모리를 공유하는 구조로, GPU에 최대 110GB 수준의 메모리를 할당할 수 있습니다.
RTX 5090이 32GB, RTX 4090이 24GB인 것을 생각하면 로컬에서 대형 AI 모델을 돌리기 훨씬 유리한 구조입니다.
실제로 AMD는 235B급 오픈소스 모델 추론 데모도 공개했습니다.
핵심은 성능 경쟁보다도 "VRAM 부족" 문제를 크게 완화했다는 점입니다.
예전에는 70B~200B급 모델을 돌리려면 여러 GPU나 서버가 필요했지만, 이제는 소형 워크스테이션에서도 가능한 영역이 점점 넓어지고 있습니다.
물론 아직 Claude나 GPT 같은 최상위 클라우드 모델을 대체하는 수준은 아니고, 속도 역시 데이터센터 GPU와 비교하면 부족합니다.
다만 로컬 AI 관점에서는 꽤 의미 있는 변화로 보이네요.
"개인도 집에서 200B급 모델을 돌릴 수 있는 시대"가 생각보다 빨리 오고 있습니다.