중국 오픈모델들이 지금까지 돌릴만한 스케일이었던 것은, 좋은 GPU가 없어서 인프라에 발생한 병목이 주된 원인으로 생각됨(개인적 추측).
그렇다면 지금 DeepSeek, Zhipu 등이 짓고 있는 데이터센터들이 완공되고 Huawei Ascend 칩(H200 보다 살짝 안좋은 스펙) 내년에 대량으로 도입된다면? (참고로 어센드 칩들은 중국 내수수요로도 없어서 못파는 상태) 로컬 모델이 작은 사이즈를 유지할 이유가 있을까? Kimi K3과 Mythos 는 크기를 몇T씩 올려도 여전히 성능에 gain이 존재함을 여실히 보여줬음.
그렇다면 이제 로컬단들은 선택을 해야함. 자기들이 쓰던 2천불 내외 노트북에서 돌릴 Qwen4-27B 로 만족하거나, 최신 랩에서 나오는 500B-1T "Flash" 모델을 돌리기 위해 1만불-2만불짜리 하드웨어를 추가로 사거나...
그러니까 이런 위험을 헷지하고 싶으시면 256GB Mac을 지금 정가에 사시던가 DGX Spark를 천만원 주고 중고로 사시라 이말입니다. (제꺼사가시라는말 아님)