지금 모든 AI HW들은 큰 틀에서 메모리 대역폭을 물리적으로 확보하는 것이 수요 대비 어렵기 때문이다.
네트워킹? 한정된 HBM을 효율적으로 쓰기위함이다
메모리 계층화? 한정된 HBM을 효율적으로 쓰기위함이다
CPU의 오케스트레이션? 한정된 HBM을 효율적으로 쓰기위함이다
그럼 HBM을 가속기 옆에 무식하게 많이 때려박으면 되나?
-이론적으로는 그렇지만
-물리적으로, 현실적으로 불가하다
이미 이건 시장이 다 안다.
Muse로 CPU가 날뛰고, CPO로 광이 날뛰고 하는건 시장이 새로운 것을 찾고 있기 때문이다. 시장은 항상 새로운 확장성을 기대한다.
그런 관점에서 주인장이 광과 블룸을 좋게 생각하는 것. 메인과 확장성을 둘 다 가져갈 수 있는 포지션이라