해당시점에 컨설팅사나 증권사들도 관련 리포트를 많이 냈고, AI PC가 PC 교체 주기와 맞물리면서 새로운 수요를 만들 수 있다는 전망도 많았습니다.
스마트폰에서도 온디바이스 AI가 번역, 검색, 사진·영상 편집 등 사용자 경험을 크게 바꿀 것이라는 이야기가 나왔습니다.
다만 그때의 디바이스에서의 활용도나 시장내 실수요, 공급 병목으로의 연계되는 분위기가 아니였습니다.
오히려 하드웨어의 시장 확대에 대해서는 물음표에 좀 더 가까웠다고 느꼈습니다.
당시에는 지금 우리가 쓰는 형태의 Claude Code나 Codex 같은 에이전트형 개발 도구가 본격화되기 전이었습니다.
LLM의 성능도 지금과 비교하면 제한적이었고, 일반 소비자가 바로 체감할 만한 킬러 앱도 아직 명확하지 않았습니다.
그래서 저는 솔직히 당시에는 다소 과장된 이야기라고 봤습니다.
“AI PC 수요가 정말 그렇게 크게 나올까?”
“일반 소비자가 이걸 체감할 정도의 변화가 있을까?”
라는 의문이 컸습니다.
그런데 이 우려는 1년만에 거짓말처럼 바뀐거 같습니다.
AI의 발전 속도가 점점 빨라지면서, 개발과 테크 영역에서는 AI가 핵심 업무 도구에 가까워지고 있습니다.
일부 개인 사용자들도 AI를 활용해 본인이 필요한 도구나 콘텐츠를 직접 만들고, 이를 수익화하도 하는 시점까지 왔습니다.
물론 전체 침투율만 놓고 보면 아직 초기 단계일 수 있습니다.
하지만 반대로 보면, 지금 정도의 수요만으로도 데이터센터 GPU와 HBM을 중심으로 가격 상승과 공급 병목이 나타나고 있습니다.
향후 AI 활용이 더 대중화되고 온디바이스 AI까지 본격적으로 확산된다면, CAPEX의 확장 없이는 이러한 병목은 더 심해질 가능성이 높아 보입니다.
사실 GPU 수요가 이렇게 폭발하기 전부터 업계는 이미 메모리 병목과 지연 시간을 줄이기 위한 기술들을 준비해왔습니다.
인텔, 마이크론, 삼성전자, SK하이닉스 등은 CXL, 차세대 DRAM, Near Memory Computing 등 CPU·GPU·메모리 간 병목을 완화하기 위한 기술을 꾸준히 추진해왔습니다.
2021년 당시에는 아직 지금처럼 병목이 엄청나지 않았고, 추가 비용을 감수하면서까지 이런 구조를 본격 도입할 수요가 얼마나 클지에 대한 의문이 컸습니다.
하지만 지금 시점에는 이제 On-Device AI 및 관련 밸류체인들이 단순한 미래 기술이라기보다, AI 인프라의 병목을 해결하기 위한 현실적인 과제로 점점 더 가까이 다가오고 있는 것 같습니다.