(1) 기존 AI 모델은 한 번 학습을 마치면 새로운 정보를 자동으로 파라미터에 반영하지 못함
(2) 새로운 데이터를 반영하려면 추가 학습이 필요한데, 이 과정에서 모델의 가중치가 바뀌면서 과거에 학습한 내용을 잊어버릴 수 있음
(3) 이게 바로 마름모 모양에 해당하는 리스크인 '파국적 망각(Catastrophic Forgetting)'임
(4) 예를 들어 AI가 개와 고양이를 구분하도록 학습한 뒤에 자동차와 비행기를 새로 학습하면, 자동차와 비행기 구분 정확도는 올라가지만 개와 고양이 구분 능력은 떨어질 수 있음
*새로운 학습이 과거 지식을 담고 있는 동일한 가중치를 덮어쓰기 때문에 발생하는 현상. 개와 고양이의 특징을 가르는 명확한 경계선에, 자동차와 비행기 구분을 추가 학습하게 되면, 경계선 자체가 이동해 분류의 오류가 증가함
(5) 위의 차트는 지속학습(Continual Learning)의 핵심 문제인 '파국적 망각'을 해결하는 네 가지 기술적 접근법을 보여줌
(6) 이는 각각 1) 가중치 변화 페널티 부과, 2) 과거 데이터 리플레이, 3) 파라미터 분리, 4) 외부 메모리 저장 방식임
(7) 결론은 모두 같음. 기존 지식은 유지하면서, 새로운 지식을 학습하는 안정적이면서도 유연한 모델을 만드는 것이 목표. 그렇기 위해서는 1) 안정성, 2) 가소성을 확보하는 것이 핵심
■ 안정성(Stability): 과거에 배운 지식을 유지
■ 가소성(Plasticity): 새로운 정보를 계속 학습
-
[1] 가중치 페널티 부과(Penalize Weight Drift)
(1) 새로운 데이터를 학습할 때 기존 지식에 중요한 가중치가 지나치게 변하지 않도록 페널티를 부과하는 방식
(2) 대표적인 방법은 아래와 같음
■ EWC: 과거 작업에 중요했던 가중치일수록 변경하기 어렵게 만듦
■ SI: 학습 과정에서 각 가중치가 과거 작업에 얼마나 기여했는지 계산
■ LwF: 이전 모델의 출력값을 새로운 모델이 계속 모방하도록 학습
(3) 쉽게 말하면 모델에 “새로운 것을 배우더라도 기존에 중요했던 부분은 함부로 바꾸지 마라”라고 제약을 거는 방식
(4) 장점은 과거 학습 데이터를 대규모로 저장할 필요가 없다는 것. 다만 새로운 지식과 과거 지식의 차이가 크면 가중치를 보호하는 것만으로 망각을 완전히 방지하기 어려움
(5) 네 가지 방식 중 저장장치 수요는 상대적으로 작지만, 중요 가중치와 이전 모델 정보를 유지해야 하므로 HBM/DRAM 사용량은 증가로 귀결
-
[2] 과거 데이터 리플레이(Replay Past Data)
(1) 새로운 데이터를 학습할 때 과거 데이터의 일부도 다시 불러와 함께 학습하는 방식
(2) 사람이 새로운 내용을 공부하면서 이전 내용을 복습하는 것과 유사함
(3) 대표적인 방법은 아래와 같음
■ Experience Replay: 과거 학습 데이터를 저장했다가 다시 사용
■ iCaRL: 과거 클래스를 대표하는 샘플을 선별해 저장
■ Generative Replay: 과거 데이터를 직접 저장하는 대신 생성형 모델이 유사한 데이터를 만들어 재학습
(4) 예를 들어 자동차 데이터를 학습할 때 과거에 저장해 둔 개와 고양이 이미지도 섞어서 학습하면, 자동차를 배우면서도 개와 고양이에 대한 기존 지식을 유지할 수 있음
(5) 정확도와 안정성이 높은 방식이지만 과거 데이터, 특징값, 중간 결과 등을 계속 저장하고 불러와야 함
(6) 네 가지 방법 중 eSSD 수요와 가장 직접적으로 연결되는 방식이라고 할 수 있음
■ 과거 학습 데이터 저장: 고용량 eSSD
■ 데이터를 학습기로 불러오는 과정: 서버 DDR5, SoCAMM
■ GPU에서 재학습 수행: HBM
-
[3] 파라미터 분리 방식(Isolate Parameters)
(1) 새로운 작업을 학습할 때 기존 파라미터를 직접 수정하지 않고, 별도의 네트워크나 파라미터 영역을 추가하는 방식
(2) 대표적인 방법은 다음과 같음
■ Progressive Nets: 새로운 작업마다 별도의 네트워크를 추가
■ Expert Gate: 작업에 따라 적절한 전문가 모델을 선택
■ CLEAS: 새로운 작업에 적합한 네트워크 구조를 탐색, 분리
(3) 쉽게 말하면 기존 지식이 저장된 방은 그대로 잠가 놓고 새로운 지식을 위한 방을 추가하는 방식
(4) 기존 파라미터를 건드리지 않기 때문에 망각을 효과적으로 줄일 수 있음
(5) 다만 작업이 계속 추가될수록 모델 크기와 파라미터 수가 늘어나기 때문에 계산량과 메모리 용량이 빠르게 증가할 수 있음
(6) 추가되는 파라미터와 전문가 모델을 가속기 가까이에 보관해야 하므로 HBM 용량 수요와 서버 DRAM 수요가 크게 증가하는 방식
(7) 전체 모델을 HBM에 넣기 어려우면 사용 빈도가 낮은 파라미터를 서버 DRAM이나 SSD로 내려놓는 오프로딩도 증가
-
[4] 외부 메모리 저장 방식(Store Knowledge Externally)
(1) 모든 새로운 지식을 모델의 파라미터에 직접 반영하지 않고, 외부 메모리나 데이터베이스에 저장한 뒤 필요할 때 검색해 사용하는 방식
(2) 대표적인 방법은 아래와 같음
■ SkillNet: 학습한 기술이나 기능을 외부 모듈 형태로 저장
■ Prompt Pools: 과거 작업에 적합했던 프롬프트를 저장하고 필요할 때 선택
■ 외부 메모리, 벡터 데이터베이스, 검색 시스템 등
(3) 예를 들어 AI가 새로운 정보를 배울 때 매번 모델 전체를 다시 학습하는 대신 정보를 외부 데이터베이스에 저장한 뒤, 질문이 들어오면 관련 지식을 검색해 답변에 활용할 수 있음
*RAG와 유사한 개념인 듯
(4) 모델 파라미터를 크게 바꾸지 않으므로 망각 위험과 재학습 비용을 줄일 수 있지만, 저장된 지식을 빠르게 검색하고 가속기로 전달하는 시스템이 중요해짐
(5) 이 방식은 고용량 eSSD와 서버 DRAM 수요에 가장 구조적으로 우호적
■ 장기 지식, 벡터, 프롬프트 저장: eSSD
■ 자주 사용하는 데이터 캐싱: 서버 DDR5, SoCAMM
■ 검색한 정보를 GPU에서 처리: HBM
-
[Implication]
(1) 기존 AI가 대체로 ‘학습 → 추론 서비스’로 이어지는 일회성 구조였다면, 지속학습은 ‘학습 → 추론 → 데이터 축적 → 재학습’이 끊임없이 반복되는 순환 구조
(2) 이에 따라 HBM 수요는 추론 확대로 인해 축소되는 것이 아니라, 지속적인 모델 업데이트를 위해 유지/확대
(3) 동시에 과거 데이터의 저장과 호출이 증가하면서 서버 DRAM/SoCAMM/eSSD 수요도 구조적으로 함께 성장할 전망
(4) 젠슨 황이 지난 몇 년간 강조해 온 새로운 인류의 인프라는 바로 ‘지능(Intelligence)’
(5) 그리고 지능의 가장 중요한 속성은 한 번 완성되는 것이 아니라, 새로운 정보와 경험을 받아들이며 끊임없이 변화하고 진화한다는 것
(6) 결국 AI는 고정된 ‘지식’ 그 자체가 아니라, 새로운 데이터를 기억하고 기존 지식과 결합해 지속적으로 변화하는 ‘진화하는 지능’
(7) 지능이 계속 진화하려면 새로운 정보를 학습하는 HBM, 현재의 작업을 처리하는 DRAM/SoCAMM, 과거의 경험을 축적하는 eSSD가 모두 필요
(8) 따라서 메모리는 단순한 AI 부품을 넘어 지능의 학습/기억/진화를 지탱하는 핵심 인프라가 되며, 그 수요도 장기적으로 구조적 성장을 지속할 것으로 판단 됨