프론티어 랩들의 모델 성능이 상향 평준화되고 있다. 모델이 과거의 ‘CPU’처럼 범용적인 부품이 되어갈 때, 기업의 활용 사례의 진짜 차별점은 결국 ‘데이터’에서 나온다.
데이터란 단순히 데이터베이스에 저장된 정보를 넘어, 메신저와 메일 속에 흩어진 파편화된 맥락, 그리고 베테랑 직원의 머릿속에만 존재하는 ‘암묵적 지식’까지 포함한다.
지금까지의 AI 서비스들이 단순히 데이터를 검색해 보여주는 ‘래퍼(Wrapper)’ 서비스였다. 이것만으로도 많은 가치를 만들고 있는데 대표적으로 큰 회사에서 발생하는 커뮤니케이션 비용을 효과적으로 정보를 공유할 수 있게 해서 이 비용을 낮추고 있다.
앞으로는 이 보다 복잡한 맥락을 이해하고 실행하는 ‘에이전트’의 시대가 오고 있다.
우리가 하는 업무의 대부분은 이메일, ERP, 슬랙, 구글 드라이브, 그리고 담당자의 판단이라는 맥락 위에서 이루어진다. 새로운 테크 스택은 이 흩어진 정보들을 한곳으로 모아 사람 대신 업무를 처리하는 AI 에이전트로부터 시작된다.
이 단계에서 회사는 하나의 거대한 ‘시뮬레이션 환경’이 된다. 사람이 내리는 판단과 의사소통은 AI 에이전트를 성장시키는 고품질의 강화학습(RL) 재료가 된다. 성과가 좋았던 결정들을 학습한 AI는 그 회사의 고유한 ‘의사결정 DNA’를 복제하며 사람 수준 혹은 그 이상의 결과물을 만들수 있다.
앞으로 기업용 AI 시장에는 이런 테크 스택이 생긴다.
1. Foundation Layer (CPU): 가장 기본이 되는 모델을 판매하는 모델 회사들.
2. Agent OS Layer (OS): 기업별 데이터를 통합해 에이전트를 학습시키고 배포하며, 업무를 수행할 수 있게 돕는 새로운 운영체제(OS).
3. Vertical Agent Layer (App): 그 OS 위에서 법률, 회계, 고객 대응 등 특정 영역에 특화되어 실제 업무를 수행하는 에이전트 서비스.
예를 들어, ‘법률 주니어 에이전트’가 회사 메일과 ERP에 연동되어 있다면 고객 문의가 오면 AI가 기초 업무를 마무리해 검토만 받으면 되고, 계약서 리뷰 시에는 과거의 결정 사례를 참고해 근거를 달아놓을 수 있다.
슬랙이나 줌처럼 이미 소통의 길목을 잡고 있는 기존 강자들이 유리할 수도 있습니다. 하지만 의사결정의 맥락을 데이터화하고 실행에 옮기는 방식 자체가 완전히 달라지고 있는 지금, 이 판도를 뒤집을 새로운 플레이어가 등장할 수 있다.
영감을 준 글과 영상
- http://x.com/akoratana/status/2006177912655900895
- Enterprise AI에 대한 Databricks/Glean CEO https://youtu.be/jA8ZQfq_Hzs