미래의 데이터는 인터넷 텍스트보다 검증 가능한 환경에서 만들어질 가능성이 크다.
모델에게 코딩·수학·보안·연구 문제를 주고, 격리된 컴퓨터에서 반복 시도하게 한 뒤 결과를 자동 채점한다. 이때 환경과 시행착오 자체가 새로운 학습 데이터가 된다. 더 오래 생각하고 더 많이 시도할수록 답이 좋아지는 test-time compute도 저가 추론 수요를 키운다.
이 구조가 잘 맞는 영역은 검증 가능한 문제다.
- 소프트웨어와 테스트
- 수학과 형식 증명
- 보안 취약점 탐색
- 일부 과학 연구
반면 글의 아름다움, 예술, 인간의 취향처럼 객관적으로 채점하기 어려운 작업은 여전히 사람의 판단이 필요하다.
오픈모델도 중요하다. 폐쇄형 연구소는 약 3~6개월 앞선 성능을 위해 큰 프리미엄을 쓰지만, 그 모델이 만든 코드와 콘텐츠가 인터넷에 공개되면서 능력은 오픈 생태계로 확산된다. 폐쇄형은 최첨단 프리미엄 시장을, 오픈모델은 소유권·맞춤화·저가 대량 추론 시장을 담당할 수 있다.
‘1000배 저렴’은 다음 계산에서 나온 목표다.
- Neil의 거친 추정: 프런티어 API로 1조 토큰 ≈ 최소 500만 달러
- 새로운 수요가 생길 수 있다고 본 가격: 약 5천 달러
- 필요한 하락폭: 최소 1000배
하지만 이것은 달성된 결과가 아니다. 더 작은 오픈모델과 프런티어 모델은 같은 지능도 아니다. 실제 절감은 모델 선택, 처리량형 배칭, KV 압축, 이기종 칩, 유휴 GPU, 소형 데이터센터, 간헐 전력, 장애 복구를 합친 장기 목표다.
최종적으로 이 사업의 본질은 다음과 같다.
“고객에게는 품질·마감·예산 안에서 완료된 결과를 제공하고, 내부에서는 모든 컴퓨트 자원을 추상화해 검증된 성공 작업당 비용을 최소화한다.”
https://youtu.be/uyzqxIoiobU?si=morwss97antXVcbu