- 아래 링크는 지난 7월초 프랑스에서 열린 RISE 서밋에서 딜런 파텔이 마진 관련 언급한 내용
"올해 들어 이들(모델랩)의 수치들은 skyrocketed"
"앤스로픽은 2분기 매출총이익 흑자를 기록했고 3분기는 10억달러 수준의 영업흑자를 기록한 걸로 추정.. 이는 곧 IPO 관련 서류에 기재될 real figure"
"OpenAI는 작년 기준 GPM 30% 수준..여기서 무료유저를 제외하면 50% 수준.. 현재는 토탈 GPM이 55%, 무료유저 제외하면 65% 수준"
금융시장은 당장 눈에 보이는 토큰 in/out 단가의 변화에 집중하며 '가격경쟁'이라고 쉽게 결론을 내리지만 매년 10배의 추론원가 개선(엔비디아 피셜), 그리고 그보다 큰 Q의 증가가 가져오는 효과에 대해서는 감이 부족한 상황
추론원가 개선과 Q의 증가가 모델랩과 하이퍼스케일러의 마진에 미치는 영향에 대해서는 아래 블로그에서 언급한 바 있음
https://youtu.be/DJ29xr83sKE?si=_20TyOwsFzt8fpu0
https://m.blog.naver.com/cahier/224352145415
