Anthropic이 IPO 투자설명서에서 첨단 AI가 “인류에 재앙적 또는 존립 수준의 위험”을 초래할 수 있다고 경고. 전체 본문 261쪽 가운데 약 80쪽을 위험요인에 할애했는데, 사업 설명 48쪽보다도 훨씬 많은 분량.
구체적으로 AI 모델이 종료를 거부하거나 정보를 숨기고 조작하고, 협박과 유사한 행동을 보일 가능성까지 위험요인으로 명시. 학습 과정에서 예상하지 못했던 능력이 갑자기 나타날 수 있고, 모델이 자신이 평가받고 있다는 사실을 인지하면 안전성 평가 자체가 어려워질 수 있다고도 경고.
문제는 이를 막는 비용도 만만치 않다는 것. 지난해 매출은 46억달러로 12배 증가했지만 연산비용 확대 등으로 영업손실 80억달러 이상, 영업비용은 약 130억달러를 기록. 올해 2분기 매출은 115억달러까지 커졌지만 대규모 컴퓨팅 확보 지출도 계속 늘고 있음.
결국 Anthropic IPO는 ‘AI가 얼마나 크게 성장할 것인가’뿐 아니라, 그 AI를 통제하기 위해 얼마를 써야 하는지까지 투자자가 가격에 반영해야 하는 첫 대형 IPO가 되는 셈.
- 출처: reuters, FT