과연 어떤 회사든 기술 부채가 있을 수밖에 없는데, 이번에는 OpenAI가 기술 부채를 미래의 AI에게 떠넘기는 선택을 했다.
OpenAI가 방금 ChatGPT 뒤에 숨은 스토리지 시스템 Habitat을 공개했다.
그것은 지금 매초 7천만 건 이상의 요청을 처리하며, 500PB 이상의 데이터를 저장하고, 매주 10억 명 이상의 사용자를 서비스한다. 하지만 처음에는 데이터베이스에 연결하는 소규모 Python 라이브러리일 뿐이었다.
재미있는 점은, OpenAI가 아주 일찍부터 Python이 미래의 규모를 감당하지 못할 것임을 알았고, 언젠가 다시 작성해야 한다는 것도 알았지만, 그때는 즉시着手하지 않았다는 거다. 그들은 매우 대담한 판단을 내렸다. 먼저 Python으로 빠르게 확장하고, 반드시 다시 작성해야 할 때가 오면, 미래의 Codex와 GPT가 마이그레이션을 훨씬 저렴하게 만들어줄 거라는 거다.
나중에 이 내기가 정말 실현됐다.
2026년 2분기, 두 명의 엔지니어와 Codex, GPT‑5.5가 함께 전체 서비스를 Rust로 다시 작성했다. 이제 새 버전이 생산 트래픽의 95%를 담당하며, CPU 효율이 6배, 메모리 효율이 15배 향상됐다.
과거에 우리가 기술 부채라고 말할 때는, 오늘 아끼는 시간을 미래의 엔지니어들이 야근으로 갚게 하는 걸 의미했다.
OpenAI는 이번에 부채를 미래의 더 강력한 모델에게 떠넘겼다.
이것은 소프트웨어 개발에서 아주 기본적인 판단을 바꿀 수 있다.
이전에는 언어를 잘못 선택하거나 아키텍처가 완벽하지 않으면, 나중에 아주 비싼 마이그레이션 비용을 치러야 했지만; AI가 대규모 재작성을 점점 더 저렴하게 만들어준다면, 회사들은 가장 빠른 방법으로 제품을 먼저 만들어내고, 미래의 모델이 잔재를 정리하게 하는 쪽을 더 선호할 수 있다.
물론, 이것이 모두가 대충 쓰라는 격려는 아니다. OpenAI가 이렇게 할 수 있었던 이유는 시스템 경계, 테스트, 모니터링이 충분히 명확했기 때문이다.
이것들 없이 AI가 다시 쓰는 건 시스템이 아니라, 사고일 수 있다.