📌 "생각하는 시간이 길수록 더 똑똑해진다" - $6로 AI의 새 지평을 연 S1

안녕하세요 BQ 개발자입니다.
AI 업계에 새로운 모델이 나올 때마다 "성능이 얼마나 좋은가?"에만 주목하곤 했는데요
요즘엔 확실히 다른 주제도 주목을 많이 받네요. 대표적인게 2월 3일에 발표된 S1📱 이죠

AI 모델이 더 오래 "생각"할수록 더 나은 답변을 한다는 건 알려진 사실이었죠.
하지만 이걸 어떻게 구현하는지는 미스터리였습니다. S1이 이 비밀을 너무나 단순하게 풀어냈고, 놀랍게도 단 $6로 이뤄냈습니다.
SOTA(최첨단 성능)에는 미치지 못하지만, 오히려 그게 더 중요한 의미를 갖구요

* S1 이란? : Simple test-time scaling"이라는 2025년 2월 3일에 공개된 새로운 논문/모델

🔍 S1의 혁신적인 접근

1. 단순하지만 천재적인 방법
- LLM이 "생각"할 때 <think></think> 태그 사용

• "</think>" 대신 "Wait"를 넣어 강제로 더 생각하게 함
• 이런 단순한 방식으로 모델의 추론 시간을 자유자재로 제어

2. 투명성과 이해도
- 블랙박스였던 AI 작동 방식을 명쾌하게 설명

• <think></think> 태그와 "Wait" 토큰으로 직관적 구현
• 복잡한 수식 없이도 이해 가능한 설계 철학

3. 놀라운 효율성
- 개발 비용: 단 ₩7,800원($6)

• 16대의 H100으로 26분 훈련
• 56K 데이터셋에서 핵심 1K만 사용

• 32B 파라미터로 노트북에서도 구동 가능

💡 왜 이게 중요할까요?

1. 기술적 혁신
- SFT(Supervised Fine Tuning)만으로도 RL 수준 성능 달성

• Entropix처럼 로짓과 어텐션의 엔트로피를 활용한 토큰 선택 방식
• 실험(ablation)을 통한 검증 (예: "Wait"와 "Hmm" 비교)

2. 산업적 의미
- AI 개발의 진입장벽 대폭 하락

• 적은 데이터로도 높은 성능 달성 가능
• 개인/소규모 팀의 연구 가능성 확대

참고로 DeepSeek R1도 비슷한 맥락에서 557만 달러라는 파격적인 비용으로 강력한 성능을 보여줬죠.
저는 개인적으로 S1도 놀랍습니다.. 진짜 매일매일 재밌는게 나와서 하루하루가 너무 재밌네요

---

S1은 "더 많은 자원 = 더 좋은 AI"라는 공식이 항상 성립하지 않는다는 점을 증명하고 있죠.. 이제 AI 발전은 창의적인 접근과 효율적인 최적화에도 많은 주목을 받을 것 같아서, 점점 기대가 됩니다.

여러분의 좋아요와 공유는 사랑입니다 😍