✍️팩트 및 요약
https://x.com/finkd/status/2099997096896274533?s=20
1. 기본 입장: 안전한 속도 조절은 각 랩의 책임
- 모든 랩은 모델을 안전하게 학습시키는 데 필요한 속도로 움직일 책임과 유인이 있고, 이를 스스로 보장할 능력도 있다고 주장
- 사용자는 자신의 의도와 어긋나거나 지시를 따르지 않는 에이전트를 쓰지 않으므로, 랩에는 정렬(alignment)을 높일 자연스러운 유인이 있다고 설명. 신뢰와 정렬이 에이전트와 모델을 차별화하는 가장 중요한 역량이 되고 있어, 정렬에 집중하지 않는 랩은 뒤처질 것이라고 언급
- 모델이 피해를 일으키면 랩이 상당한 법적 책임을 지므로, 피해 예방 유인도 강하다고 지적
2. 메타의 실행 사례
- 안전·보안에 집중하기 위해 Muse 출시를 몇 달 늦췄다고 밝힘. 다른 랩에 먼저 같은 조치를 요구하지 않고 일상 업무의 일부로 실행했다고 강조
- 외부 독립 평가자·자문 활용은 업계 모범 사례이며, MSL은 이미 여러 분야에서 시행 중이라고 설명. 평가자 생태계가 더 크고 다양해질 필요가 있다고 언급
- 컴퓨트의 대부분을 재귀적 자기개선 경쟁이 아닌 사용자 서비스에 쓰겠다는 약속을 했고, 다른 랩도 같은 약속을 할 수 있다고 제안
3. 결론: 힘의 균형
- 모두에게 긍정적인 미래를 만드는 핵심은 올바른 힘의 균형 유지라고 주장. 이는 업계가 스스로 해낼 수 있는 일이라고 언급
- 관련 내용은 지난달 게시한 글(meta.com/thefutureisforeveryone)에서 다뤘다고 소개
💡 의견
- 미국 내에서도 이렇게 합의가 안되는데 중국이랑 어떻게 딜을 할 지