OpenAI의 사명, 업계 내외부의 비판, 그리고 개인적으로 겪고있는 과거 동료들과의 갈등에 대한 알트만 본인의 생각이 적혀있습니다.
•모든 사람의 번영을 위해 노력하고, 모든 사람에게 힘을 실어주며, 과학과 기술을 발전시키는 것은 저의 도덕적 의무입니다.
• AI는 민주화되어야 하며, 권력이 너무 집중되어서는 안 됩니다. 미래에 대한 통제권은 모든 사람과 그들의 제도적 기관에 있습니다. AI는 개인에게 힘을 실어주어야 하며, 우리는 우리의 미래와 새로운 규칙에 대해 집단적으로 결정을 내려야 합니다. 소수의 AI 연구소들이 우리 미래의 모습을 결정짓는 가장 중대한 결정을 내리는 것은 옳지 않다고 생각합니다.
•제가 살아오면서 상처를 준 사람들에게 사과합니다. 제가 더 빨리 깨달았으면 좋았을거라 느낍니다.
•우리에 대한 많은 비판은 이 기술의 위험에 대한 진심 어린 우려에서 비롯됩니다. 이는 타당하며, 우리는 비판과 토론을 환영합니다. 저는 기술에 대한 반감정에 공감하며, 기술이 모든 사람에게 항상 좋은 것은 아니라는 것에 동의합니다. 하지만 저는 기술 발전이 미래를 전반적으로 좋게 만들 수 있다고 믿습니다, 여러분의 가족과 저에게 모두.
개인적으로 그의 많은 감정이 느껴지면서도, 정렬이나 민주화 관련 이야기들은 다소 공허하게 느껴지기도 하네요.
그의 글에서 언급되는 것처럼, AGI는 절대반지와 같은 존재이고, 이미 다들 그 가능성을 목격해버렸습니다. 정렬, 안전, 분배가 중요함을 모두가 알지만, 누구도 이를 위한 자원을 기술발전을 위한 자원보다 먼저 배치하지 않습니다.
‘남들이 먼저 가질까봐‘라는 두려움 때문에요. 알트만 본인이 정렬을 우선하고 싶어도, 이사회가 그를 해임하거나 구글/앤트로픽이 업계 리더를 대체할 뿐입니다.
저는 지금의 AI업계가 브레이크 없는 기관차와 같다고 느낍니다. 그 덕에 지속되는 여러 투자 아이디어도 있죠.
모쪼록 다들 할 수 있는 범위 내에서 미래를 잘 대비하도록 합시다.
전문: https://blog.samaltman.com/2279512