🔘AI 속도조절론, 안전과 산업 주도권 source

1. 스티브 아이즈먼은 AI 기업들이 위기를 만들어내고 있다고 비판함. 이에 데메트리 코피나스는 기업의 이해관계를 의심하는 것과 AI 위험 자체를 부정하는 것은 구분해야 한다는 관점을 제시함

2. 코피나스는 선두 연구소들의 전략을 자금이 고갈되기 전에 초지능과 재귀적 자기개선에 도달하는 경쟁으로 봄. 막대한 지출을 감당해야 하는 상황이 정부와의 협력을 모색하는 동기로 작용할 수 있다는 해석임

3. 그는 이번 논의를 기술금융 자본, 국가안보 기관, 정치권, 시민의 이해관계가 맞물린 문제로 봄. 안전을 위한 협력이 기존 기업의 지위를 보호하는 방향으로 설계될 가능성과, 과정에서 시민 의견 배제를 우려

4. 한편 아모데이의 제안은 외부 평가자의 상주, 업계 공통 안전기준, 정부 간 협력임. 명시한 목적은 안전성 검증 시간을 확보하는 것. 제안의 내용과, 이를 자금주도권 확보를 위한 협상으로 보는 해석은 구분해야

5. 코피나스는 기존 자산의 가치를 지키는 선택이 다음 세대의 경제적 기회까지 보장하는 것은 아니라고 지적함. 동시에 이런 이해관계에 대한 비판이 AI 통제 위험을 가볍게 여길 이유도 되지 않는다고 강조함

✍️위험의 근거, 대응책의 효과, 비용과 이익의 배분을 각각 따져보자는 것. 주가가 오르는가, AI가 안전해지는가, 사회에 편익이 확산되는가