AI가 약 5년 안에 인간 지능의 총합을 넘고, 10년 안에는 인간 통제 밖으로 갈 수 있다는 Elon Musk의 전망
• Elon Musk의 핵심 전망은 약 5년 안에 AI가 인간 지능의 총합을 초과한다는 것. 인간이라는 점을 제외하면 AI가 인간보다 못할 일이 거의 없어지는 국면
• 가장 가능성 높은 결과로 제시된 것은 age of amazing abundance. World War III 같은 사건이 없다면 누구나 생각할 수 있는 무엇이든 가질 수 있는 풍요의 시대라는 관측
• AI와 robots의 위험은 zero가 아니라는 입장 유지. 동시에 이 흐름을 멈출 방법이 보이지 않고, stop button이 있어도 누르지 않는 편이 낫다는 쪽으로 기울어진 결론
• OpenAI를 Google의 AI 독점에 대한 counterweight로 만들었지만, 이후 Anthropic이 spin out되고 현재 Anthropic이 AI leader가 되었다는 설명. 의도와 달리 이런 선택들이 AI 가속의 knock-on effects로 이어졌다는 자기 평가
• Demis Hassabis의 public private regulator 제안과 관련해, 선도 AI companies가 몇 주마다 safety와 security 이슈를 논의하는 call을 갖자는 제안. 경쟁사에 1 week or 2 weeks early access를 주고 security risk를 지적하게 만드는 방식
AI의 최신 흐름과 다양한 큐레이션 된 정보를 제공합니다.
Good Vibe AI