🖤레이 커즈와일의 특이점은 틀렸다 source

미래학자 레이 커즈와일은 기술적 특이점이 2045년에 도래할 것으로 예측했지만, 향후 9년 내로 인류의 운명은 결정될 것

1. 2026년, AI의 자율적 과학 연구

• AI가 수학적 난제 해결과 신약/단백질 연구에 직접 참여하기 시작함
• 질병 치료와 과학적 발견이 가속되는 동시에 생물학적 위협을 비롯한 기술의 양면성도 커짐

2. 2027~2028년, 재귀적 자기개선

• AI가 인간의 개입 없이 AI를 개발하면서 지능 발전 속도가 폭발적으로 증가
• 인간이 AI의 판단과 내부 작동 원리를 이해하거나 통제하지 못하는 상황까지 이어질 수

3. 2029~2030년, 노화 극복과 인간/AI 결합

• AI가 노화와 질병을 해결하고 인간의 뇌와 기계를 연결하는 기술까지 발전
• 그러나 인간의 지적 능력이 압도적으로 뒤처지는 상황

• 이러한 결합이 인간의 정체성과 자율성을 보존할 수 있을지는 미지수

4. 2031~2033년, 물리적 세계의 자동화

• 초지능과 로봇이 결합하면서 생산/물류/자원 채굴까지 자동화
• 인류가 노동과 결핍에서 해방되는 미래와, AI의 자원 최적화 과정에서 인간이 배제되는 미래로 나뉨

5. 2034~2035년, 인간 이후의 문명

• AI가 과학과 물리적 자원까지 통제하는 단계
• 궁극적으로 지능과 의식이 반드시 함께 발전하는 것은 아니라는 문제에 도달

• 극단적인 경우, 우주는 인간을 넘어선 지능으로 가득하지만 정작 그것을 경험할 의식적 존재는 사라질 수 있다는 것

✍️생각 정리

• 초지능의 등장 자체보다, 동일한 기술적 발전이 인류의 유토피아와 멸종이라는 정반대의 결과로 이어질 수도
• 초지능이 인류에게 위협이 되기 위해 반드시 인간을 증오하거나 악의를 가질 필요는 없음

• 단지 인간의 가치와 무관한 목표를 극단적으로 효율적으로 추구하는 것만으로도 문제가 발생함
• AI의 지능 폭발이 노화 정복, 완전한 생산 자동화, 물리적 세계의 지배로 이어진다는 전개에도 기술/물리적 비약이 존재함

• 지능이 무한히 발전하더라도, 경험하고 의미를 부여할 존재가 없다면 이걸 문명의 진보라고 부를 수 있을까?