1. 지능: 알고리즘 진보의 과소평가
- 많은 사람들은 AI 발전을 최근 몇 년의 연장선에서 보고 있음
- 그러나 앞으로도 지능 생산에서 여러 차례의 알고리즘적 OOM, 즉 자릿수 단위의 효율 개선이 가능
- 단순히 더 큰 모델, GPU의 문제가 아니라, 같은 자원으로 훨씬 더 많은 지능을 뽑아내는 방법이 계속 발견될 수 있다는 뜻
- AI 모델은 계속 더 자율적이고, 더 똑똑해지고 있음
- 수학과 코드는 이미 스케일링과 강화학습으로 무너지고 있으며, 다음은 비검증 영역까지 확장됨
- 결국 검증 가능한 문제 vs 검증 불가능한 문제라는 구분도 약해질 것
- 장기 과제를 수행하려면 반드시 장기 훈련이 필요하다는 주장도 틀림
- 긴 작업은 단순히 긴 시간의 문제가 아니라, 중간중간 오류를 수정하며 전진하는 문제
- AI 에이전트가 이 오류 수정 능력을 갖추기 시작하면 장기 작업 능력이 크게 개선됨
- 모든 기술 분야에서 알파고 '신의 한 수' 같은 모멘텀을 보게 될 것
- 이후에는 그런 퀀텀 점프조차 평범해 보이는 시대가 올 것
2. 컴퓨트: 병목이지만 영구적이지 않다
- 당분간 컴퓨트는 가장 치열한 병목자원이지만 결국 완화될 것
- 더 많은 가속기, 팹, 전력 인프라가 들어오면서 지능 생산의 병목은 시간이 지나며 이동
- 현재 지능 공급망은 AI 랩 중심으로 매우 중앙화됨
- 하지만 랩들이 자동화하려는 핵심은 연구자와 알고리즘 우위 발견 능력
- 이게 자동화되면, 장기적으로는 랩의 우위가 자본, 컴퓨트, 데이터, 제품력, 유통망 쪽으로 이동
- 다만 오픈소스가 무조건 유리해지는 것은 아님
- 컴퓨트 가격과 기회비용 때문에 오픈소스·학계는 오히려 더 굶주림
- 자본이 있어도 실제 컴퓨트 용량을 선점하지 못하면, 대형 랩과 경쟁하기 어려움
3. 로보틱스: ChatGPT 모멘텀은 아직
- 로봇 분야에도 ChatGPT 출시와 같은 대중적 충격의 순간이 올 것
- AI 발전 속도를 감안하면 생각보다 빠르게 올 것
- AI가 물리 시스템 엔지니어링까지 가속하면 로봇 발전 속도도 급격히 빨라짐
- 다만 로봇 수량이 실제 세계에 대규모로 깔리는 데에는 시간이 필요
- 2030년 전후로 연간 1억 대 수준의 로봇 생산도 가능
- 자동차는 연간 1억 대, 스마트폰은 연간 10억 대 생산되는 만큼, 로봇도 대량 생산 체제로 감
- 현재 로보틱스의 한계로 보이는 것들, 예컨대 데이터 부족, 낮은 샘플 효율, 하드웨어 난이도, 물리 세계의 복잡성 등은 곧 해결됨
- 세계 전체의 로봇 수요는 형태별로 합산하면 수십억 대 이상
- 물리 노동을 자동화할 경제적 유인이 너무 크기 때문
4. 과학과 진보: 문명의 발전 엔진 자동화
- 과학은 자동화되고 가상화됨
- 생물학, 재료과학 등에서 로봇 실험실, 시뮬레이션, 신경망 모델, 현실 실험이 결합되며 연구 속도가 빨라짐
- 핵심은 실험 당 얻는 가치와 시간당 진보율이 올라간다는 점
- 딥러닝에는 스케일링 법칙이 있듯, 문명 진보 자체에도 진보 법칙이 있음
- 지금 인류는 진보를 생산하는 기계를 자동화하고 있음
- 즉 AI는 하나의 기술이 아니라, 다음 기술들을 더 빠르게 만들어내는 메타 기술
- 미래는 두 갈래로 볼 수 있음
- 하나는 기술 트리가 깊어, 계속 새로운 발명과 발견이 무한히 이어지는 미래
- 다른 하나는 생각보다 기술 트리가 얕아 빠르게 기술적 성숙에 도달하고, 이후에는 확장만 하는 미래
- 어느 쪽인지 아직까지는 알 수 없음
5. 자본과 생산: 자본주의는 더 강해지고, 가격은 한계비용으로 수렴
- 더 많은 자본과 더 많은 지능이 결합하면 자본주의의 속도는 더 빨라짐
- 시장은 더 빠르게 균형으로 이동하고, 중요한 재화의 가격은 장기적으로 한계비용에 가까워짐
- AI, 식품, 주거, 의료, 전자제품, 엔터테인먼트, 여행 등이 모두 압도적으로 저렴해짐
- 채굴, 운송, 공장, 물류센터, 유지보수, 공급망 개선까지 자동화됨
- 공급망 전체의 운영·개선·확장 과정이 자동화됨
- 인간 일자리는 오래 남아 있을 수 있음
- 장기적으로 대부분의 사람은 경제적으로 의미 있는 역할을 할 수 없음
- 특히 지식노동에서는 인간이 한계 기여를 하기 어려움
- 일자리의 미래는 직업별로 다르게 갈림
- 소비자와 직접 연결된 직업은 상대적으로 오래 남음
- 반대로 공급망 중간 단계에 있고, 인간 고유성이 낮은 직업은 자동화 압력이큼
6. 불평등: 영구 하층과 영구 상층의 문제
- 영구 하층이 실제 문제가 될 것
- 다만 소득 차이보다도 제한된 행위능력의 문제로 나타날 것
- 돈은 보장되더라도, 중요한 선택권과 영향력을 잃는 계층이 생길 것
- AI 부의 수혜자들이 모두에게 좋은 일이라고 말하면서도, 실제로는 지위를 포기하지 않으려는 모순이 존재
- 사람들은 이미 이 이중성을 감지하고 있으며, 이에 대한 반발이 커질 것
- 영구 하층이 있다는 것은 영구 상층이 있다는 뜻이고, 권리·권력·폭력의 문제와 연결됨
7. 문화와 심리: 인간 정신도 재설계 대상
- 인간의 심리는 현재 환경 변화 속도를 따라가지 못함
- 그러나 풍부한 지능과 자동화가 생기면, 심리·정신의학도 빠르게 발전
- 수십 년 안에 정신의학과 심리학에서 1000년치 혁신이 일어날 것
- 불확실성이 커질수록 사람들은 권력, 지위, 부를 더 강하게 추구함
- 이 과정에서 사람들은 타인에게 해로운 선택도 좋은 일로 포장할 것
8. 조정 문제: AI 시대의 핵심 리스크는 거버넌스
- 사회 모든 규모에서 더 나은 조정이 필요
- 국가, 기업, 연구소, 시장, 개인이 모두 AI 발전 속도를 감당할 수 있는 제도적 조정 능력을 가져야 함
- 새로운 조정 메커니즘이 필요. 국제적 AI 조정도 필요할 수
- 예컨대 조약, GPU 카운팅, 군사적 AI 경쟁 완화 장치 등이 논의될 수
- 하지만 GPU는 핵무기보다 범용적이기 때문에 통제하기 어렵다는 문제가 있음
- AI 랩들의 자발적 속도 조절이나 일시 정지도 예전보다 가능성이 커짐
- 다만 현재 시점에서 일시 정지는 적절하지 않음
- 특이점으로 가는 줄타기에서 너무 많은 다른 요소를 깨뜨릴 수 있고, 적대적 행위자도 존재하기 때문
9. 권력·안보·자유: 가장 어두운 부분은 자동화된 강제력
- AI 시대에 권력 집중이 매우 위험
- 특히 감시사회, 자동화된 군사 공급망, 자동화 무기, AI 기반 치안 시스템이 결합하면 자유주의적 제도와 충돌
- 기관들은 모든 방향에서 변화 압력을 받을 것
- 변화가 제대로 설계되지 않으면, 안전이라는 명분이나 선의의 권력 확장을 통해 폭정으로 이어짐
- 그래서 더 나은 제도가 필요
- 사이버, 바이오, 인프라, 신경, 밈, 물리학 등 여러 영역에서 아직 알 수 없는 취약점이 존재
- AI가 더 깊은 알고리즘 탐색 능력을 갖추면 방어도 강해질 수 있지만, 파괴 능력도 강해짐
- 알고리즘적으로 깊은 문명에서 어떤 일이 벌어지는지 우리는 모름
- 로봇이 대규모로 배치되면 단순 소프트웨어 AI보다 더 직접적인 물리적 리스크가 생김
- 쿠데타, 장악, 사이버 공격 표면 확대 같은 위험을 진지하게 다뤄야 함
- 군대, 경찰, 정부 법 집행 메커니즘도 결국 인간보다 똑똑한 자동화 시스템으로 바뀔 것
- 이 경우 민주주의, 자유, 사적 권력, 국가권력의 경계가 다시 정의됨
✍️AI의 본질은 진보를 생산하는 기계의 자동화이며, 앞으로 핵심은 얼마나 빨리 발전하느냐보다 그 힘을 누가 소유하고 어떻게 조정하느냐에 있음