🟢 비탈릭이 말하는 AI시대

✅ 기계 능력 확장의 3단계

-인간과 AI를 단순히 누가 더 똑똑한가라고 비교하는 것이 아닌 인간과 AI는 각각 다양한 능력의 묶음을 갖고 있으며 기술발전은 기계까 인간보다 뛰어난 영역을 하나씩 넓혀온 과정

-1세대 산업혁명: 같은 행동을 수백만 번 반복하는 능력 기반으로 대량생산 및 기계화

-2세대 계산기와 커퓨터: 명확한 논리와 규칙으로 정의할 수 있는 작업 기반으로 수학 계산, 프로그래밍, 데이터 처리

-3세대 LLM과 현대 AI: 규칙을 직접 정의하기 어려워도 수 많은 예시를 통해 학습할 수 있는 작업으로 글쓰기, 이미지 인식, 코딩, 자율주행 등

-다만 현재까지도 전략적 판단, 인간관계, 감정적 맥락, 장기적 책임 등 인간에게 남아 있는 능력 존재

✅ 오늘 날 가장 중요한 질문

-현재 LLM이 발전할 경우 인간의 모든 능력을 흡수할 수 있을 것인가?

-아니면 이전 기술혁명처럼 특정영역에서 한계에 부딪히고 새로운 형태의 기술혁명이 추가로 필요할 것인가?

-현재는 LLM과 에이전트가 훨씬 범용적으로 보이기 때문에 조금만 더 발전하면 모든 일을 할 수 있다는 주장도 강해졌지만 아직 확신할 수는 없음

✅ AI 낙관론이 성립하는 조건

-AI가속을 지지하는 사람들이 상상하는 이상적인 미래는 AI가 많은 업무를 대신하더라도 일부 고유 인간의 능력이 끝까지 남는다는 전제

-실무자는 AI 관리 매니저가 되고, 매니저는 더 큰 전략을 짜는 포지션이 되며 인간은 전략, 창의성, 감정적 판단에 집중

-AI와 자동화 덕분에 식량, 주거, 질병, 노화 등에 큰 발전 + 정치, 경제 구조, 인간 주도권은 유지

✅ 비탈릭의 우려

-인간만의 고유한 능력이 실제로 끝까지 남을지 확실하지 않음

-LLM에 에이전트, 로봇, 기억, 도구 사용 능력 등이 결합되면 현재 인간에게만 가능하다고 여겨지는 능력까지 모두 대체할 수 있음

✅ AGI와 ASI는 다르다.

-비탈릭은 AGI에 대해 모든 인간이 갑자기 사라지더라도 로봇 몸에 탑재되어 문명을 독립적으로 유지할 수 있는 AI로 정의

-AGI가 등장하면 당장은 인간이 재산권과 무기를 통제하고 있어 지배적인 위치를 유지하지만 로봇이 인간보다 훨씬 빠르게 복제, 생산되는 과정에서 지배적 위치를 유지한다는 보장은 없음

-AGI가 등장한다 치더라도 즉시 인간이 무용해지진 않음

-AI 단독보다 인간과 AI가 결합한 더 강한 과도기(센타우르(Centaur)가 존재할 수 있음

-예를 들어 과거 체스는 1970년대 후반 AI가 인간을 앞질렀고 1997년 IBM의 딥블루가 세계챔피언을 이겼음

-그러나 인간의 역할은 즉시 사라지지않았고 한 동안 AI의 계산 능력 + 인간의 전략적 판단을 결합한 팀이 훨씬 강했음

-2017년이 되서야 센타우르보다 AI 단독이 더욱 강해짐

-오늘 날 바이브 코딩 역시 AI가 코드를 작성하고 인간은 목표 설정, 방향 결정, 검수에 집중하는 센타우르 구조

-ASI 시대는 인간이 맡던 마지막 전략적, 창의적 역할까지 넘어서는 단계로 이 순간부터 인간의 경제적, 정치적 주도권이 구조적으로 흔들릴 수 있음

원문