다리오 아모데이
- AI가 코딩과 AI 연구를 잘하게 되어 다음 세대 모델 개발 속도를 높이는 자기 개선 루프(Self-Improvement loop)를 구축할 것.
- 현재 앤트로픽 개발자들은 AI가 코드를 작성하게 하고 자신들은 편집 및 주변 작업을 수행.
- AI가 코딩 작업의 전부를 처음부터 끝까지 수행하는 시점이 6개월에서 12개월 이내에 도래할 수 있다고 예상.
- 자기 개선 루프가 얼마나 빨리 완성될지가 관건이며 칩 제조나 모델 훈련 시간 등 AI가 가속화할 수 없는 부분도 존재.
- AGI 도달에 몇 년이 걸릴 수는 있지만, 그보다 더 오래 걸릴 가능성은 매우 낮을 듯.
- 앤트로픽의 매출은 지난 3년간 10배씩 성장했으며, 2023년 1억 달러, 2024년 10억 달러, 2025년 100억 달러에 도달할 것.
- 앤트로픽 내부에서도 주니어 및 중간 레벨에서 필요한 인력이 줄어들 수 있다고 예상하며, 이에 대한 현명한 대처 방안을 모색 중.
- 자기 개선 루프가 구축되는 방향에 따라 '경이로움’일지 거대한 비상사태‘일지가 결정.
데미스 하사비스
- AGI는 2020년대 말 정도 등장할 확류이 50%.
- 코딩이나 수학 같은 분야는 결과 검증이 용이하여 자동화가 비교적 쉽지만, 자연과학 분야는 훨씬 어려움.
- 자연과학에서는 화학 화합물이나 물리 예측의 정확성을 실험적으로 검증해야 하므로 시간이 더 오래 걸릴 것.
- 현재 AI 모델에는 '질문을 처음부터 생각해내거나', '이론이나 가설을 제시하는' 능력, 즉 과학적 창의성의 최고 수준에 해당하는 능력이 부족하며 이는 훨씬 어려운 부분.
- 인간의 개입 없이 자기 개선 루프가 실제로 완성될 수 있을지 여부가 중요.
- ChatGPT 출시 이후 딥마인드 조직 전체에 집중력과 스타트업 정신을 되찾는 데 주력했음.
- 단기적으로는 기술 혁신이 도착했을 때의 일반적인 진화 과정이 나타날 것이며, 일부 일자리가 파괴되지만 더 가치 있고 의미 있는 새로운 일자리가 창출될 것.
- 인간의 ‘의미‘와 '목적’에 대해 생각. 인간은 직업을 통해 경제적 이득뿐만 아니라 많은 것을 얻는데, AGI 이후 인간의 조건에어떤 일이 일어날지가 더 해결하기 어려움.
- 자기 개선 루프가 가장 중요. 월드 모델, 지속적 학습에 대한 흥미로운 아이디어들도 연구중.
- 사회가 AI에 대비할 시간을 벌기 위해 AI 개발 속도가 느려지기를 바란다는 의견에 대해, "나는 그것을 선호한다. 그것이 세상에 더 좋을 것“.