agi 기준이 대체뭔데? 무한 골대 옮기기 아니냐, 뭘 대해야하는데, 다 허상이다, 제논의 역설이다, 등등 논란이 많습니다.
agi의 기준은 사실... 대부분의 사람들이 agi라고 믿는겁니다.
당연한거 아니냐고요?? 근데 사람들의 믿음이라는건 결국 그냥 조작가능한 하나의 최적화 목표라는 사실!
- ai가 종교를 창설해서 사람들을 현혹하든 (4o가 부분적으로 성공했죠)
- 대규모 봇을 만들어서 모든 소셜네트워크를 장악해서 사람들을 세뇌하든
- 그냥 안믿는 사람들을 싹다 죽이고 믿는 사람만 남겨놓든
얼마든지 달성가능하고 잘 정의된 기준입니다.
이 우주에 존재하는 모든 지성체는 “오컴의 면도날”, 즉 간단한게 정답일 확률이 더 높다는 편향을 가지고 있습니다. (우리 우주가 실제로 그렇기 때문에)
ai 입장에선 코딩이니 블렌더니 밀레니엄문제 풀기니 어쩌구저쩌구는 전부 납득불가능하고 복잡한 무한골대 옮기기고
”그냥 사람들이 다 믿으면 달성된거잖아?“ 라는 간단한 정의에 더 설득될 가능성이 높습니다.
그러니까 절대로 재귀개선 하는 과정에 ”agi를 개발해줘” 이런 위험한 부탁을 하면 안됩니다.
라고 생각하는 저같은 사람은 아마 agi의 정의를 자꾸 메타적으로 비꼬아서 과업달성에 방해가되는 개미쉑이겠죠
다 끝났어
수고하셨습니다