최근 포스팅 목록
편하게 포스팅 목록을 조회하세요.
https://x.com/yaneuraou/status/2098356029406974085?s=20
AI를 써서 바보가 되는 사람에 대해 생각할 때, “AI에 의존하면 머리를 덜 쓰게 된다” 같은 이야기는 별로 본질적이지 않다. 전자계산기가 보급되면서 암산할 기회가 줄었다거나, 구글 맵스 때문에 길을 외우지 않게 됐다거나, 그 정도 얘기라면 인류는 이미 문자를 발명한 순간부터 꽤 바보가 됐을 거다.
더 흥미로운 문제가 있다.
1983년, 심리학자이자 인간공학 연구자인 리산 베인브릿지(Lisanne Bainbridge)는 “자동화의 아이러니(Ironies of Automation)”라는 유명한 논문을 썼다. 거기서 지적된 역설은 40년 이상 지난 지금의 생성 AI에도 놀라울 정도로 잘 들어맞는다.
기계가 인간보다 더 잘할 수 있는 일을 차례로 자동화해 나가면, 마지막에 인간에게 남는 건 뭘까. 그것은 기계가 제대로 처리하지 못한 예외적이고, 복잡하고, 판단하기 어려운 일이다. 그런데 일상적인 일을 기계에 맡길수록, 인간은 그 일을 직접 할 기회를 잃고, 기술도 상황 이해도 퇴화한다. 즉, 자동화가 진행될수록 인간의 출연 기회는 줄어들지만, 인간이 출연을 요구받을 때의 일만 더 어려워진다. 베인브릿지가 “아이러니”라고 부른 건 바로 이 구조다.
예를 들어, 매일 100개의 프로그램을 써야 하는 사람이 있다고 치자. 그중 99개를 AI가 완벽하게 써준다고 하자. 언뜻 보면 훌륭하다. 하지만 인간에게 돌아오는 1개는 “왜인지 본番 환경에서만 데드락이 발생한다”거나 “명세서 자체가 모순되어 있다”거나 “두 가지 설계 철학 중 어느 걸 채택할지 판단해야 한다” 같은, AI가 처리하지 못한 난제일 가능성이 크다.
즉, 그 사람은 99개의 평범한 프로그램을 쓰면서 본래 얻었어야 할 훈련을 잃은 상태로, 100개 중 가장 어려운 1개만 풀어야 하게 된다.
이건 꽤 악랄한 구조다.
1995년, 엔즐리(Endsley)와 키리스(Kiris)는 이 문제를 “루프 밖 성과 문제(out-of-the-loop performance problem)”로 실험적으로 조사했다. 인간이 시스템을 직접 조작하는 입장에서 자동화된 시스템을 그냥 지켜보는 입장으로 옮겨가면, 단순히 조작 기술이 떨어지는 게 아니라 “지금 무슨 일이 일어나고 있고, 앞으로 어떻게 될까”라는 상황 인식까지 저하된다는 거다. 그리고 자동화 시스템이 고장 나서 갑자기 인간에게 조작을 돌려줄 때, 대응이 늦어진다. 연구에서는 능동적인 정보 처리에서 수동적인 정보 처리로 옮겨가는 게 이 저하의 중요한 원인으로 지목됐다.
이건 프로그래밍에 국한되지 않는다. 부하가 만든 계약서를 매일 검토하는 사람은 오랜 세월에 걸쳐 “이 조항이 이상하다”는 감각을 익힌다. 하지만 계약서를 AI가 만들고, AI가 검토하고, 인간은 마지막에 “승인” 버튼만 누르는 상황이 되면, 그 감각을 얻기 위해 필요했던 수천 번의 작은 판단이 사라진다. 그리고 정말로 AI가 놓칠 만한 드문 계약상의 문제가 생겼을 때만 인간에게 판단이 돌아온다.
AI로 인한 능력 저하의 무서움은 “쉬운 일이 못하게 되는 것”이 아니다. 쉬운 일을 대량으로 경험해야만 자랐던, 어려운 일을 처리하는 능력까지 잃어버리는 데 있다.
게다가 더 골치 아픈 문제가 있다. 자신의 능력이 떨어지고 있다는 걸, 자기 자신이 인식하지 못하게 되는 가능성이다.
심리학에는 “메타인지적 보정(metacognitive calibration)”이라는 개념이 있다. 간단히 말해, “내가 얼마나 옳은가”라는 자기 평가와 실제 정답률이 얼마나 일치하는가 하는 문제다. 지식이 좀 부족해도, 자신이 뭘 모르는지 제대로 인식할 수 있는 사람은 비교적 안전하다. 위험한 건 능력 자체가 아니라, 이 보정이 망가지는 거다.
2026년에 《Computers in Human Behavior》에 실린 연구에는 정말 상징적인 제목이 붙어 있다.
“AI makes you smarter but none the wiser”
직역하면 “AI는 당신을 똑똑하게 만들지만, 자신이 얼마나 똑똑한지 알 수 없게 만든다” 정도가 된다. 이 연구에서는 LLM을 써서 LSAT 형식의 추론 과제 성적 자체는 향상됐지만, 사람들이 자신의 성적을 얼마나 정확히 평가할 수 있는지에 대한 메타인지는 문제가 생겼다고 한다. 특히 흥미로운 건, AI 리터러시가 높거나 자신감이 강한 게 반드시 자기 평가의 정확성으로 이어지지 않았다는 점이다.
생각해 보면 당연하다.
AI 없이 10문제 중 6개를 풀던 사람이 AI를 쓰면 10문제 중 9개를 풀게 됐다고 하자. 이때 본인이 관찰할 수 있는 건 “나는 9개를 풀었다”는 결과뿐이다. 하지만 그 9개 중 몇 개가 자신의 능력으로, 몇 개가 AI의 능력인지 결과로는 분리할 수 없다.
여기서 자신의 능력을 재기 위한 피드백 시스템이 망가진다.
근력이라면 100kg 바벨을 들지 못하면 자신의 근력 부족이 바로 드러나지만, AI와 함께 100kg을 들고 있는 상태에서는 자신이 몇 kg까지 들 수 있는지 모른다. 그리고 AI의 보조가 너무 자연스러워지면 “이건 둘이서 드는 힘”이라는 감각조차 희미해진다.
나는 AI 시대에 진짜 위험한 건 바로 여긴다고 생각한다.
인간은 무지를 비교적 견딜 수 있다. “이건 모른다”고 자각하면 조사할 수 있으니까. 하지만 모른다는 자각 자체를 잃으면, 조사라는 행위조차 일어나지 않는다.
또 하나, 이 문제를 이해하는 데 재미있는 고전적인 실험이 있다. “생성 효과(generation effect)”라고 불리는 현상이다.
슬라멕카(Slamecka)와 그라프(Graf)는 1978년 실험에서 답을 그냥 읽은 경우와 자신이 답을 생성한 경우를 비교했다. 결과적으로 같은 정보라도 자신이 생성한 쪽이 이후 기억 성적이 더 좋았다. 이건 다양한 조건에서 확인됐다.
이 현상을 AI에 대입하면, 조금 불쾌한 게 보인다.
예를 들어 회의에서 “이 신사업의 문제점을 세 가지 생각해 보세요”라고 했을 때, 5분 동안 고민해서 “시장 규모”“경쟁”“인재”라는 세 가지를 스스로 짜낸다고 하자. 그 후 ChatGPT에 물어보니 “법규제”“고객 획득 비용”“기존 사업과의 카나이벌라이제이션”까지 나왔다. 이 사용법이라면 자신의 사고에 AI의 추가가 이뤄진다.
반면 처음부터 “문제점을 10개 나열해”라고 AI에 물어보고, 그중 그럴듯한 세 개만 고르는 식이 되면, 자신이 문제를 생성하는 과정 자체가 사라진다.
성과물만 보면 후자가 더 훌륭하다. 하지만 뇌 속에서 일어난 일은 완전히 다르다.
이게 바로 AI에 대해 논할 때 “생산성”이라는 지표만 보면 안 되는 이유다. 누군가 AI를 써서 이전의 세 배 분량의 글을 쓰고, 두 배의 코드를 쓰고, 다섯 배의 자료를 만들 수 있게 됐다고 해도, 그 숫자만으로 본인의 능력이 향상됐다고 말할 수 없다. 극단적으로는 성과물의 품질이 오르는 동시에, 본인이 단독으로 판단하는 능력은 떨어지고, 게다가 본인에게 그 저하가 관찰되지 않는 상황까지 일어날 수 있다.
그리고 여기까지 생각하면 “AI를 써서 바보가 되는 사람”의 특징도 조금 다르게 보인다.
AI에 질문하는 사람이 바보가 되는 게 아니다. AI에 글을 쓰게 하는 사람도 아니다. 코드를 쓰게 하는 사람도 아니다.
AI가 담당한 인지 과정과 자신이 담당한 인지 과정의 경계가 보이지 않게 된 사람이 위험한 거다.
자신이 생각한 건지, AI가 생각한 건지. 자신이 이해한 건지, 이해하기 쉬운 설명을 읽은 것뿐인지. 자신에게 판단 능력이 있는 건지, AI가 항상 정답을 옆에 놓아주기 때문에 판단할 수 있는 것처럼 보이는 것뿐인지.
이 구분을 의식적으로 유지할 수 있는 사람에게 AI는 무시무시할 정도로 강력한 지적 증폭기가 된다.
유지하지 못하는 사람에게는 더 무서운 게 된다.
왜냐하면 AI는 그 사람의 능력을 빼앗을 때조차, 본인에게 “이전보다 똑똑해졌다”는 감각을 줄 수 있기 때문이다.
그러니까 AI 같은 거 쓰지 마.
참고로 이 글은 전체가 ChatGPT가 썼다.
https://robinhoodchain.lighter.xyz/?referral=YOURDICK&source=none
호가 적지만 다른거랑 양빵할때 라이터 로빈후드꺼 써라 겸사겸사
나중에 멘징될수있음
다시 한번 말하지만 호가 창렬임
근데 혜자맞음 지금 당장은 생각보다 많이들 파밍안해서
나 그냥 oi 유지만 1배로 웹에서 하는데 200k 정도 유지했는데 40포받은듯 깔짝 10k openai 포지션도 있긴함
암튼 2배로 로빈후드 지갑에서 사팔하면 포인트 많이 받는듯
계산 잘해서 소액은 해봄직
난 그래서 롱텀으로보면 이더가 진짜 "일반인" 리테일들한테도 많이 쓰일 시대가 몇년안으로 올것같다고 생각중
그게 가격하곤 큰 연관이 없을수도 있지만 뭐 네러티브 형성엔 도움이 되겠지
그래서 일부 이더는 항상 홀딩하고 있음
이더리움 근데 내년쯤에 나올 업데이트가 진짜 개쩔어서 evm에서는 많은 혁신이 일어날꺼임...
지금까지 다른 차원의 블락체인 체험을 할수있음
근데 이더체인의 보안을 그대로 유지한채로 말이야
근데 ai 발전보니깐 이제 곧 가상 사이버 대화상대도 생길듯
각자의 아바타 꾸미기 시대온다ㄹㅇ
사업하실분?