개막 키노트: 열려 있고 안전하며 검증할 수 있는 미래
- 비탈릭 부테린
기술이 바꾸고 있는 세상의 전제
오늘은 더 밝은 미래로 향하는, 열려 있고 안전하며 검증할 수 있는 길에 관해 이야기하겠습니다. 더 밝은 미래를 원하는 분 계신가요? 그 미래가 더 개방적이고, 더 안전하고, 더 검증 가능하기를 바라는 분은요?
기술의 진보, 특히 오늘날 AI의 급속한 발전은 세상이 어떻게 돌아가는지에 대해 우리가 흔히 무의식적으로 품고 있던 많은 전제를 뒤집고 있습니다. 예전에는 소프트웨어에 버그가 적당히 있는 정도라고 생각할 수 있었죠. 이제는 그 버그들이 모조리 발견되고 있습니다. 예전에는 TV가 그저 TV라고 생각할 수 있었습니다. 이제는 TV가 여러분을 감시하고 있을지도 모릅니다. 밖에서 사적인 대화를 나누면 그것은 사적인 대화였죠.
5년 전에 암 백신이라는 것이 실제로 존재하게 되리라고 상상한 분이 계신가요? 5년 전에 제 발표 슬라이드가 언젠가는 이렇게 덜 못생겨지리라고 상상한 분 계신가요? 이제 그런 일이 일어나고 있습니다.
모두의 레벨이 동시에 오르는 게임
월드 오브 워크래프트를 해 본 분 계신가요? 그렇다면 이 비유가 와닿는 분들이 있을 겁니다. 첫 번째 확장팩이 나왔을 때, 그전에는 60레벨까지였는데 이제 70레벨까지 올릴 수 있게 됐죠. 그러면 우선 모두가 동시에 빠르게 레벨을 올립니다.
두 번째로, 예전에는 잡기가 아주 어려웠던 몬스터가 갑자기 아주 쉬워집니다. 엄청나게 강력하고 무시무시한 용이 있었는데, 레벨을 10 더 올리고 돌아가면 5분 만에 잡아 버리는 겁니다. 그러고는 이렇게 생각하죠. “와, 이제 정말 쉽네.”
하지만 동시에, 여러분이 열심히 모은 장비와 익힌 기술, 그 모든 것의 가치가 완전히 초기화됩니다. 모두가 다시 훈련을 시작하고, 사람들이 새로운 능력을 갖게 된 이 세상을 처음부터 이해하기 시작합니다. 그리고 이제는 새로 상대해야 할 몬스터들이 나타납니다.
저에게 지난 1년간의 AI는 상당 부분 이런 느낌이었습니다. 정신없는 게임이죠. 안타깝게도 반드시 참여해야 하는 게임이기도 합니다.
감속, 지배, 파멸이라는 세 극단
2023년에 저는 d/acc라는 개념을 처음 발전시키고 있었습니다. 그때 머릿속에는 세 꼭짓점으로 이루어진 삼각형이 있었습니다. 아주 강력하고, 많은 일을 가능하게 해 주지만, 동시에 위험한 기술이 던지는 과제에 어떻게 대응할 것인가 하는 문제였죠.
선택할 수 있는 세 가지 경로가 있습니다. 하나는 감속입니다. 두려우니 아예 금지하는 겁니다. 두 번째는 지배입니다. 두려우니 하나의 강력한 조직에 모든 것을 걸고, 그 조직이 모든 것과 모든 사람을 장악하고 통제하게 하는 겁니다. 세 번째는, 물론 파멸이죠.
그때 이런 생각이 있었습니다. 방어 기술을 더 발전시키고, 그것을 개방하고, 널리 보급한다면 어떨까요? 그리고 그것이 정말 방어를 위한 기술인지 사람들이 확인할 수 있도록 검증 가능하게 만든다면요? 그렇게 하면 이 세 극단 모두를 피하는 길을 찾을 수 있지 않을까 하는 생각이었습니다.
이제 감속은 일어나고 있지 않다는 사실이 상당히 분명해졌다고 생각합니다. 세상은 가속하고 있습니다. 그렇다면 지금 좋은 결과에 도달할 수 있는 길은 무엇일까요?
지배란 무엇일까요? 제 생각에는 세계가 이미 나아가고 있는 기본 경로에 가깝습니다. 많은 사람이 때로는 무의식적으로, 때로는 의식적으로 그쪽을 밀어붙이고 있다고 생각합니다. 지배의 보안 철학은 이렇습니다. “우리가 최고의 도구를 가지고 있고, 다른 누구도 도구를 갖지 못하므로 우리는 안전하다.”
위에 띄워 놓은 트윗과 관련해 제가 생각하는 점은, 도구를 갖지 못한 나머지 사람들은 반감을 품게 된다는 겁니다. 자신도 도구를 얻을 수 있는 모든 방법을 찾아 나서는 것이 마땅하다고 느끼게 되겠죠. 누구나 자신과 서로를 보호해야 하기 때문입니다. 그리고 이것이 보안에 접근하는 유일한 방식이라면 경쟁이 벌어질 수 있습니다.
더 나은 길을 찾아내지 못하면 지배가 기본 경로가 된다는 것, 이것이 제 주장의 하나입니다.
방어적·탈중앙적 가속
그렇다면 대안은 무엇일까요? 여기서 방어적·탈중앙적 가속이라는 생각이 나옵니다. 기본적으로 우리의 보안을 적극적으로 개선하자는 겁니다. 여러 영역에서 보안이 무엇을 의미하는지는 잠시 뒤에 더 말씀드리겠습니다. 새로운 환경에 더 잘 대응하고, 물리적 공간과 가상 공간, 사이버 공간, 정보, 생물학 등 모든 영역에서 서로를 더 잘 보호할 수 있도록 말이죠.
이것은 사후적인 억지보다 사전적인 예방에 더 무게를 두는 보안 철학입니다.
또한 사람들이 ‘프런티어의 속도 조절’이라고 부르는 일에도 역할이 있다고 생각합니다. 이런 방어 조치를 할 시간이 전혀 없을 만큼 최첨단 AI 모델들을 너무 빠르게 발전시키지는 말자는 겁니다.
누구를 믿을 것인가: 개방성과 검증 가능성
어떤 보안에서든 고전적인 문제는 결국 “누구를 믿을 것인가?”입니다. 여기서 해법은 개방성과 검증 가능성입니다.
우리가 이 새로운 환경에서 살아남고 번영할 수 있는 길을 원한다면, 모든 사람의 성 열쇠를 소수의 집단에 넘겨주는 데 의존하지 않는 길을 원한다면, 그리고 각 지역의 자주권을 존중하는 동시에 협력도 가능하게 하는 것을 원한다면, 오픈소스가 필요합니다. 한곳에서 만들어진 혁신을 다른 곳에서도 사용하고 개선할 수 있어야 합니다.
검증 가능성도 필요합니다. 우리가 얻는 무언가가 스스로 주장하는 속성을 실제로 갖추고 있는지 확인할 수 있어야 합니다. TV가 여러분을 감시하고 있지 않다는 것을 확신할 수 있어야 하죠.
형식 검증도 필요합니다. 적어도 디지털 구성 요소에 대해서는 수학적 도구를 사용해 보안 속성을 실제로 검증하는 겁니다. 신뢰에 대한 의존성도 최소화해야 합니다. 아무 이유 없이 서로 다른 서버 14곳에 접속하는 기기를 원하지는 않으니까요. 소비자용 소프트웨어든 기술이든 제품이든, 기본적으로는 엉망인 경우가 많습니다. 우리는 그 방향에 적극적으로 맞서야 합니다.
그리고 암호학적 증명이 필요합니다. 자신에 대한 모든 정보를 공개하는 식으로 증명해서는 안 됩니다. 그러면 프라이버시가 새어 나가고, 그 자체로 여러분을 덜 안전하게 만들기 때문입니다. 대신 자신에 관한 특정한 명제만 증명하는 겁니다. 상대방이 여러분을 안전하게 교류할 만한 사람이라고 납득하는 데 필요한 사실을 증명하는 것이죠.
이 모든 일에 영지식 증명 기술이 도움을 줄 수 있습니다. 많은 경우에는 블록체인도 할 일이 있습니다.
믿을 수 있는 운영체제와 하드웨어
그렇다면 어떤 영역에서 더 믿을 수 있는 기반이 필요할까요? 우선 운영체제를 믿을 수 있어야 합니다. GrapheneOS와 Qubes OS처럼 더 안전한 운영체제를 만들려는 프로젝트들이 있습니다. 그중 일부는 오래전부터 이어져 왔습니다.
더 새로운 프로젝트들도 있습니다. 리눅스 커널이나 대안 커널을 형식 검증하려는 프로젝트도 점점 등장하고 있습니다. 버그가 숨어 있을 수 있는 코드의 줄 수를 최소화하려는 것이죠. 그러니 “여러분의 운영체제가 아니면, 여러분의 애플리케이션도 아니다”라고 할 수 있겠습니다.
하드웨어도 믿을 수 있어야 합니다. TV가 우리를 감시하는지조차 알 수 없는 상황은 받아들일 수 없습니다. 하드웨어 지갑 위에 SIM 카드가 몰래 붙어 있어 개인 키를, 어쩌면 북한 해커에게 넘기고 있는지조차 알 수 없는 상황도 받아들일 수 없습니다. “여러분의 반도체가 아니면, 여러분의 삶도 아니다”라는 거죠. 더 개방적이고 더 검증 가능한 반도체가 필요합니다.
건강 데이터와 프라이버시
우리 건강과 가장 밀접한 것들도 믿을 수 있어야 합니다. 왼쪽에 보이는 것은 우리 커뮤니티 사람들이 개발해 온 기기입니다. 완전히 오픈소스이고, 여러 종류의 공기질 지표를 측정하며, 재미있는 다마고치 게임도 들어 있습니다.
우리의 목표는 사람들이 공기질을 더 잘 이해할 수 있게 하는 것이라고 생각합니다. 어디의 공기가 좋고 나쁜지, 어떻게 하면 공기질을 개선할 수 있는지, 그런 환경에서 어떻게 살아가야 하는지를 더 잘 이해하도록 하는 겁니다.
건강을 위해서는 몸 바깥의 데이터도 관찰해야 하고, 몸 안의 데이터도 관찰해야 합니다. 그리고 두 경우 모두 프라이버시가 필요합니다. 왼쪽의 공기질 측정기와 관련해서는 완전동형암호(FHE)를 이용하는 시범 프로젝트도 있습니다. 누구의 프라이버시도 침해하지 않으면서 공기 데이터를 바탕으로 탈중앙 과학 연구를 하려는 것이죠.
개인 데이터에 대해서는 여전히 더 많은 프로젝트가 필요합니다. 대부분의 스마트 피트니스 기기는 개인의 자기주권과 프라이버시를 염두에 두고 설계됐다고 보기에는 정반대에 가깝습니다.
믿을 수 있는 정보와 탈중앙 소셜 미디어
정보를 얻는 경로와 다른 사람들과 연결되는 경로도 믿을 수 있어야 합니다. 오늘날 소셜 미디어는 사회적으로 논쟁적인 문제에 대한 의견을 형성하거나, 어디에 돈을 투자할지 판단하거나, 건강에 관한 조언을 얻는 데 거의 쓸모가 없는 지경입니다.
여기서 어떤 코인을 살지 트위터에서 조언을 얻는 분 계신가요? 손을 든 분이 한 명도 없네요. 좋습니다. 앞으로도 트위터에서 본 내용을 근거로 코인을 사지 마세요.
방금 말한 세 영역은 모두 이해관계가 충돌하는 영역입니다. 수많은 봇을 운영하는 많은 사람에게는, 여러분이 여러분 자신의 이익이 아니라 그들의 이익에 맞는 의견을 갖도록 만들 유인이 있습니다. 이것이 문제입니다.
지금까지 우리는 어디까지 왔을까요? 하나는 탈중앙 소셜 미디어입니다. Farcaster 같은 프로젝트가 등장했고, Lens도 있습니다. 이더리움 바깥에도 여러 시도가 있습니다.
여러분이 아주 중요한 지점을 짚고 있다고 생각합니다. 어떻게 더 잘할 수 있을까요? 기본적으로 사람들이 뚜렷한 입장을 가진 커뮤니티를 만드는 것은 괜찮습니다. 다만 그런 커뮤니티를 만든다면, 사람들에게는 자신이 어떤 커뮤니티에 참여할지에 대한 실질적이고 의미 있는 선택권이 있어야 합니다. 함께 조직해서 자신들의 커뮤니티를 만들 수 있어야 합니다.
그래서 탈중앙 소셜 미디어에는 더 나은 상호운용성이 필요합니다. 이를 위한 여러 접근법이 있습니다.
사용자가 더 많은 통제권을 가져야 합니다. 소셜 미디어 프로토콜에서 자신이 무엇을 볼지 사용자가 직접 결정할 수 있어야 합니다. 커뮤니티에만 의존하는 것이 아니라, 사용자 스스로 콘텐츠를 관리할 수도 있어야 합니다.
새 커뮤니티를 만드는 일도 실제로 가능하고 현실적인 선택이어야 합니다. 완전히 새로운 인프라를 한 벌 구축할 수 있어야만 가능한 일이 되어서는 안 됩니다. 탈중앙 소셜 미디어를 더 완전하게 탈중앙화하고 개방하는 여정을 계속하는 것이 중요합니다.
검증 기능도 중요합니다. 사람들이 하는 말 가운데 무엇이 사실이고 무엇이 거짓인지, 무엇이 논쟁 중인지, 커뮤니티마다 무엇을 다르게 믿고 있는지 확인할 수 있도록 더 나은 도구가 있어야 합니다.
믿을 수 있는 소통 도구
우리의 소통 도구도 믿을 수 있어야 합니다. 숨겨진 백도어가 있는 폐쇄형 소프트웨어는 필요하지 않습니다. 해킹당해서 다른 누군가가 통제하는 백도어로 바뀌는 것도 필요하지 않습니다. 예를 들어, 사라지는 메시지라고 해 놓고 실제로는 사라지지 않고 몇 년씩 계속 저장되고 있었던 것 같은 일도 필요하지 않습니다.
우리에게 필요한 것은 프라이버시를 지켜 주는 메신저입니다. 오픈소스이고, 안전하고, 형식 검증을 거쳤으며, 종단간 암호화를 제공하는 메신저 말입니다. 사용자가 자신의 데이터가 어떻게 저장되는지 통제할 수 있어야 합니다.
메타데이터의 프라이버시도 잊어서는 안 됩니다. 무엇을 말하는지만의 문제가 아닙니다. 누가 누구와 언제 대화하는지도 중요합니다.
믿을 수 있는 AI
우리의 AI도 믿을 수 있어야 합니다. 모든 것이 AI에 의존하고 있습니다. 지난 한 달 동안 AI를 사용한 분 계신가요? 지난 한 시간 동안은요? AI는 아주 중요합니다. 사실상 두 번째 뇌가 되어 가고 있습니다.
하지만 그 두 번째 뇌의 생각이 외부 기업의 서버로 흘러 들어가는 것은 원하지 않을 겁니다. 학습 데이터로 쓰일 수도 있고, 해킹당할 수도 있고, 제멋대로 이용될 수도 있으니까요.
가능하다면 로컬 AI를 사용하고, 필요할 때는 원격 모델을 사용할 수 있습니다. 원격의 최첨단 모델을 사용하더라도 그 모델이 갖는 권한을 최소화하는 방식으로 사용할 수 있습니다. 이와 관련해서 흥미로운 연구가 진행되고 있다고 생각합니다. 샌드박싱 같은 방법이 있죠.
로컬 모델로 원격 모델에 보낼 요청을 정리하는 아이디어도 있습니다. 요청을 다시 쓰고 개인정보를 제거하는 겁니다. 그리고 원격 모델에서 응답이 돌아오면 그 내용이 실제로 여러분의 이익에 부합하는지 확인하는 것이죠.
강력한 AI의 능력과 로컬 AI가 주는 더 높은 보안과 프라이버시를 동시에 얻기 위해 해야 할 일이 많습니다.
데이터는 기본적으로 독성 폐기물처럼
프라이버시는 보안과 신뢰에서 아주 중요한 요소입니다. 우리는 데이터를 기본적으로 독성 폐기물처럼 다뤄야 합니다. 가능하다면 아예 수집하지 마세요.
답은 아무도 믿지 않는 것이 아닙니다. 거대 기업을 믿는 것도 아닙니다. 거대 기업에 맞서는 선하고 정의로운 저항 세력이라고 자처하는, 카리스마 있는 인플루언서를 믿는 것도 아닙니다.
그렇다면 답은 무엇일까요? 그것은 우리가 함께 찾아가야 합니다. 감사합니다.
» https://www.youtube.com/watch?v=nUFLz-o1YVY