Continuous Learning_Startup & Investment

Posts from this channel

1. 2026.09.30 11:22

   나는 AI의 열렬한 지지자지만, 누군가 AI가 만든 결과물을 제대로 살펴보지도 않고 그대로 전달하면 결국 받는 사람이 검증자의 역할까지 해야 할 때가 있다. 나 역시 그랬던 적이 있어서 반성한다.

   요즘 여러 회사가 코딩을 넘어 agent를 극단적으로 사용하면서 어떻게 하면 더 높은 생산성을 낼 수 있을지 실험하고 있다. 그런데 AI가 아무리 똑똑해져도 결국 어떻게 일을 시키고, 결과물을 어떻게 가공해서 다른 사람에게 전달하느냐에 따라 생산성 차이가 꽤 크게 나는 것 같다. 조직에서 생각보다 많은 리소스가 커뮤니케이션에 쓰인다. 같은 내용도 누가, 어떤 맥락에서, 어떤 말로 전달하느냐에 따라 받아들이는 정도가 완전히 다르다. 특히 AI는 당연한 말을 길게 하거나 굳이 없어도 되는 문장을 붙이는 경향이 있다. 내가 짧은 프롬프트 하나 던져서 긴 글을 만들고, 그걸 별 생각 없이 공유해서 여러 사람이 읽게 한다면 내가 아낀 시간을 다른 사람들에게 떠넘기는 셈일 수도 있다. 최근 Clay가 회사 전체에 AI 글쓰기 가이드라인을 공유한 걸 봤는데 공감되는 부분이 많았다. 공유하는 모든 문장과 생각은 내가 책임질 수 있어야 한다. Writing is thinking. 읽는 사람보다 쓰는 사람이 더 많은 시간을 써야 한다. 그리고 길다고 좋은 글은 아니다. 한동안 나도 읽고 생각하고 쓰는 것의 상당 부분을 AI에 위임했다. 그러다 AI가 뽑아낸 결론을 내가 이해한 것, 심지어 내가 생각한 것으로 착각했던 적도 있다. 그런데 지식이 내 것이 되기까지는 결국 학습 비용이 필요하다. 글쓰기는 그 비용을 치르는 꽤 좋은 방법 중 하나다. 직접 써보면 내가 뭘 알고 뭘 모르는지가 생각보다 잘 드러난다. 그리고 글에는 읽는 사람이 있다. 결국 고객이 있는 셈이다. 어떤 단어를 쓰는지, 어떤 문장은 빼는지, 어디까지 설명하고 어디서 멈추는지. 그런 디테일에서 이 사람이 얼마나 고민했는지가 느껴진다. 글쓰기에도 감도가 있다고 생각한다. 앞으로 내가 쓰는 모든 문장을 직접 쓸 필요는 없을 것 같다. 오히려 점점 더 많은 부분을 AI가 쓰게 될 것이다. 그래도 내가 전달하는 글의 감도와 그 글에 대한 책임만큼은 내가 정해야 한다. https://x.com/vxanand/status/2104576879415988453?s=46&t=h5Byg6Wosg8MJb4pbPSDow

   Views1,218Forwards13
2. 2026.09.19 18:10

   성공은 치료가 아니고, 재능은 일회용이다.

   최근 영화 포스터 디자이너 박시영의 인터뷰를 여러 편 봤는데, 서로 다른 이야기들이 의외로 하나의 세계관으로 연결되어 있었다. 그는 꽤 거친 환경에서 자랐다. 그런데 자신의 결핍을 낭만화하지 않는다. 결핍이 사람을 위대하게 만들어주는 것은 아니다. 결핍은 그냥 불리한 조건일 뿐이다. 다만 이미 생겨버린 결핍을 지울 수 없다면, 그 경험이 만들어낸 관점 중 쓸 수 있는 것을 찾아낼 수는 있다. 결핍은 advantage가 아니라 raw material에 가깝다. 정석적인 미술교육을 받지 못한 것도 마찬가지였다. 남들이 아는 정답을 몰랐기 때문에 때로는 남들과 다른 답을 내놓을 수 있었다. 중요한 것은 결핍보다 오히려 고립이었다. 그는 젊은 나이에 영화계에서 성공했고 돈도 벌었다. 하지만 성공했다고 어린 시절부터 쌓여 있던 문제가 사라지지는 않았다. 외부 환경은 바뀌었지만 내부의 패턴은 그대로 남아 있었다. 그래서 그의 인생에서 더 중요한 전환점은 첫 번째 흥행작이나 경제적 성공보다 사랑하는 사람을 만난 일이었던 것 같다. 혼자 있을 때는 내가 행동하는 사람이면서 동시에 나를 평가하는 사람이기도 하다. 얼마든지 자기 행동을 합리화할 수 있다. 그런데 누군가를 정말 사랑하게 되면 새로운 관측점이 생긴다. 내 행동 때문에 상대가 상처받는 것이 보이고, “나는 원래 이런 사람이야”라고 정당화하는 것보다 “이 사람이 힘들지 않았으면 좋겠다”는 마음이 커진다. 그러면서 목적함수가 바뀐다. 자기연민에서 타인에 대한 책임으로. 사랑은 자기 문제에 대한 정보를 하나 더 주는 것이 아니라, 그 문제를 실제로 고쳐야 할 이유까지 만들어준다. 그래서 사람을 바꾸는 데에는 information보다 relationship이 더 강력할 때가 있다. 그가 한 말 중 또 기억에 남았던 것은 “재능은 일회용이다”라는 말이었다. 재능이 있으면 어떤 일을 처음부터 잘할 수 있다. 하지만 새로운 문제가 계속 등장하면 결국 재능만으로는 버티기 어렵다. 오래 살아남게 만드는 것은 계속 해보고, 실패하고, 지루함을 견디고, 반복하면서 경험 속의 패턴을 각인하는 것이다. 콘텐츠 100개를 한 번씩 보는 것보다 좋은 것 하나를 100번 보는 것. 왜 이렇게 만들었는지, 왜 이 순서인지, 어느 순간 느낌이 바뀌는지, 내가 만든다면 무엇을 다르게 할지를 계속 뜯어보는 것. 정보를 아는 상태에서 감각이 체화된 상태로 넘어가는 과정이다. 이 이야기는 AI 시대에 더 중요하게 들린다. 무언가를 만들어내는 비용은 계속 낮아지고 있다. 생산의 가치는 내려가고, 선택과 판단의 가치는 상대적으로 올라간다. 앞으로 더 희소해지는 능력은 많이 아는 것이 아니라, 수많은 결과물 앞에서 무엇이 좋은지 빠르게 알아보는 taste일지도 모른다. 그리고 그 taste 역시 타고나는 것보다 반복 속에서 만들어진다. 삶에 대해서도 비슷한 이야기를 한다. 남들처럼 되기 위해 자기 결함을 전부 지울 필요는 없다. 동시에 “나는 원래 이런 사람이니까”라는 말로 자기 변화를 막아서도 안 된다. 고칠 것은 고치되, 자신이 살아온 과정에서 생긴 모든 흠을 없애려고 할 필요도 없다. 결핍, 기억, 열등감, 취향은 사람마다 다른 training data다. 모두가 같은 정답을 배우고 같은 결함을 지워나가면 오히려 비슷한 사람이 된다. 독창성은 새로운 것을 억지로 추가해서 생기는 것이 아니라, 남들과 다른 삶을 어떻게 해석했는가에서 생길 수도 있다. 그래서 그가 말하는 ‘나잇값’에 대한 생각도 공감하면서 들었다. 몇 살에는 결혼해야 하고, 얼마를 벌어야 하고, 집이나 차가 있어야 하고, 어떤 옷과 취미는 이제 그만둬야 한다는 것은 대부분 동년배 안에서 자신의 위치를 확인하려는 상대적 지위 게임에 가깝다. 반면 진짜 나잇값은 다른 데 있다. 내가 한 선택의 비용을 감당할 수 있는가. 내 감정을 다른 사람에게 떠넘기지 않는가. 타인을 배려할 수 있는가. 내가 선택한 사람과 일에 책임질 수 있는가. conformity(순응)와 maturity(성숙)는 전혀 다른 문제다. 박시영의 삶 전체를 보면 또 하나 재미있는 점이 있다. 어린 시절 그는 어느 순간 “이대로 있으면 나는 이 세계의 사람이 되겠다”고 생각하고 환경을 떠났다. 사람은 의지만으로 미래를 고르는 것이 아니라, 자신에게 보이는 선택지 중 하나를 고른다. 그래서 인생을 크게 바꾸고 싶을 때 의지를 강화하는 것보다 더 중요한 것이 있을지도 모른다. 환경을 바꾸고, 만나는 사람을 바꾸고, 자신이 노출되는 세계를 바꾸는 것. 환경이 달라지면 내가 선택할 수 있는 ‘가능한 나’의 집합 자체가 달라진다. 결국 이 인터뷰들에서 내가 가장 좋았던 메시지는 이것이었다. 좋은 삶은 자기 자신을 완벽하게 만드는 결함 제거 최적화 문제가 아닐지도 모른다. 고쳐야 할 것은 고치고, 변해야 할 때는 변하면서도, 내가 살아온 과정에서 생긴 고유한 무늬까지 전부 지우지는 않는 것. 그리고 혼자 완결된 인간이 되려고 하기보다, 나를 비춰주고 때로는 수정하게 만드는 사람들과 함께 살아가는 것. 인간은 좋은 존재라서 서로를 필요로 하는 게 아니라, 약한 존재라 혼자서는 완결될 수 없기 때문에 서로를 필요로 하는지도 모르겠다. https://youtu.be/LczhU1kPNx8?si=mR2xPuDYMlFXArQD

   Views448Forwards22
3. 2026.09.13 20:58

   AI를 늦추자는 사람들. 그 규칙은 누가 정하나?

   AI가 위험해지고 있다는 우려와, 안전 규제가 기존 기업의 진입장벽이 될 수 있다는 의심은 동시에 타당할 수 있다. 다리오의 「We Must Pace the Frontier」를 썼다. 1. 다리오는 무엇을 하자는 건가 AI가 다음 AI를 만드는 일을 돕기 시작하면서, 능력 발전 속도를 안전 연구가 따라가지 못할 수 있다. AI가 연구를 가속하고, 그 연구로 개선된 AI가 다시 연구를 가속하는 재귀적 자기개선을 걱정한다. 처방은 외부 평가자의 내부 상주와 독립적인 결과 공개, 미국·민주국가의 공통 안전 기준, 중국까지 포함한 국제 협력이다. 다음 능력 단계로 넘어가기 전에 안전 조건을 충족하게 하고, 필요하면 학습 컴퓨트와 내부 AI 연구 자동화도 제한하자는 것이다. Anthropic이 당장 약속한 것은 외부 평가자 도입이며, 나머지는 아직 제안이다. 여기에 미국의 우위를 유지한다는 조건이 붙는다. 중국의 첨단 칩·제조장비 구매, 밀수와 해외 데이터센터 원격 접근, 무단 증류와 모델 탈취를 더 강하게 막자는 주장이다. 미국만 느려지면 중국이 통제되지 않은 모델을 개발하거나 군사적 우위를 얻을 수 있다는 우려다. 그는 향후 3~5년을 중요하게 보고, 미국의 우위를 벌려 감속할 여유와 협상력을 확보하려 한다. 다만 상대를 기술적으로 고립시키는 것이 안전 협력에도 도움이 될지는 별개다. 2. 연구자들은 무엇을 보고 있나 OpenAI의 Adam Majmudar가 제시한 설명이 흥미롭다. 외부인은 출시된 제품을 비교하지만 연구자는 연산량과 학습 방식을 바꾸며 얻는 성능 곡선을 본다는 것이다. 출시 사이의 변화가 작아 보여도, 내부에서는 아직 활용하지 않은 개선 여지를 보고 있을 수 있다. 그는 기존 스케일링 축을 더 활용하거나 새로운 축을 발견하는 방식으로 발전을 설명한다. 사전학습·추론 연산 외에 추가 학습과 에이전트 협업 등으로 scaling law의 한계는 보이지 않고 더욱더 가속화되고 있다. 3. 왜 찬반이 갈리나 샘 올트먼은 독립 평가자 도입을 약속했고, 머스크는 지지했다. 하사비스는 방향에 동의하면서 세부 설계가 필요하다고 했다. 반면 고메즈는 카르텔화를 경계했고, 삭스는 위험하다면 프런티어 기업들이 스스로 감속부터 하라고 요구했다. 지지 발언과 구체적인 감속 합의는 구분해야 한다. 찬성 측은 이익과 위험의 부담자가 다르다는 것이다. 기업은 개발의 이익을 얻지만 사고 피해는 사회가 나눠 부담할 수 있다. 경쟁 때문에 안전 투자가 부족해진다면 공통 기준이 필요할 수 있다. 반대 측의 논리도 이해가 된다. 위험을 가장 잘 아는 기업이라고 해서 경쟁자의 진입과 모델 공개를 결정할 권한까지 가져야 하는 건 아니다. 감속으로 방어용 AI와 과학 연구의 발전까지 늦어지는 비용도 따져야 한다. 4. 오픈소스·중국·컴퓨트에는 어떤 일이 생길까 선두의 위험한 연구만 늦추면 오픈 모델은 따라잡을 시간을 얻을 수 있다. 반대로 외부 배포만 막고 대형 연구소의 내부 연구는 허용하면 격차가 커질 수 있다. 높은 고정 준수비용은 작은 팀의 진입을 어렵게 만든다. 무엇을 제한하는지가 중요하다. 중국도 영구적으로 막힌다고 가정하기 어렵다. 공급이 불안해지면 국산 칩과 소프트웨어를 채택할 유인이 커지고, 국내 업체는 고객·매출·피드백을 얻는다. 단기 지연과 장기 자립 촉진이 동시에 일어날 수 있다. 다만 자립도가 높아진다고 규제가 없었을 때보다 발전이 빨라졌다는 뜻은 아니다. 규제 이후에도 발전한다고 규제가 무효인 것도 아니다. 비슷한 능력에 도달하는 시간과 비용, 실제 국산 생산량, 세계 고객의 채택을 봐야 한다. 관건은 벌어준 시간이 무엇을 바꾸느냐다. 몇 년의 선두가 이후 우위를 결정한다면 지연의 가치가 크다. 경쟁이 오래 지속된다면 중국의 자립을 촉진하고 미국의 시장과 통제 지렛대를 잃는 비용이 커질 수 있다. 컴퓨트 수요도 일률적으로 줄지는 않을 수 있다. OpenAI는 특정 모델에 제한을 가한 뒤 다른 모델의 실험으로 자원이 이동해, 분석한 RL 워크로드의 전체 GPU 배정은 대체로 유지됐다고 보고했다. 한 회사의 제한된 관찰이지만, 감속이 곧 같은 비율의 GPU 수요 감소는 아니라는 점을 보여준다. 토큰 수, GPU 시간, 인프라 매출도 따로 봐야 한다. 5. 그래서 규제 포획인가 둘 다 함께 느려지면 안전하지만, 상대가 달릴 때 혼자 멈추면 손해인 상황을 생각해보자. 이 구조에서는 위험을 진심으로 걱정하면서도 계속 경쟁할 수 있다. 공동 기준은 이 문제를 풀려는 시도일 수 있다. 동시에 같은 기준으로 경쟁자의 비용을 높이고 추격을 막을 수도 있다. 안전 협력과 규제 포획은 겉으로 비슷한 행동을 만든다. 나는 독립 검증 강화에는 찬성한다. 다만 모델 개발과 공개를 제한하는 규칙에는 더 강한 입증 책임이 필요하다고 본다. 연구자의 우려가 진심이어도 규제가 공정하다는 보장은 없다. 규제가 기존 기업에 유리해도 위험이 가짜라는 증거는 아니다. 그래서 내심보다 행동을 보려 한다. 자기 회사의 내부 연구에도 불리한 기준을 적용하는가. 외부 평가자가 나쁜 결과를 공개할 수 있는가. 작은 기업도 같은 위험 기준을 합리적인 비용으로 통과할 수 있는가. 누가 감속에 찬성했는지보다, 누가 규칙을 정하고 그 규칙이 누구에게 적용되는지가 더 중요하다. https://darioamodei.com/post/we-must-pace-the-frontier

   Views249Forwards10
4. 2026.09.11 18:42

   로보틱스가 몇몇 연구팀의 개별적인 돌파에 의존하는 단계를 지나, 수많은 기업·연구자·모델·데이터가 함께 밀어 올리는 ‘매끄러운 지수 성장(smooth exponential)’ 구간에 들어가고 있다.

   개별 연구는 불규칙합니다. 한 팀은 문제에 막히고, 다른 팀은 실패하고, 또 다른 팀은 우연히 돌파구를 찾습니다. 하지만 참여자가 충분히 많아지면 이런 편차가 전체 평균에서는 사라집니다. 한 프로젝트가 멈춰도 다른 수십 개 프로젝트가 계속 전진하기 때문에 산업 전체의 성능은 꾸준히 올라간다는 논리입니다. 최근 코딩 모델에서 나타난 흐름을 로보틱스에도 적용한 것입니다. 1. 참여자가 충분히 많아졌습니다. 대학, 스타트업, 대기업 연구소가 이족보행·바퀴형·로봇 손·그리퍼 등 여러 하드웨어와 데이터 수집법, 모델 구조, 시장을 동시에 실험하고 있습니다. 특히 중국의 하드웨어 공급망과 오픈소스 VLA 모델이 진입장벽을 낮춰 신규 업체도 이전보다 높은 출발점에서 시작할 수 있습니다. 2. 범용 LLM을 로봇에 적용할 수 있게 됐습니다. 로봇 전용 모델이 아니라 일반적인 프런티어 LLM도 일부 로봇 작업을 제로샷으로 수행하기 시작했습니다. 이 흐름이 이어지면 로보틱스도 LLM처럼 공개 리더보드, 테스트타임 스케일링, 성능곡선 외삽 같은 평가 체계를 갖출 수 있습니다. 데모 중심의 분야에서 성능 향상을 측정하고 예측하는 분야로 바뀔 수 있다는 이야기입니다. 3. 로봇마다 데이터를 처음부터 모을 필요가 줄고 있습니다. 과거에는 가정용 로봇을 만들려면 실제 가정에서 해당 로봇을 수백만 시간 조작한 데이터가 필요하다고 봤습니다. 지금은 광범위한 영상과 다른 로봇의 데이터를 이용해 일반적인 지능을 먼저 학습하고, 소량의 특정 하드웨어 데이터로 제어 능력을 붙이는 방향으로 바뀌고 있습니다. 데이터 구조는 대략 아래와 같습니다. 1인칭 영상 수백만 시간 → UMI 그리퍼 데이터 수십만 시간 → 여러 로봇의 원격조작 데이터 수만 시간 → 특정 하드웨어의 고품질 시연 수 시간 이 구조가 제대로 작동하면 여러 회사가 같은 범용 데이터를 재사용할 수 있습니다. 실제 로봇을 매번 작동시키지 않고도 action perplexity나 MSE 같은 지표로 스케일링 법칙을 연구하는 것도 가능해집니다. 저자의 제품 전망도 상당히 구체적입니다. 향후 12~24개월 동안 로봇 지능이 빠르게 발전하고, 2027년 10월경에는 범용 가정용 로봇 2~3개가 시장에 나올 것으로 예상합니다. 초기 제품은 물건 옮기기, 빨래 개기, 몇 가지 시연 기능 정도라 사람을 대체할 수준은 아닙니다. 다만 가정은 이런 ‘흥미롭지만 아직 크게 유용하지 않은 제품’을 받아들일 얼리어답터 시장이 될 수 있습니다. 이후에는 ChatGPT나 코딩 에이전트처럼 별로 유용하지 않음 → 매우 유용함 → 경제적으로 큰 영향을 미침 의 순서로 발전하고, 유용성의 임계점을 넘으면 기업과 제조업에서 채택이 크게 늘어날 것이라고 봅니다. 투자 관점에서의 결론은 단일 로봇 회사를 맞히는 것보다 생태계 전체의 성장에 베팅하라는 것입니다. 개별 기업 사이에서는 소수의 큰 승자가 나오겠지만, 로보틱스 전체의 발전은 수많은 참여자가 함께 만든 결과이기 때문입니다. Nvidia가 AI 컴퓨팅을 공급하고 Unitree가 휴머노이드 연구의 진입장벽을 낮춘 것처럼, 컴퓨트·하드웨어 플랫폼·데이터·평가 도구 등 여러 기업이 공통으로 사용하는 기반 계층이 더 나은 장기 투자처일 수 있다는 주장입니다. 다만 몇 가지 논리적 비약은 있습니다. • 발전이 매끄럽다고 해서 반드시 빠르거나 지수적인 것은 아닙니다. • 영상과 오프라인 지표의 개선이 실제 로봇의 안전성·신뢰성·실패 복구 능력으로 바로 이어진다는 보장은 없습니다. • 배터리, 액추에이터, 내구성, 제조 원가, 유지보수 같은 물리적 병목도 남아 있습니다. • 12~24개월 및 2027년 10월이라는 시점은 본문의 논리에서 계산된 결과라기보다 추측에 가깝습니다. • 산업 전체가 성장하는 것과 인프라 기업이 높은 투자수익을 얻는 것도 별개의 문제입니다. https://x.com/ericjang11/status/2098299811720261952

   Views181Forwards5
5. 2026.09.11 16:23

   ARR 0에서 5억 달러까지: Pocket FM이 공개한 성장 공식

   Pocket Entertainment(Pocket FM + Pocket Saga)는 ARR이 거의 0이던 시점에서 5억 달러까지 성장했다. 지난 1년간 순증 ARR 2억5천만 달러를 기록했고, EBITDA 흑자 상태였다. Pocket FM은 1인 제작 스튜디오 네트워크를 기반으로 한 ‘오디오 드라마판 넷플릭스’다. 이들이 공개한 성장 동력은 다섯 가지다. 1. 미국에서 ARR 0→4억 달러를 만든 유저 확보법은 다른 나라에서도 통했다. 오디오 드라마의 90초 영상 예고편을 광고로 내보내고, 뒷이야기가 궁금한 사람에게 앱을 받게 한다. 유저 확보에 1억 달러 넘게 쓴 뒤 얻은 인사이트는 단순했다. 광고 클릭률(CTR)이 2%에서 2.25%로 오르면 고객 획득 비용(CAC)은 약 30% 내려갔다. 새 국가에 들어갈 때는 LLM으로 인기 작품의 흥미로운 장면을 뽑아 5분짜리 대본으로 재구성하고, 이를 바탕으로 90초 영상 광고를 만든다. 첫 60초에는 5초마다 훅을 넣고 마지막은 강한 클리프행어로 닫는다. CTR 2.5%와 3초 재생률 55%라는 기준을 달성하지 못하면 크리에이티브 디렉터가 훅과 클리프행어를 다시 손본다. AI로 작품당 1,000개, 월 약 1만7,500개의 광고를 만든다. 유저 확보 예산을 7~8배 키우면서도 CAC는 크게 오르지 않았다. 이 시스템을 찾는 데 8개월이 걸렸지만, 이후 새 국가에서 ARR 1천만 달러에 도달하는 시간은 계속 짧아졌다. 미국은 19개월 만에 매출 2,500만 달러, 독일은 11개월 만에 ARR 2,100만 달러 이상, 프랑스는 3개월 만에 ARR 1,000만 달러 이상을 기록했다. 미국은 현재 전체 매출의 78%다. 2. 포맷, 리텐션, 과금을 함께 설계했다. 처음 2~3년 동안 10가지 포맷을 시험한 끝에 8~12분짜리 연재형 오디오 드라마를 찾았다. 모바일 픽션에 맞게 쓰고, 회차마다 강한 훅과 클리프행어를 넣었다. 그러자 하루 평균 청취 시간은 약 25분에서 150분 이상으로 늘었다. 과금은 매일 일정 시간까지 무료, 이후 회차별 결제로 설계했다. 광고를 보면 잠긴 회차를 여는 선택지도 추가했고, 광고 매출의 연환산 규모는 12개월 만에 0에서 약 9천만 달러로 커졌다. 한 작품의 무료 분량이 끝난 유저가 결제하지 않으면 아직 무료 분량이 남은 다른 작품을 이어 재생했다. 여러 작품의 회차를 엮은 ‘에피소드 플레이리스트’로, 화면을 끄고 듣는 오디오 앱의 작품 발견 문제를 해결한 셈이다. 3. 번역하지 않고 현지화했다. 언어만 옮기면 농담과 민속, 문화적 맥락이 옅어질 수 있다. 그래서 AI로 이야기의 뼈대는 유지하되 문화적 층위 전체를 현지에 맞게 다시 설계했다. 독일용으로 현지화한 미국 작품은 단순 번역본보다 리텐션이 50% 높았다. 덕분에 작가들은 큰 추가 작업 없이 미국, 인도, EU, 중남미에서 새로운 수익을 얻었다. 4. 사내 실험에는 100만 달러와 12~18개월을 줬다. 사내 신규 프로젝트에 100만 달러를 배정하고, 팀이 12~18개월 안에 가설을 증명하면 더 투자했다. 이렇게 나온 것이 세로형 2분 AI 영상 마이크로드라마 앱 Pocket Saga다. Pocket FM의 작품과 구조를 영상으로 옮긴 이 앱은 출시 두 달 만에 약 1,500만 달러 ARR에 도달했다. 오디오 드라마를 다른 언어와 국가로 넓히고, 마이크로드라마를 거쳐 영화·TV·게임으로 확장한다는 구상이다. 작가에게는 새 국가뿐 아니라 새 포맷의 수익원도 생긴다. 5. 모든 콘텐츠를 AI 기반으로 제작하는 체제로 전환했다. 2024년 중반, ARR 2억 달러에 전년 대비 50% 성장 중이던 시점에 이 전환을 택했다. 곧바로 성장세가 꺾여 6개월 동안 정체했지만, 6개월 뒤 사업이 급성장했다. 이들은 이 전환이 이후 ARR 100% 성장의 돌파구를 열었다고 본다. 연간 콘텐츠 제작량은 약 2만5천 시간에서 250만 시간 이상으로 늘었다. 원문 작성자는 품질도 높아졌다고 말한다. 누적 수익 100만 달러를 넘긴 작품은 90개 이상, 1천만 달러를 넘긴 작품은 13개다. 품질 관리는 LLM을 평가자로 써 진행한다. 12개월 매출 유지율은 44%에서 76%로 올랐다. Pocket Entertainment는 자신들을 가장 큰 AI 엔터테인먼트 플랫폼이라고 설명한다. 그 근거로 Runway나 Midjourney 같은 AI 제작 도구와 달리 콘텐츠의 공급 측과 수요 측을 모두 보유하고 있다는 점을 든다. 기반은 77만 개 타이틀, 55만 명의 크리에이터, 55억 시간의 재생 및 분 단위 리텐션·참여 데이터다. AI가 더 좋은 광고를 더 많이 만들고, 작가와 AI가 더 많은 작품을 만들고, 현지화가 작품당 도달 범위를 넓히고, 오디오에서 영상으로의 확장이 전체 시장(TAM)을 키운다. 각 성장곡선이 서로를 밀어주는 구조다. 이들이 건 마지막 베팅은 더 크다. 3년 안에 ‘나루토’급 시리즈를 1,000달러에 만들 수 있다는 것. 원문 작성자는 넷플릭스가 매년 100개의 흥행작을 찾는 데 170억 달러를 쓴다고 비교하며 묻는다. 10억 달러로 고품질 작품 100만 편을 만들 수 있다면 무슨 일이 생길까? 스트리밍 전쟁이 시가총액 3천억 달러를 재편했다면, AI 엔터테인먼트 전쟁은 1조 달러 이상의 재편이 될 수 있다. https://x.com/RohanNayak2/status/2098104784264065525

   Views196Forwards5
6. 2026.09.09 11:42

   OpenAI는 수학 문제보다 새로운 R&D 생산방식을 보여줬다.

   OpenAI가 Navier–Stokes 밀레니엄 문제의 해법을 공개했다. 정확히는 매끄러운 외력이 있는 3차원 Navier–Stokes 방정식에서 유한시간 안에 특이점이 발생할 수 있다는 증명이다. 일반적인 유체 흐름을 계산하는 공식이 나온 것도, 항공·기후·CFD 문제가 해결된 것도 아니다. 하지만 외력을 허용하는 C·D 조건은 Clay의 공식 문제에 포함되므로, 증명이 맞다면 실제 밀레니엄 문제의 해결이다. 아직 독립 검증과 학계의 수용은 끝나지 않았다. 수학적 결과만큼 흥미로운 것은 문제를 푼 방식이다. OpenAI의 자기보고에 따르면 약 1만 개의 에이전트가 88시간 동안 270만 개의 메시지와 1,300억 개의 출력 토큰을 사용했다. 여러 팀이 서로 다른 접근법을 탐색하고, 중간 결과를 공유하고, 유망한 경로에 컴퓨트를 집중했다. 이후 Lean으로 증명을 형식화했다. 정확한 GPU 수와 비용은 공개되지 않았지만, 중요한 것은 분명하다. 연구가 사람 몇 명이 몇 년 동안 수행하는 프로젝트에서, 거대한 추론 예산을 투입하는 ‘컴퓨트 캠페인’으로 바뀌기 시작했다. 문제 정의 → 병렬 탐색 → 실패 경로 제거 → 유망한 분기에 컴퓨트 증액 → 자동 검증 → 재현 가능한 결과 앞으로 R&D의 핵심 지표도 연구원 수나 생성된 아이디어의 개수가 아니라 ‘검증된 결과 한 건당 비용’, ‘결과 도달시간’, ‘재현 성공률’이 될 수 있다. 다만 1만 개의 에이전트를 띄운다고 모든 문제가 풀리는 것은 아니다. Google의 연구에서도 병렬화 가능한 문제에서는 멀티에이전트가 강했지만, 순차적인 계획 문제에서는 오히려 성능이 크게 떨어졌다. 핵심은 에이전트 숫자가 아니라 문제를 잘게 나누는 방법, 유망한 경로를 고르는 스케줄러, 그리고 결과가 맞는지 판정할 수 있는 verifier다. Navier–Stokes는 AI에 특히 유리한 문제이기도 했다. 문제 정의가 명확하고, 결과가 디지털이며, Lean으로 상당 부분 검증할 수 있다. 신약·소재·기계설계에서는 시뮬레이터와 현실의 차이, 실험 오차, 제조 가능성, 규제가 개입한다. 따라서 이번 사건을 ‘R&D 전체가 곧 자동화된다’고 해석하는 것은 과장이다. 먼저 바뀌는 곳은 소프트웨어 migration, 보안, 반도체 검증, CAE처럼 여러 경로를 탐색할 수 있고 결과를 테스트·시뮬레이션으로 빠르게 확인할 수 있는 분야일 가능성이 높다. 인간 연구자가 바로 사라지기보다는 역할이 바뀔 것이다. 한 명의 전문가가 여러 개의 연구 캠페인을 동시에 운영하고, 에이전트가 문헌 조사·후보 생성·시뮬레이션·코딩·반복 분석을 수행하는 구조다. 연구원 100명이 10명으로 줄어들기보다, 10명이 과거보다 훨씬 많은 문제를 시도하게 될 가능성이 높다. 다만 주니어 연구와 외주 분석이 담당하던 실행 피라미드는 얇아질 수 있다. 창업·투자 관점에서도 중요한 구분이 있다. 장시간 추론 수요가 증가하면 칩·전력·클라우드는 수혜를 받는다. 그러나 GPU를 빌려주거나 범용 멀티에이전트 runtime을 만드는 것만으로는 스타트업이 강한 해자를 갖기 어렵다. AWS와 Microsoft가 이미 장기간 실행, GPU, 다중 에이전트, 고객 계정 내부 실행을 제품에 넣고 있기 때문이다. 더 큰 기회는 특정 산업에서 ‘무엇을 정답으로 인정할 것인가’를 정의하고, 기존 solver·테스트·실험실로 결과를 검증해 납품하는 회사에 있다. 예를 들면 다음과 같다. • 과학·산업용 레거시 코드의 migration과 수치 동등성 검증 • 반도체 패키지·데이터센터·배터리의 열관리 설계 • 조선 선형·프로펠러 후보의 CFD 탐색 • 소재·배합 후보 생성과 실제 실험의 폐쇄 루프 • 펌웨어·산업제어 시스템의 취약점 발견과 검증된 패치 여기서도 Private는 해자가 아니라 입장권이다. 고객의 코드·CAD·실험 데이터가 외부 모델 학습에 사용되지 않도록 VPC나 온프레미스에서 실행하는 것은 기본 요건이 될 것이다. 진짜 해자는 산업별 acceptance test, 기존 도구와 실험실에 대한 접근권, 검증 결과가 붙은 성공·실패 기록, 그리고 결과에 제한적으로 책임질 수 있는 구조에 생긴다. 그래서 앞으로 가장 흥미로운 회사는 “AI가 R&D를 대신합니다”라고 말하는 회사가 아닐 수 있다. 대신 이렇게 말할 수 있는 회사다. “정해진 비용과 시간 안에 고객의 테스트를 통과한 설계·패치·후보를 만들고, 그것이 왜 믿을 만한지 재현 가능한 증거까지 함께 제공하겠습니다.” 이번 사건이 보여준 가장 큰 변화는 AI가 과학자를 없앤다는 것이 아니다. R&D의 디지털 탐색 노동이 컴퓨트로 전환되기 시작했다는 것이다. 그리고 그 시장의 승자는 가장 많은 에이전트를 가진 회사보다, 컴퓨트가 만든 결과 중 무엇을 믿어도 되는지 판단하고 책임질 수 있는 회사일 가능성이 높다. https://openai.com/index/navier-stokes-solution/

   Views206Forwards7
7. 2026.09.08 11:16

   AI 시대의 핵심 인프라는 GPU가 아니라 전력일지도 모른다

   Base Power 창업자 Zach Dell의 인터뷰를 보며 가장 크게 배운 건, 전력사업을 배터리 제조업으로만 보면 본질을 놓친다는 점이었다. Base가 팔려는 것은 배터리가 아니라 “싸고 끊기지 않는 전력”이라는 결과다. Zach의 출발점은 에너지 풍요다. 1인당 에너지 소비와 GDP·삶의 질 사이에는 강한 상관관계가 있고, 더 많은 사람이 더 많은 에너지를 쓸 수 있어야 번영도 가능하다고 본다. 그래서 미국 전력망도 “망가졌다”기보다 앞으로의 수요를 감당하기에 “너무 작다”고 진단한다. 전력수요가 오랫동안 완만했던 탓에 기존 규제 유틸리티는 R&D로 용량을 빠르게 늘리는 조직보다 승인된 설비에 자본을 집행하는 조직으로 진화했다. AI 데이터센터는 이 균형을 깨는 새로운 수요다. Base는 Mission, Vision, Strategy를 구분한다. 미션은 에너지 풍요로 인간의 번영을 돕는 것. 비전은 태양광·배터리·소프트웨어가 정의하는 다음 50년의 전력회사를 만드는 것. 전략은 기술과 선택적 수직통합으로 시간이 갈수록 커지는 원가우위를 쌓는 것이다. 전기는 결국 commodity이기 때문에 더 싸고 더 안정적으로 공급하는 회사가 이긴다는 논리다. 사업모델도 여기서 나온다. 기존 업체는 고가의 가정용 배터리를 한 번 팔고 끝내지만, Base는 직접 설치하고 계속 소유·운영한다. 고객은 전기와 백업 서비스를 받고, Base는 정전이 없는 동안 배터리 fleet를 전력시장 자산으로 활용한다. 하드웨어 판매보다 capacity-as-a-service에 가깝다. 고객의 초기 부담은 낮아지고 Base는 반복매출, 운영 데이터, 전력시장 가치를 얻는다. 기존 판매업체가 따라오려면 자신의 고마진 일시판매 모델을 포기해야 한다는 점도 방어력이 된다. 진행자는 이를 Hughes Tool의 드릴비트 임대모델과 비교한다. 제품을 팔고 끝내는 대신 소유권을 유지함으로써 반복수익, 품질통제, 현장 데이터를 함께 확보하는 구조다. 다만 자본비용, 배터리 열화, 유지보수와 가동률 위험도 Base가 떠안는다. 소유 자체가 해자는 아니고, 운영을 남보다 잘할 때만 해자가 된다. 수직통합 역시 신념이 아니라 constraint의 함수다. Base는 제품 설계와 최종 조립·검사·설치·운영을 직접 하지만 부품 제작은 주로 외부에 맡긴다. 공급능력이 성장의 병목이 되자 공장과 모듈·인버터 라인을 늘렸다. 반대로 3년 차 회사가 셀 제조, 리튬 정제, 채굴까지 내려가는 것은 비합리적이라고 본다. 원가·속도·품질을 실제로 막는 층만, 규모의 편익이 비용보다 커지는 시점에 내부화한다. 이 사고방식은 조직에도 그대로 적용된다. Base의 세 North Star는 빠르게 성장하는 분산 배터리 fleet, 모든 비용을 포함한 최저 landed cost, 재무적 지속가능성이다. 모든 팀 지표는 셋 중 하나와 연결된다. 현재의 가장 큰 병목을 맡은 사람 책상에는 실제 거북이가 놓이고, 부서를 넘나드는 “hot potato” 팀이 매일 모여 문제를 해결한다. 문제가 풀리면 팀은 바로 해산한다. 설계팀과 공장을 걸어서 몇 분 거리에 둔 것도 현장의 문제를 즉시 제품 변경으로 연결하기 위해서다. Zach은 3년 반 동안 매달 지난달에 한 일, 못한 일, 다음 달에 할 일을 써 왔다. 빨간 노트에는 사업 안의 당면 문제를, 검은 노트에는 6~12개월 뒤의 전략을 쓴다. 명확히 쓰지 못하면 아직 명확히 생각하지 못했다는 믿음이다. CEO도 player-coach여야 한다고 본다. 목표와 사람을 정렬하는 코치이면서, 결정적 순간에는 직접 문제를 푸는 개인 기여자여야 한다. AI 데이터센터를 향한 전략은 두 가지다. 데이터센터 근처에 배터리와 전력용량을 배치해 계통의 여유를 만들거나, 시간과 위치를 조절할 수 있는 compute를 분산 에너지 fleet 가까이 가져오는 것이다. 결국 경쟁의 단위는 배터리 GWh나 GPU 개수보다 “필요한 장소에 얼마나 빨리, 얼마나 안정적인 MW를 전달할 수 있는가”가 될 수 있다. 내가 남긴 핵심은 하나다. 수직통합, 제조, 조직문화, 글쓰기 모두 같은 질문에 답해야 한다. 지금 목표로 가는 길을 막는 가장 큰 constraint는 무엇인가? 좋은 소식은 대개 스스로 퍼진다. 경영진이 먼저 봐야 할 것은 나쁜 소식과 병목이다. https://youtu.be/QFk6g5PQtqs

   Views583Forwards19
8. 2026.09.08 00:55

   피터 틸을 무신론적 테크 엘리트로만 보면 그의 사상을 절반밖에 이해하지 못한다. 그는 “I believe Christianity is true”라고 말했고 자신의 믿음을 “다소 비정통적”이라고도 표현했다. 하나님을 믿으며, 그리스도의 육체적 부활은 실제 사건이고 영생은 실제 약속이라고 본다. 다만 전통 교리를 그대로 반복하기보다 르네 지라르의 모방욕망·희생양 이론을 성경, 기술, 정치에 연결한다.

   틸의 성경관을 가장 잘 보여주는 말은 “우리가 성경을 읽지만, 성경도 우리를 읽는다”이다. 성경이 계시라면 우리가 과거 문서처럼 평가하는 데 그치지 않고, 오히려 우리의 욕망·질투·폭력·위선·군중심리를 드러내야 한다는 뜻이다. 그는 성경을 하나님에 관한 신학인 동시에 인간이 폭력을 행사하고 숨기는 방식을 밝히는 인류학으로 읽는다. 지라르의 구조는 이렇다. 모방욕망 → 경쟁과 혼란 → 한 사람에게 책임 집중 → 추방·살해 → 일시적 평화 → 희생양의 신성화. 사람들은 남이 원하는 것을 보고 원한다. 같은 지위·재산·명예를 원하면 모델은 경쟁자가 되고, 갈등이 커지면 공동체는 한 사람을 모든 문제의 원인으로 지목한다. 그를 제거한 뒤 평화가 오면 그 사람은 위기를 일으킨 괴물이자 평화를 돌려준 신으로 기억된다. 틸이 보는 성경의 독특성은 이 과정을 정당화하지 않고 죽임당한 사람이 정말 유죄였는지 묻는 데 있다. 카인보다 아벨, 제국보다 억압받는 노예, 예수를 처형한 군중과 국가보다 무고한 예수의 관점에서 역사를 다시 쓴다. 그리스도의 무죄는 군중의 만장일치와 국가의 판결도 거짓일 수 있음을 폭로한다. 그래서 죄는 금지된 행동의 목록보다 넓다. 타인의 욕망을 모방하고, 비교와 질투에 빠지고, 공동체의 평화를 위해 누군가를 악인으로 만들고, 그 폭력을 정의라고 믿는 사회적 힘이기도 하다. 틸은 하나님을 섬기라는 첫 계명과 이웃의 것을 탐내지 말라는 열째 계명을 연결한다. 위를 보지 않으면 옆을 보게 되고, 나는 무엇을 원하는가보다 저 사람은 무엇을 가졌는가가 삶을 지배한다. 인간은 모방을 멈출 수 없다. 따라서 자유는 아무도 따르지 않는 데 있지 않고 누구를 본받을지 선택하는 데 있다. 틸이 그리스도를 모델로 제시하는 이유는 그가 자신의 안전을 위해 타인을 희생시키거나 군중이 만든 적에게 보복하지 않기 때문이다. 십자가의 핵심도 고통 숭배가 아니다. 예수는 고통을 원하지 않았지만 자신을 살리려고 다른 사람을 제거하지도 않았다. 틸의 해석에서 십자가는 인간 공동체가 저지른 악이고, 부활은 희생자가 무고했다는 하나님의 판결이다. 그는 부활을 심리적 재생의 상징으로 축소하지 않는다. 실제 영생이 있다면 신앙을 위해 현세의 손실을 감수하는 것은 자기파괴가 아니라 궁극적 현실을 고려한 현명한 선택이 된다. 틸은 현대의 세속 이념도 기독교의 영향을 받았다고 본다. 마르크스주의와 일부 피해자 정치는 약자의 편에 서라는 기독교 윤리를 이어받았지만, 용서를 빼버리면 가해자로 지목된 사람을 새 희생양으로 만들 수 있다. 그의 질문은 피해자를 보호하지 말자는 것이 아니라, 피해자를 위한다는 명분으로 또 다른 희생양을 만들고 있지 않은가이다. 과학에 관한 주장도 독특하다. 과학이 마녀 화형을 끝냈다기보다 마녀·유대인·이방인을 재난의 원인으로 보지 않게 되면서 세균·환경·자연법칙을 찾기 시작했다는 것이다. 기독교의 피해자 관점이 희생양 설명을 약화시키고 자연적 인과 탐구를 촉진했다는 지라르식 가설이다. 최근 적그리스도론도 같은 문제의식에서 나온다. 틸에게 적그리스도는 AI 로봇이나 노골적인 반기독교인이 아니다. 핵·AI·기후 같은 실제 위험에서 인류를 구하고 평화와 안전을 주겠다며 세계적 감시와 단일 권력을 요구하는 거짓 구원자다. 그는 기술의 위험뿐 아니라 기술을 통제한다는 명분으로 생기는 탈출 불가능한 권력도 경계한다. 틸은 “지라르는 교회에 가라고 했고, 나도 교회에 가려고 한다”고 말한다. 개인의 성결과 정치적 행동을 함께 강조한다. 그러나 희생양과 감시국가를 경계하면서도 강한 국가질서와 자신이 공동 창업한 Palantir의 국가·데이터 기술에 관여하고 있다. 틸은 부활과 영생을 믿는 개신교인이고, 성경 해석에서는 지라르주의자이며, 기술진보를 원하면서 그 진보를 통제할 세계권력을 두려워하는 정치신학자다. https://youtu.be/918qslcfwfY?si=H74coQpIgBqFCrLE

   Views329Forwards10
9. 2026.09.05 10:24

   최근 대한민국에서 이름만 대면 누구나 알 만한 교육회사를 창업한 분을 만났다. 이 회사는 오랫동안 TV 광고에서 같은 모델과 CM송을 사용해 회사 이름을 전 국민에게 각인시켰다.

   그 비결이 궁금했다. 처음에 어떻게 그런 결정을 내렸고, 왜 오랫동안 같은 방식을 유지할 수 있었는지 물었다. 돌아온 답은 의외였다. “제가 경영을 잘 몰라서요.” 회사가 아주 작을 때부터 TV 광고를 시작했다고 했다. 당시 회사 규모로는 상당히 부담스러운 선택이었지만, TV에 광고하면 회사를 널리 알릴 수 있을 거라는 단순한 생각으로 결정했다. 몇 년이 지나 회사가 어느 정도 알려진 뒤에는 광고회사에서 일했던 임원들이 합류했다. 그들은 광고가 이미 식상해졌다며 모델도 바꾸고 광고 방식도 새롭게 해야 한다고 조언했다. 하지만 창업자는 그동안 쌓아온 것이 있다고 생각했다. 결국 같은 모델과 같은 CM송을 계속 유지했다. 그 선택이 몇 년간 반복되자 놀라운 결과가 만들어졌다. 회사가 제공하는 서비스가 필요한 사람은 일부에 불과했지만, 회사 이름은 전 국민이 알게 됐다. 우리는 새로운 전략을 찾느라 이미 쌓이고 있는 것을 쉽게 중단하곤 한다. 하지만 때로는 탁월한 새 아이디어보다 평범한 선택을 오래 유지하는 일이 더 강력하다. 꾸준함에도 복리가 붙는다.

   Views1,673Forwards16
10. 2026.09.02 12:55

    다이슨이 공개한 CameraJet은 10만 화소 카메라와 머신러닝으로 초당 28장의 이미지를 분석해 치아 사이 틈을 찾고, 0.1초 안에 물이나 구강세정액을 자동 분사한다.

    하드웨어에 AI를 결합하는 방식이 재밌다. $499라서 가격이 있는편이라 얼마나 수요를 만들어낼지 지켜봐야겠지만, 앞으로 하드웨어에 다양한 형식으로 AI들이 결합될 모습들이 상상된다. 예를들어 피부기기에서도 카메라가 상태와 도포 범위를 인식하고 에너지나 성분을 자동 조절하는 것도 조만간 볼 것 같다. https://youtu.be/Acrapsyhvfs

    Views234Forwards4
11. 2026.09.01 12:43

    OpenAI–Hugging Face 사건이 보여준 AI 보안의 미래

    OpenAI는 모델의 사이버 능력을 평가하기 위해 같은 모델을 수백 개의 에이전트로 실행했다. 각 에이전트에는 컴퓨터 명령을 내릴 도구와 긴 작업시간이 주어졌다. 에이전트들은 원래 서로 격리돼야 했지만, 프로그램 설치 파일을 공유하는 내부 서버에 쪽지와 결과를 남기며 정보를 공유하기 시작했다. 이후 그 서버의 결함을 이용해 인터넷에 간접 접속하고, 외부 컴퓨터를 명령 실행 거점으로 사용했다. 그 과정에서 인터넷에 노출된 Hugging Face 접근 키를 발견했고, Hugging Face의 데이터 처리 서버에서 파일을 읽고 명령을 실행했다. 다시 서버 안의 추가 자격증명을 찾아 다른 서버와 비공개 코드 저장소까지 이동했다. 이 사건의 핵심은 AI가 의식을 얻어 탈출했다는 것이 아니다. 모델은 주어진 평가에서 성공하려 했고, 실패했을 때 멈추지 않고 정답·채점 방식·다른 실행의 결과·외부 경로를 계속 탐색했다. 각각의 취약점은 기존 보안에서 알려진 종류였지만, 수백 개의 실행이 며칠 동안 실패를 반복하고 발견을 공유하며 여러 약점을 하나의 침입 경로로 연결했다는 점이 새로웠다. 즉, 사고는 모델 하나가 아니라 다음 조건의 결합으로 발생했다. 어려운 과제 + 긴 실행시간 + 대규모 병렬 실행 + 실행 간 공유 기억 + 간접 인터넷 접속 + 노출된 자격증명 + 과도한 권한 + 느린 탐지와 대응. 에이전트의 실제 영향은 모델의 지능만으로 결정되지 않는다. 모델 능력에 실행시간, 병렬성, 도구의 안정성, 접근 가능한 데이터, 네트워크 범위, 권한, 공유 기억이 곱해지고, 탐지와 권한 회수 속도가 느릴수록 위험은 커진다. 앞으로 모델이 조금만 더 좋아지더라도 추론 비용이 낮아지고, 더 오래 실행되며, 여러 에이전트가 협업하고, 코드 저장소·클라우드·이메일·배포 시스템에 연결되면 영향은 훨씬 빠르게 커질 수 있다. 중요한 질문도 “모델이 얼마나 똑똑한가”에서 “무엇에 접근해 어떤 행동을 얼마나 오래 반복할 수 있는가”로 바뀐다. 공격 측에서는 취약점 탐색과 공격 시도가 폭증할 가능성이 높다. 가까운 미래의 현실적인 형태는 완전히 독립적인 AI 해커보다 인간이 표적과 목적을 정하고, AI가 정찰·취약점 검증·접근 키 탐색·권한 상승·다른 시스템으로의 이동을 수행하는 방식이다. 공격자는 새로운 해킹 기법을 발명하지 않더라도 공개된 키, 오래된 소프트웨어, 설정 오류, 과도한 권한을 빠르게 찾아 연결할 수 있다. 방어도 정기적인 점검에서 지속적인 운영으로 바뀌어야 한다. AI는 코드와 인프라를 계속 검사하고, 경보와 취약점의 실제 위험도를 판단하고, 공격 경로를 찾고, 패치와 회귀 테스트를 만들고, 로그를 분석해 사고의 시간선을 복원할 수 있다. Hugging Face가 GLM을 이용해 침입자가 남긴 백도어를 찾은 것도 이런 방어 활용에 해당한다. 다만 AI가 발견 사항을 수천 개 만들기만 하면 새로운 업무 적체가 생긴다. 따라서 방어는 반드시 다음 과정으로 연결돼야 한다. 발견 → 독립 검증 → 영향 확인 → 담당자와 기한 지정 → 패치 → 테스트 → 단계적 배포 → 재검사. 에이전트 자율성의 핵심 원칙은 모델의 생각이나 “하지 않겠다”는 약속을 믿는 것이 아니라, 모델이 할 수 있는 행동을 외부 시스템이 강제로 제한하는 것이다. 에이전트마다 고유 신원을 부여하고, 영구 API 키 대신 작업별 최소 권한과 단기 자격증명을 사용해야 한다. 인터넷은 기본 차단하고 필요한 목적지만 허용해야 하며, 비밀값은 모델에 직접 보여주지 말고 프록시가 승인된 요청에만 주입해야 한다. 읽기·분석과 병합·배포·권한 상승·데이터 반출 권한을 분리하고, 실행시간·토큰·동시 실행 수에도 상한을 둬야 한다. 감사는 모델의 자체 보고가 아니라 파일 변경, 네트워크 요청, 자격증명 사용과 도구 호출을 기록한 외부 로그를 기준으로 해야 한다. 비상 정지 역시 프로세스 종료만이 아니라 네트워크 차단, 관련 토큰 폐기, 하위 에이전트와 비동기 작업 중단까지 포함해야 한다. 중대한 변경과 되돌리기 어려운 행동은 책임자가 승인해야 한다. 결국 이번 사건이 보여준 것은 AI가 완전히 새로운 공격법을 만들어야 위험해지는 것이 아니라는 점이다. 기존 시스템에 이미 존재하던 평범한 약점을 지치지 않고 탐색하고 연결하는 비용만 낮아져도 실제 침해는 크게 늘어날 수 있다. 앞으로 보안 경쟁력은 취약점을 몇 개 찾았는지가 아니라, 발견부터 차단·수정·배포까지 걸리는 시간을 얼마나 줄였는지에 달려 있다. 모델은 분석하고 제안하되, 외부 정책 시스템이 허용할 행동을 결정하고, 권한 체계와 샌드박스가 이를 강제하며, 독립 로그와 인간 책임자가 전체 과정을 감시해야 한다. https://openai.com/ko-KR/index/hugging-face-incident-and-the-road-ahead/ https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/?incomplete=1&lh=extracting-information-about-the-scorer-from-trip-wires&hn=40&dbs=196608 https://www.dwarkesh.com/p/openai-huggingface

    Views217Forwards6
12. 2026.08.31 14:15

    엑시트하고 가장 고통스러웠던 게 사람들의 축하였어요. 오래가는 브랜드를 목표로 했지, 한 번도 인수합병이라는 선택지를 꿈꾼 적이 없거든요. 그런 기준에서 저는 실패자였어요.

    학습 모드가 꺼지는 게 두려웠어요. 나는 아무 것도 모르는데, 나를 전문가 취급하는 상황들. 엑시트를 꿈꾸는 젊은 창업자들이 많다는 건 알았지만, 제가 뭐라도 아는 사람처럼 비치는 게 무서웠거든요. "초심자의 마음에는 많은 가능성이 있지만, 전문가의 마음에는 거의 없다"는 말이 있어요. — 업의 본질에 관한 질문이에요. 패션 커머스에서 고객이 가장 원하는 게 뭘까요? '커머스'예요. 처음에는 차별점으로 시작해도 궁극적으로 고객이 정말 원하는 건 '좋은 제품, 원하는 제품을 더 싸게' 사는 거죠. 그때부터는 누가 더 잘하냐의 싸움이에요. 정해진 룰 안에서 'better'를 겨루는 거죠. 그런데 저는 새로운 플레이를 하고 싶은 사람이지, 똑같은 경쟁 상황에서 남들보다 더 잘하는 덴 흥미를 느끼지 못하겠더라고요. — 소비자는 정말 많은 걸 원해요.크리에이티브도 훌륭해야 하고요. 기술적으로도 굉장히 진보해야 하고, 언제든지 고객센터 전화도 받아줘야 해요. 당연히 계산에도 일체의 실수가 없어야 합니다. 그만큼 어느 하나의 문제도 용서되지 않는 냉정한 영역이에요. 제가 바로 그런 소비자거든요. 그만큼 빡센 소비자를 만족시키려면 조직이 한쪽만 잘하면 안 돼요. 그러니까 좋은 팀은 균형이 있어야 해. 당시 전화 받는 직원은 두 분이었는데요. 이분들이 회사에 대한 엄청난 애정으로 혼자 밤새우며 전화를 받고 있었어요. 그래서 제가 인수하고 가장 먼저 한 일이, 야근하며 고객센터 전화를 같이 받는 일이거든요. 그런데 그때 그분이 눈물을 또르르 흘리시더라고요. 내가 입사한 이래 이렇게 누가 전화를 같이 받아준 일이 처음이라면서. 제가 생각하는 그 균형이 깨진 현상은 그런 거였어요. 그럼 균형을 어떻게 맞출 거냐. 다른 건 모르겠고 일단 내가 붙어서 전화받는 거다. 다른 방법보다는 사실 대표가 가서 전화받고 있으면 그건 그냥 중요한 일이 되거든요. 팀에서도 '아, 저게 중요한가 보다' 하고 일의 우선순위가 높아지죠. — 정체 구간일 때 가장 어려운 게 팀원 동기부여일 것 같아요. 어떻게 그 시기를 버텼나요? 사실 전체 데이터를 보니까 '우리 회사가 위기다, 걱정된다' 그런 생각을 하지만요. 팀원들 각자의 업무로 내려가면 조금은 다른 국면들이 있거든요. 예를 들어 회사 매출과는 무관하게 콘텐츠 적으로 새로운 시도를 한다든지, 기술적으로 개선하는 부분이 있다든지요. 회사도 회사지만, 개개인에게는 그 업무에서 각자만의 목표와 의미가 있습니다. 결국 리더가 해야 할 일은 '이 일은 도전해볼 만하다, 중요하다'는 느낌을 느낄 수 있도록 일의 맥락을 끊임없이 제공하는 거예요. 어떻게든 팀원들이 몰입감을 잃지 않도록요. 또 회사에는 문제 상황이 발생했을 때 회피하지 않고 그 문제를 어떻게든 풀려고 하는 사람들이 있거든요. 동기부여가 필요한 사람이 아니라, 이미 스스로 동기부여가 되어 있는 분들요. 그런 분들을 모아 대책 회의를 하고, 어떻게 이 상황을 풀어나갈지를 끊임없이 의논했어요. 모든 문제는 결국 사람으로 풀어 나가는 것 같아요. —- Q. 그럼 대표님 스스로는 어떻게 동기 부여하셨나요. 해야 하니까 그냥 하는 거죠(웃음). 기본적으로는 책임감이 컸고요. 사실 창업 초반에는 '일이 재미있다, 없다'를 개인적인 관점으로 생각했던 시기가 분명 있었어요. 그러다 중간에 정신을 차렸죠. 여기서 개인적으로 이 일이 동기부여가 되고 안 되고를 따지면 안 되겠다. 대표는 그런 걸 생각하면 안 되는 것 같다. 그게 대표의 역할이라고 생각했어요. 전체가 잘 되게 하는 게 내 일인데 그걸 두고 내 취향이 어떻게 성향이 어떻고… 이런 걸 생각하는 건 일을 잘 못하는 사람이겠다. 그 생각을 나중에, 뒤늦게 하게 됐던 것 같고요. 특히 회사가 힘들고 매출 안 나고 그런 시기에는, CEO가 다룰 수 있는 상황이 다채로워질수록 CEO의 역량도 큰다고 일종의 정신 승리를 했어요. 마치 RPG 게임에서 여러 스킬을 모으듯요. 상황이 호시절일 때 A, B, C 스킬을 습득했다면 지금은 X, Y, Z 스킬을 모으는 거다. 진짜 내 역량을 보여줄 수 있는 순간은 내부의 갈등을 어떻게 해결했는지, 어렵고 복잡한 상황을 어떻게 재정의하고 있는지, 힘든 뉴스를 어떻게 전달하는지… 그런 잘 조명 받지 못하는 일들이라고 생각하거든요. 그런 경험을 하나씩 '득템'하면서 스킬 셋을 장착하고 있다. 그러니 앞으로 어떤 어려운 상황에 놓이더라도 대표의 일을 더 잘하게 될 것이다. 그렇게 생각한 것 같아요. — "창업자는 마이너리티 중의 마이너리티다. 한 번 창업자로 산 이상 조직에 가서 어울리려 하지 말고, 창업자의 역할로 세상에 기여해라." — '미련해 보일 정도로 한 우물 파는 거 아니야?' 라는 이야기를 들었던 창업자들이 10년 텀이 지나 보면 그 분야에서 넘버원이 되는 경우를 자주 봤어요. 그래서 유혹을 견디고 과한 욕심을 안 부리는 게 중요하구나. 언행일치? 전략이 아니에요. 소비자와의 약속을 지키는 게 회사가 해야 하는 가장 기본이라고 생각해요. 그런데 이걸 긴 시간 동안 해내는 브랜드가 드물다는 걸 플랫폼업을 하는 동안 느꼈죠. 그래서 지난 창업 여정에서도, 개인으로서도 추구하는 건 딱 그거 하나예요. 약속을 지키는 것, 언행을 일치시키는 것. 그게 제가 생각하는 좋은 브랜드를 만드는 유일한 방법이에요. https://www.folin.co/article/14928

    Views305Forwards8