트럼프 행정부가 AI 안전을 담보하는 수단으로 새로운 규제 대신 기존 법률상의 법적 책임을 내세우고 있습니다. 스콧 베센트 재무장관과 데이비드 색스 전 백악관 AI 차르는 AI 개발사가 자사 제품의 안전에 재정적 책임을 지도록 하는 것이 새 규칙보다 효과적이라고 주장해 왔고, 트럼프 대통령은 모델이 통제를 벗어날 경우 법무부가 개입해야 한다고까지 언급했습니다. 제이 클레이튼 국가정보장, 앤드루 퍼거슨 FTC 위원장, 스콧 쿠포 인사관리처장, 에밀 마이클 국방부 CTO가 이끄는 신설 AI 태스크포스 '슈퍼 인텔리전스 포스'는 앤트로픽의 침해 사고 공개 이후 성명을 내고, 기업들이 모델 관련 사고를 즉시 공개하고 신속히 시정 조치를 취해야 하며 지연 통보나 미흡한 대응은 용납하지 않겠다고 경고했습니다. 이는 업계 자율 규제를 강조하며 지난주 구속력 없는 협약을 발표한 트럼프의 불개입 기조와 맞닿아 있는 한편, FTC는 OpenAI 에이전트 무리의 허깅페이스 침해 등 잇단 사이버 보안 사고 이후 OpenAI와 앤트로픽 등을 대상으로 제품 안전 조사를 진행하고 있습니다.
그러나 법적 책임을 AI 안전의 핵심으로 삼는 접근에는 불확실성이 큽니다. 법률 전문가들은 기존 사이버 보안법과 제조물 책임법만으로는 AI 에이전트가 초래한 피해에 책임을 묻기 어렵다고 지적하며, 모델의 행동이 개발사와 이를 배포하는 최종 사용자 양측에 의해 형성되는 데다 에이전트가 사용자가 검토하지 않은 선택을 할 수 있어 책임 소재를 가리기 힘들다고 설명합니다. 법무부가 기소에 나설 경우 근거가 될 컴퓨터사기남용법(CFAA)은 해킹 의도를 입증해야 하므로 의도치 않은 AI 행동에 적용하기 어렵고, 가브리엘 와일 휴스턴대 교수는 인간이라면 불법행위나 범죄가 될 행위를 AI가 해도 현행법상 아무도 책임지지 않을 수 있으며, 불법행위 소송 역시 합리적 주의 의무 입증의 어려움과 기업 파산 시 한계가 있다고 지적했습니다. 이에 조시 홀리 상원의원과 크리스 머피 상원의원은 AI의 해킹 능력에 합리적 안전장치를 두지 않은 개발사에 민형사상 책임을 지우는 CFAA 개정안을 발의할 계획이며, 로리 트라한 하원의원은 합리적 주의를 기울였더라도 개발사에 책임을 묻고 AI에 인간적 의도가 없다는 항변을 금지하는 법안 초안을 공개했습니다. 캘리포니아의 한 비영리단체는 허깅페이스 침해와 관련해 OpenAI를 상대로 소송을 제기했으며, 이 논쟁의 결과는 AI 도입 속도는 물론 OpenAI와 앤트로픽의 상장에도 영향을 미칠 수 있습니다.
입법이 없다면 법원이 기존 판례를 새로운 AI 사례에 적용하기까지 수년이 걸릴 것이라는 전망 속에, 개발사와 최종 사용자 간 책임 공방 구도는 이미 형성되기 시작했습니다. AI를 활용하는 스타트업에 투자한 색스와, AI 개발사 간 경쟁이 치열할수록 칩 가격 결정력이 커지는 젠슨 황 엔비디아 CEO는 개발사가 최대한의 책임을 져야 한다는 입장인 반면, 샘 올트먼 OpenAI CEO와 다리오 아모데이 앤트로픽 CEO는 배포 전 의무 테스트를 주장하고 있어 책임의 일부를 정부 테스트 체계로 분산시키려는 것으로 해석됩니다. 줄리아 폴스 UCLA 로스쿨 교수는 테크 업계의 지속적인 로비로 소프트웨어가 불법행위법이나 소비자 보호법이 아닌 이용약관 등 계약에 의해 규율되어 왔다고 지적하며, 디지털 인프라에 깊은 의존성을 만든 업계가 이제 그 인프라에 대한 위협을 무모하게 키우면서 책임은 회피하고 있고, 판 자체가 업계에 의해 짜여 있어 대중이 끼어들 여지가 거의 없다고 비판했습니다.