-최근 Ai agent + TEE 에 대한 기대 증폭
-AI-Pool 개발자 @123skely X계정 정지
-TEE 관리에 대한 신뢰성, 사용성 의혹 제기
TEE는 민감한 데이터와 AI 모델 보호의 강력한 도구임에 틀림없습니다. 다만, 최근 AI-Pool의 투자자입장에서는 주요 개발자인 skely의 X 계정 정지에 대한 사태로 많은 고민들이 있었기 때문에 항상 그 이면도 봐야한다는 생각으로 제 걱정들을 정리해봤습니다.
TEE 적용 시 강점들(추후 보완)
•하드웨어 기반으로 격리된 안전 환경 제공
•민감한 데이터와 AI 모델의 무결성 및 기밀성 보장 등
하지만, TEE도 보안적 관점에서 아쉬운 점, 우려 사항이 존재합니다.
하드웨어 기반 취약점들
•사이드 채널 공격
전력 소비, 캐시 타이밍, 전자기 방출 등을 분석해 데이터 추출 가능하고, TEE에서 AI 모델 실행 시 모델 매개변수 및 민감 데이터가 노출될 위험 존재
•백도어 위험
하드웨어 설계 단계에서 의도적 또는 삽입된 백도어 존재 가능
소프트웨어 기반 취약점들
•TEE OS의 취약성
일반 OS보다 검증된 코드베이스가 적어 보안 취약점 존재 가능성
•API 취약점
TEE와 데이터 교환 시 입력 검증 부족 또는 버퍼 오버플로우 발생 가능
하드웨어 종속과 중앙화의 문제
•특정 하드웨어 벤더 의존
특정 플랫폼 의존 시 동일 취약점에 전체 디바이스가 노출될 가능성 있으므로 하드웨어 신뢰도에 따른 보안 리스크
•하드웨어의 물리적 분실 문제
•TEE에 입력된 데이터의 무결성 문제
ex. 공격자가 AI Agent로 전달되는 데이터를 조작하거나 악의적 입력을 통해 TEE연산의 왜곡을 초래할 수 있음
TEE 보안에 대한 추가 고려 사항
👉 분산화 방향성(DAO, DID 등) 추구가 필요. 특정 하드웨어 벤더에 의존한다면 그 벤더의 취약점이 공통적으로 발견되었을 때 동시다발적인 공격에 노출될 수 있습니다. 표준화된 분산 프레임워크(DAO 등)를 통해 TEE에 대한 아쉬운 부분을 보완할 수 있다는 생각이 들었습니다.