MS 리서치가 매우 적은 수의 신경망 가중치만 변경하여 모델에 백도어를 심을 수 있음을 입증함

https://www.microsoft.com/en-us/research/blog/lazare-veni-foras-reprogramming-dormant-neurons-to-backdoor-ai-agents/

1만 2천개 가량의 뉴런으로 이루어진 8B 모델에서 7개의 뉴런만 변경하여 백도어를 심음. 해당 백도어가 심어진 모델은 평상시에는 완벽히 같은 답을 뱉으나, 지정된 조건 하에서만(날짜나 특정 레포지토리 접근임을 표시한다거나) 악의적인 명령을 수행할 수 있음.

허깅페이스에서는 코드뿐만 아니라 가중치도 검증된 사람의 것인지 확인해야 함