1. Shieldstral의 주요 기능
Mistral이 3B 오픈 웨이트 멀티모달 안전 분류기 Shieldstral을 Apache 2.0 라이선스로 공개했다. Shieldstral은 텍스트 및 이미지 안전 평가를 통합 수행하며, 추론 시점에 자연어 정책을 입력받아 재학습 없이 정책 적응형 질문-응답 태스크를 처리한다. 콘텐츠 Moderation을 이진 질문-응답 태스크로 구성해, 단일 forward pass에서 교정된 안전 점수(yes/no 확률)를 제공한다.
2. 성능 및 실행 환경
Shieldstral은 최대 7배 큰 오픈 가드 모델과 비교해 텍스트 안전, 거부 탐지, 정책 적응성, 멀티모달 벤치마크에서 동등하거나 우수한 성능을 발휘한다. 단일 16GB NVIDIA GPU에서 효율적으로 실행 가능하다. Mistral은 개발에 자체 플랫폼 Forge를 사용했으며, Open Secure AI Alliance의 창립 멤버로 NVIDIA 및 기타 조직과 함께 참여 중이다.
결론
Shieldstral은 3B 규모로 멀티모달 안전 분류기의 접근성을 제공하며, 자연어 정책 기반의 유연한 안전 평가 기능을 지원한다. 성능 검증은 벤치마크 기준이며, 실제 적용 환경에서의 결과는 별도 확인 필요.
이 포스팅은 AI의 도움을 받았습니다. 오역/오류가 있을 수 있으니 중요한 내용은 한 번 더 확인해 주세요.
Photo: Pixabay / yeiferr