📌 LLM 어플리케이션 1편: 세이프티 필터

안녕하세요, BQ개발자입니다.

앞서 말씀드린 LLM 애플리케이션 핵심 개념 시리즈, 오늘부터 시작합니다. 첫 번째는 세이프티 필터입니다.

📱 LLM 애플리케이션이 단순 API 호출로 끝나지 않는 이유
[
](https://t.me/BQTelegram/14308)--

🤔 "API 호출하고 필터 추가하면 끝 아닌가?"

많은 개발자들이 LLM 앱을 이렇게 생각합니다:

사용자 입력 → LLM API 호출 → 나쁜 내용 필터링 → 결과 출력

실제로 데모 만들기는 정말 쉽죠. ChatGPT API 키 받아서 "폭탄", "마약" 같은 키워드만 차단하면 된다고 생각하거든요.

하지만 실제 서비스로 만드는 순간, 이게 첫 번째이자 가장 복잡한 벽이 될 수 있습니다.

⚖️ 제로섬 게임의 잔혹한 현실 (안전 vs 유용성)

세이프티 필터의 진짜 문제는 안전과 유용성이 정반대로 움직인다는 점입니다.

그거에 더해서 더 큰 문제는 "무엇이 나쁜가"를 정의하는 게 기술적 문제가 아니라는 점입니다.

"칼 사용법"을 물어봤다고 가정해보세요. 요리에도 쓰이지만 위험하기도 하죠. 차단해야 할까요, 허용해야 할까요? "약품 정보"는? "정치적 견해"는?

더 복잡한 건, 같은 질문이라도 상황에 따라 달라진다는 점입니다. 의대생이 묻는 "해부학 정보"와 일반인이 묻는 건 다르게 처리해야 할까요? 어떻게 구분할 건가요?

실제로 AI 챗봇 서비스들이 망하는 가장 흔한 패턴이 이겁니다:

너무 엄격하게 → 사용자들이 "대화가 계속 끊어진다"며 떠남
너무 느슨하게 → 몇 시간 만에 혐오 발언 쏟아내며 서비스 중단

⚔️ 공격은 쉽고 방어는 불가능하다

더 근본적인 문제는 구조적 불리함입니다.

악의적 사용자는 "폭탄" 대신 "시끄러운 장치", "요란한 물건" 같은 우회 표현을 씁니다. 아니면 "소설 쓰기"라는 명목으로 위험한 정보를 요청하죠.

문제는 공격자는 하나의 허점만 찾으면 되지만, 개발자는 모든 가능한 우회 방법을 다 막아야 한다는 점입니다. 마치 집에 100개의 문이 있는데, 도둑은 하나만 열면 되지만 집주인은 100개를 다 잠가야 하는 것과 같아요.

💸 비즈니스 리스크의 현실

이게 단순한 기술적 도전이 아닌 이유는 실제 비즈니스 리스크 때문입니다.

최근 몇 년간 AI 관련 벌금만 봐도:
- 개인정보 보호 위반으로 수십억 원 벌금

• 혐오 발언 생성으로 브랜드 이미지 파괴
• 안전장치 부족으로 법적 책임 추궁

반대로 너무 보수적으로 가면 사용자들이 "이게 뭐 하는 거냐"며 경쟁 서비스로 떠나버립니다.

✍️ 첫 번째 벽이지만 가장 어려운 문제

개인적으로 여러 LLM 프로젝트를 보면서 느낀 건, 세이프티 필터가 전체 시스템에서 가장 정답이 없는 영역이라는 점입니다.

다른 기술적 문제들은 "더 좋은 알고리즘"이나 "더 많은 데이터"로 해결되지만, 세이프티는 "어느 정도 위험을 감수할 것인가"의 비즈니스 선택 문제거든요.

모든 AI 회사가 매일 이런 딜레마를 겪을 것 같아요. 완벽한 해답이 없다는 걸 인정하고, 지속적으로 균형점을 찾아가는 거죠.

하지만 안전한 기반이 마련되었다고 가정하면, 이제 다음 문제가 기다립니다. 바로 일관된 품질의 결과를 얻는 방법이죠.

다음 편에서는 "같은 LLM인데 왜 매번 다른 품질의 답변이 나오는가"와 이를 해결하는 프롬프트 템플릿에 대해 다뤄보겠습니다.

----

여러분의 좋아요와 공유는 사랑입니다 🥰