📌 LLM 애플리케이션이 단순 API 호출로 끝나지 않는 이유

안녕하세요, BQ개발자입니다.

ChatGPT가 나온 지 2년. 이제 누구나 API 키 하나로 AI 서비스를 만들 수 있는 시대가 됐습니다.
실제로 제 주변에서 개발자가 아닌데도 커서랑 뚝딱 앱 만드시는 분들도 계시구요.
그런데 왜 대부분의 LLM 프로젝트는 PoC에서 프로덕션으로 넘어가지 못할까요?

당분간 LLM 어플리케이션 만들때 고려해야 할 요소들에 대한 컨텐츠를 작성하려고 합니다!
이제 진짜 LLM 활용에 대해 본격적으로 대비해야하는 시대니까, 같이 공부하면서 알아보시죠
오늘은 서론 느낌으로 한번 톺아보겠습니다.

🤔 "그냥 API 호출하면 되는 거 아니야?"

처음 LLM을 접한 개발자들이 가장 많이 하는 착각입니다.
실제로 데모 만들기는 정말 쉽죠. API 키 받아서 프롬프트 넣고 응답 받으면 끝.
하지만 실제 서비스로 만들려는 순간, 예상치 못한 복잡성의 늪에 빠지게 됩니다.

1️⃣ 같은 질문, 다른 대답의 함정
가장 먼저 맞닥뜨리는 문제는 일관성입니다.
"우리 회사 휴가 정책 알려줘"라는 같은 질문에 LLM이 매번 다른 답변을 합니다.
어떤 날은 친절하게, 어떤 날은 간단하게, 심지어 어떤 날은 틀린 정보를 섞어서 답하기도 합니다.
이게 창의적 글쓰기라면 장점이겠지만, 기업 서비스에서는 치명적입니다.
고객이 같은 질문을 했는데 매번 다른 답변을 받는다면? 신뢰도는 바닥을 치게 됩니다.

2️⃣ 비용 폭탄과 속도 지옥
개발 환경에서는 문제없던 서비스가 실제 사용자 100명만 들어와도 무너지기 시작합니다.
GPT-4 한 번 호출에 수백 원, 복잡한 대화가 오가면 사용자당 수천 원의 비용이 발생합니다.
속도는 또 어떤가요? 사용자가 질문하고 10초를 기다려야 답변이 온다면?
아무리 정확한 답변이라도 사용자는 떠나갑니다. 하지만 빠른 모델을 쓰면 품질이 떨어지는 딜레마에 빠집니다.

3️⃣ "어제 우리가 얘기한 거 기억 안 나?"
LLM은 본질적으로 건망증 환자입니다. 매 대화마다 백지 상태에서 시작합니다.
사용자가 "아까 말한 그 제품 가격이 얼마였지?"라고 물으면 뭐라고 답해야 할까요?
대화 히스토리를 매번 전부 보내면? 토큰 비용이 기하급수적으로 증가합니다.
중요한 것만 요약해서 보내면? 맥락을 놓쳐 엉뚱한 대답을 합니다.

4️⃣ 회사 문서는 어떻게 가르치지?
LLM이 아무리 똑똑해도 우리 회사의 내부 규정이나 제품 정보는 모릅니다.
학습 데이터에 없었으니까요. 그래서 RAG를 쓴다고 하죠
문서 100개를 벡터 DB에 넣었는데, "연차 사용 규정"을 물으면 "병가 규정"을 참조해서 답변합니다.
벡터 유사도만 믿었다가는 저는 분명 큰코 다칠거라고 생각해요. 게다가 PDF 표나 이미지 안의 정보는 제대로 추출조차 안 되는...

5️⃣ 위험한 답변의 법적 책임
"이 약 먹어도 되나요?"라는 질문에 LLM이 잘못된 의료 조언을 했다면?
"투자하기 좋은 주식 추천해줘"에 구체적인 종목을 추천했다면?
필터링 없는 LLM은 시한폭탄입니다.
하지만 너무 보수적으로 필터링하면 "죄송합니다, 답변할 수 없습니다"만 반복하는 쓸모없는 봇이 되버리죠

✍️ 단순함 뒤에 숨은 12개의 층
제가 경험한 바로는, 프로덕션 레벨 LLM 애플리케이션은 최소 12개 이상의 복잡한 레이어로 구성됩니다.
각 레이어는 서로 맞물려 있고, 하나를 최적화하면 다른 하나가 망가지는 트레이드오프의 연속입니다.

Safety → Consistency → Performance → Cost → Memory → Knowledge
이 모든 것이 조화롭게 작동해야 비로소 "그냥 작동하는" 서비스가 됩니다.

앞으로 연재할 시리즈에서는 이 각각의 레이어가 왜 필요한지, 어떻게 구현하는지,
무엇을 조심해야 하는지 하나씩 파헤쳐볼 예정입니다.
LLM API 호출은 시작일 뿐이라는거!!!

---

여러분의 좋아요와 공유는 사랑입니다 🥰