EmbeddingGemma 2란? RAG용 임베딩 모델 고르는 기준

EmbeddingGemma 2는 구글 딥마인드가 2026년 10월 6일 공개한 오픈 임베딩 모델로, 텍스트·코드·이미지·영상·오디오를 하나의 768차원 벡터 공간에 담아요. RAG용 임베딩 모델을 고를 때는 리더보드 순위보다 내 데이터의 언어, 문서 길이, 벡터 저장 비용, 그리고 모델을 어디서 돌릴지(노트북·사내 서버·외부 API)를 먼저 따져야 해요. 이 글은 2026년 10월 기준 공식 모델 카드와 구글 발표 글을 바탕으로 사양을 정리하고, 한국어 RAG에서 임베딩 모델을 고르는 점검 기준과 직접 비교하는 순서를 설명해요.

임베딩 모델은 RAG에서 어떤 일을 하나요

임베딩 모델은 문장이나 이미지 같은 입력을 숫자 배열(벡터)로 바꿔 줘요. 의미가 비슷한 입력은 벡터 공간에서 가까운 위치에 놓이도록 학습돼 있어서, 질문 벡터와 가장 가까운 문서 벡터를 찾으면 키워드가 정확히 겹치지 않아도 관련 문서를 꺼낼 수 있어요. RAG(검색 증강 생성)는 이렇게 찾은 문서 조각을 생성형 모델에 함께 넘겨 답변을 만들게 하는 구조예요.

여기서 중요한 점은 생성 모델이 검색 단계가 찾아 준 자료만 볼 수 있다는 거예요. 임베딩이 엉뚱한 문서를 상위에 올리면 아무리 큰 생성 모델을 써도 답변 근거가 틀어져요. 그래서 RAG 품질 문제를 진단할 때는 생성 모델보다 먼저 검색 결과 상위 몇 개에 정답 문서가 들어 있는지를 확인하는 경우가 많아요. 또 질의와 문서는 반드시 같은 모델, 같은 차원, 같은 전처리 규칙으로 임베딩해야 하고, 모델을 바꾸면 문서 전체를 다시 임베딩해야 해요. 모델 선택이 한 번 정하면 바꾸기 번거로운 결정인 이유예요.

EmbeddingGemma 2 핵심 사양 한눈에 보기

아래 표는 Hugging Face 모델 카드와 구글 발표 글에서 확인한 내용이에요. 숫자는 2026년 10월 기준이며, 이후 모델 카드가 갱신되면 달라질 수 있어요.

성능 면에서 모델 카드는 다국어 MTEB(v2) 평균을 61.36으로, 1세대의 61.15와 비교해 제시해요. 텍스트 다국어 성능은 사실상 비슷하게 유지됐고, 눈에 띄게 오른 것은 코드 검색이에요. MTEB 코드 점수가 68.76에서 78.68로 올라 구글은 로컬 코드베이스 색인이나 코딩 에이전트의 검색 용도에 적합하다고 소개해요. 이미지·영상·오디오 벤치마크 점수도 함께 공개됐지만, 이는 1세대에 없던 기능이라 비교 대상이 없어요.

텍스트만 쓰면 270M 규모로 올릴 수 있어요

비전·오디오 인코더는 독립된 부품이라 쓰지 않는 쪽을 빼고 불러올 수 있어요. 모델 카드 기준으로 텍스트 전용은 270M, 텍스트와 이미지는 440M, 텍스트와 오디오는 570M 규모예요. 구글은 양자화했을 때 Pixel 11 Pro에서 텍스트 전용 약 191MB, 전체 멀티모달 약 567MB의 활성 메모리로 동작한다고 밝혔어요. 커뮤니티 변환본인 unsloth GGUF 페이지에는 4비트 176MB, 8비트 310MB, BF16 558MB 파일이 올라와 있어 llama.cpp나 Ollama로 로컬 실행을 시험해 보기 쉬워요.

태스크 접두어와 정밀도 설정을 지켜야 해요

EmbeddingGemma 2는 짧은 작업 지시 접두어를 붙인 텍스트로 학습됐어요. 검색용이라면 질의에는 task: search result | query: 질문, 문서에는 title: 제목 | text: 본문 형식을 쓰고, 제목이 없으면 title: none을 넣어요. 접두어를 빼도 동작은 하지만 정밀도가 떨어진다고 모델 카드가 설명해요. 또 추론은 bfloat16이나 float32로 해야 하고 float16은 쓰지 말라고 적혀 있어요. float16에서는 오류 없이 NaN이나 품질이 떨어진 벡터가 나올 수 있어서 문제를 놓치기 쉬워요.

RAG 임베딩 모델 고르는 기준 6가지

EmbeddingGemma 2를 포함해 어떤 후보든 아래 여섯 가지를 같은 기준으로 비교하면 판단이 쉬워져요. 특정 모델이 모든 상황에서 가장 좋다고 단정할 수는 없어요.

1. 언어: 한국어 문서와 질문이 중심인가요

다국어 모델이라는 표시는 한국어를 지원한다는 뜻이지, 한국어에서 가장 잘한다는 뜻은 아니에요. EmbeddingGemma 2 모델 카드도 100개 이상의 언어를 지원하지만 언어별 성능은 같지 않을 수 있다고 밝히고, 한국어만 따로 뗀 점수는 싣지 않았어요. 한국어 질문으로 영어 문서를 찾는 교차 언어 검색이 필요한지, 전문 용어·약어·띄어쓰기 변형이 많은지도 함께 적어 두세요. 이런 조건은 평균 점수로 드러나지 않아요.

2. 차원과 저장 비용

벡터 차원이 클수록 정보를 더 담을 수 있지만 저장 공간과 검색 계산량이 늘어요. float32 기준으로 768차원 벡터 하나는 3,072바이트이므로, 문서 조각 100만 개면 색인 구조를 빼고도 약 3GB가 필요하다는 단순 계산이 나와요. EmbeddingGemma 2는 Matryoshka 표현 학습(MRL)을 써서 벡터 앞부분만 잘라 써도 의미가 유지되도록 학습됐어요. 아래는 모델 카드의 절단 결과예요.

텍스트 검색이라면 256차원까지는 하락 폭이 작고, 128차원은 멀티모달 품질이 크게 떨어져요. 절단한 벡터는 길이가 1이 아니게 되므로 다시 L2 정규화해야 하고, 이 단계를 빼면 오류 없이 순위만 조용히 나빠진다고 모델 카드가 경고해요.

3. 문서 길이와 청크 전략

EmbeddingGemma 2의 컨텍스트는 8,192 토큰이라 긴 문단도 한 번에 넣을 수 있어요. 다만 입력이 길수록 한 벡터에 여러 주제가 섞여 특정 질문과의 거리가 흐려질 수 있어요. 컨텍스트 한도는 넣을 수 있는 최대치일 뿐이라, 청크 크기는 문서 구조(조항, 단락, 표)와 질문 유형에 맞춰 따로 실험하는 편이 좋아요.

4. 실행 위치와 개인정보

외부 임베딩 API는 운영이 간편하지만 문서 내용을 외부로 보내야 하고 호출량에 따라 비용이 늘어요. 로컬 임베딩 모델은 데이터를 밖으로 보내지 않고 오프라인으로 돌릴 수 있지만, 하드웨어와 배치 처리 속도, 모델 업데이트를 직접 관리해야 해요. EmbeddingGemma 2는 구글이 처음부터 기기 내 실행을 목표로 소개한 모델이라, 사내 문서나 개인 기록처럼 외부 전송이 부담스러운 RAG에서 후보가 될 수 있어요.

5. 모달리티와 도메인

검색 대상이 텍스트뿐인지, 스캔 문서·이미지·회의 녹음까지 포함하는지에 따라 후보가 달라져요. 멀티모달 모델은 텍스트 질문으로 이미지나 영상 장면을 찾는 기능이 장점이지만, 텍스트만 다룬다면 그 기능에 쓰이는 메모리가 필요 없을 수 있어요. 코드 저장소 검색처럼 도메인이 분명하면 해당 도메인 벤치마크(예: MTEB 코드)를 따로 확인하세요.

6. 라이선스와 운영 부담

EmbeddingGemma 2는 상업적 이용이 가능한 Apache 2.0으로 배포되지만, 모델 카드는 배포 시 Gemma 금지 사용 정책을 지켜야 한다고 함께 밝혀요. 운영 측면에서는 모델 버전 고정, 재색인 일정, 접두어 규칙과 차원 설정을 문서로 남겨 두어야 나중에 모델을 교체할 때 비교가 가능해요.

벤치마크 점수를 읽을 때 주의할 점

MTEB는 임베딩 모델 비교에 가장 많이 쓰이는 벤치마크예요. MTEB 논문은 처음 발표될 때 8개 과제, 58개 데이터셋, 112개 언어로 구성됐고, 모든 과제에서 앞서는 단일 임베딩 방법은 없었다고 결론 내렸어요. 즉 평균 점수가 높은 모델도 내 과제에서는 다른 모델보다 낮을 수 있어요.

• 같은 벤치마크 버전끼리만 비교해요. MTEB v1과 v2, 영어판과 다국어판은 숫자를 직접 비교할 수 없어요.
• 지표가 무엇인지 확인해요. NDCG@10, Hit@1, MRR@10은 서로 다른 것을 재요.
• 검색(Retrieval) 과제 점수를 따로 봐요. RAG에서는 분류·군집 점수보다 검색 점수가 직접 관련돼요.
• 모델 제공사가 직접 낸 점수인지, 제3자가 재현한 점수인지 구분해요.
• 양자화한 변환본의 점수는 원본 체크포인트 점수와 다를 수 있어요.

내 데이터로 임베딩 모델을 비교하는 순서

1. 1

   평가 질문 세트를 만들어요

   실제 사용자가 할 법한 질문을 모으고, 각 질문에 정답이 들어 있는 문서 조각을 표시해요. 수십 개만 있어도 후보 간 차이를 보는 데 도움이 되고, 한국어 질문·영어 문서처럼 섞인 경우도 포함해요.

2. 2

   조건을 고정해요

   청크 크기, 정규화, 접두어 규칙, 차원, 상위 k개 값을 모든 후보에 똑같이 적용해요. EmbeddingGemma 2는 검색용 질의·문서 접두어를 넣은 상태로 시험해요.

3. 3

   검색 단계를 먼저 측정해요

   상위 5개·10개 안에 정답 조각이 들어오는 비율(recall@k)이나 NDCG를 기록해요. 생성 답변의 품질은 검색 결과가 정해진 뒤에 따로 평가해요.

4. 4

   차원과 정밀도를 바꿔 봐요

   768·512·256차원을 같은 세트로 비교하고, 로컬 배포라면 양자화 파일도 함께 시험해요. 품질 차이와 저장·지연 시간 절감을 표로 남겨요.

5. 5

   결정과 재평가 시점을 기록해요

   선택한 모델 버전, 설정, 평가 결과와 날짜를 남기고, 새 모델이 나오면 같은 세트로 다시 비교해요.

도입 전 확인할 위험과 한계

• 언어별 성능 차이: 한국어 성능은 공식 표에서 따로 확인되지 않아 직접 검증이 필요해요.
• 안전 조정 없음: 모델 카드는 생성 모델과 달리 사후 정렬이나 출력 검열을 거치지 않았다고 밝혀요. 검색 필터링과 공정성 점검은 서비스 운영자 책임이에요.
• 학습 시점: 학습 데이터 기준이 2025년 1월이라 이후 등장한 용어나 제품명은 약할 수 있어요.
• float16 사용 금지: 오류 없이 품질이 나빠지는 방식이라 설정을 꼭 확인해요.
• 차원 불일치: 질의와 문서의 차원이 다르면 비교할 수 없고, 절단 후 정규화를 빠뜨리면 순위가 조용히 나빠져요.
• 제3자 변환본: GGUF 등 커뮤니티 파일은 배포 주체와 양자화 방식이 달라 품질과 라이선스 표기를 따로 확인해요.

새 임베딩 모델은 공개 직후 커뮤니티 반응과 변환본이 빠르게 늘어나요. 더따리 AI 텔레그램 트렌드와 블로그 트렌드에서 개발자들이 어떤 모델과 도구를 이야기하는지 훑어보면 비교할 후보를 넓히는 데 참고가 돼요. 다만 화제성은 내 데이터에서의 성능을 대신하지 않으므로 최종 판단은 위의 평가 순서로 하세요.

페이지 참고

트렌드theddari.com›트렌드텔레그램 · AIAI 채널 실시간 포스팅 피드

페이지 참고

트렌드theddari.com›트렌드블로그 포스팅요약된 네이버 블로그 글 피드