Haru-4B란? 허깅페이스 트렌딩 1위 음성 대화 모델과 로컬 실행 전 확인할 점
Haru-4B는 듣고 말하기를 동시에 하는 4B 풀듀플렉스 음성 대화 모델이에요. 텍스트 챗봇과의 차이, 12GB GPU 등 로컬 실행 조건, 라이선스와 목소리 사용 주의점을 정리했어요.

목차8개 섹션
핵심 요약
- Haru-4B는 일본 higurashi가 2026년 11월 13일 공개한 풀듀플렉스 음성 대화 기반 모델로, 텍스트를 입력받아 답하는 챗봇형 LLM이 아니에요.
- 133ms마다 사용자 음성 한 프레임을 받고 자기 음성·텍스트 한 프레임을 동시에 만들어, 상대 말을 들으면서 맞장구치거나 끼어들 수 있어요.
- 공식 안내 기준 NVIDIA GPU는 약 12GB 메모리가 필요하고, 애플 실리콘 Mac은 MLX 구현과 약 10GB 체크포인트로 돌릴 수 있어요.
- 가중치와 코드는 Apache 2.0이지만 사전학습 기반 모델이라 사실 정확도와 지시 수행을 보장하지 않으며, 표준 벤치마크 표도 아직 없어요.
- 참조 음성으로 목소리를 흉내 낼 수 있어 권리가 있는 목소리만 써야 하고, 외부 공유 링크 기능은 트래픽이 제3자 서버를 거쳐요.
Haru-4B는 일본 스타트업 higurashi가 공개한 풀듀플렉스(full-duplex) 음성 대화 기반 모델이에요. 이름만 보면 4B 규모의 텍스트 소형 LLM 같지만, 실제로는 전화 통화처럼 상대 말을 들으면서 동시에 말하도록 학습된 음성-음성 모델이에요. 2026년 11월 19일 기준 허깅페이스 트렌딩 목록 1위에 올라 있고, 모델 페이지에는 좋아요 약 1.74k, 지난달 다운로드 5,314회가 표시돼요.
그래서 로컬에서 돌려 보기 전에 가장 먼저 확인할 점은 내가 원하는 것이 텍스트 챗봇인지, 실시간 음성 대화 실험인지예요. 이 글은 공식 모델 카드·GitHub README·기술 블로그를 바탕으로 구조, 필요한 사양, 양자화 버전, 라이선스와 목소리 사용 위험을 2026년 11월 기준으로 정리했어요.
Haru-4B란? 듣고 말하기를 동시에 하는 음성 모델
higurashi 기술 블로그는 2026년 11월 13일 Haru-4B를 사전학습 기반 모델(pretrained base model)로 공개했다고 밝혔어요. 목표는 에이전트형 비서와 대화하는 느낌이 아니라 사람끼리 이야기하는 것처럼 자연스러운 상호작용이에요. 그래서 맞장구, 말 끊기, 순서 주고받기 같은 대화 습관을 실제 녹음에서 배우게 했다고 설명해요.
- 풀듀플렉스 7.5Hz: 133ms마다 사용자 음성 한 프레임을 받고, 모델 자신의 음성 한 프레임과 텍스트를 함께 만들어요. 듣기와 말하기가 서로를 기다리지 않아요.
- 연속 오디오 1단계 생성: 프레임마다 64차원 연속 잠재 벡터를 쓰고, 작은 MLP 헤드가 MeanFlow 방식으로 한 번에 음성을 만들어요. 별도 오디오 트랜스포머나 이산 오디오 토큰이 없어요.
- 캐릭터·목소리 제어: 텍스트 캐릭터 카드로 성격과 상황을, 짧은 참조 음성으로 목소리를 정해요.
- 다국어: 영어·스페인어·포르투갈어·독일어·프랑스어·중국어·일본어·러시아어·한국어 9개 언어가 주요 대상이에요.
학습 데이터 규모
블로그에 따르면 160개 이상 언어, 4,000만 시간 이상의 실제 음성으로 사전학습했고, LLM이 만든 대화나 TTS 합성 음성은 일부러 뺐어요. 이후 단일 채널 녹음을 화자별로 분리·복원하는 자체 모델(FastDialogueSidon)로 1,300만 시간 이상의 풀듀플렉스 대화 데이터를 만들어 최대 60분 길이 대화로 학습했다고 해요. 학습에는 NVIDIA B200 GPU 256개로 약 8일이 걸렸다고 밝혔어요. 다만 학습 데이터셋 목록이나 출처별 구성은 공개되지 않았어요.
텍스트 소형 LLM과 무엇이 다를까
Haru-4B의 언어 모델 부분은 Qwen3.5-4B 텍스트 백본(32층, 은닉 차원 2560)이에요. 하지만 여기에 오디오 입력 투영, MeanFlow 오디오 헤드, VibeVoice 음향 코덱이 붙어 있어 모델 카드에는 전체 크기가 약 5B 파라미터, BF16 텐서로 표시돼요. 이름의 4B는 백본 크기에 가깝다고 이해하면 돼요.
입력·출력
- 일반 텍스트 소형 LLM(4B급)
- 텍스트 → 텍스트
- Haru-4B
- 음성 프레임 → 음성 + 텍스트 프레임
대화 방식
- 일반 텍스트 소형 LLM(4B급)
- 질문이 끝나면 답변(턴 기반)
- Haru-4B
- 듣는 중에도 말함(풀듀플렉스)
지시 수행
- 일반 텍스트 소형 LLM(4B급)
- 지시 학습 버전이 흔함
- Haru-4B
- 사전학습 기반 모델, 지시 수행을 보장하지 않음
사실 정확도
- 일반 텍스트 소형 LLM(4B급)
- 모델별로 다름
- Haru-4B
- 개발사가 신뢰할 만한 사실 출처가 아니라고 명시
대표 실행 도구
- 일반 텍스트 소형 LLM(4B급)
- llama.cpp·Ollama·LM Studio 등
- Haru-4B
- 공식 PyTorch·MLX·vLLM-Omni 플러그인
벤치마크
- 일반 텍스트 소형 LLM(4B급)
- MMLU 등 표준 점수 공개가 흔함
- Haru-4B
- 공식 표준 벤치마크 표 없음(2026년 11월 기준)
정리하면 소형 LLM 로컬 실행을 찾던 사람이 요약·번역·코딩 보조를 기대하고 받으면 실망하기 쉬워요. 반대로 음성 비서의 반응 속도, 자연스러운 맞장구, 캐릭터 음성 대화를 연구하거나 시연하려는 사람에게는 공개 가중치로 직접 실험할 수 있는 드문 선택지예요.
개발사 블로그는 상대적으로 작은 언어 모델 백본이 응답 품질을 제한한다고 스스로 밝히고, 1,000억(100B) 파라미터 이상의 더 큰 풀듀플렉스 모델을 사전학습 중이라고 적었어요. Haru-4B는 완성형 비서보다 연구 출발점에 가깝다는 뜻이에요.
Haru-4B 로컬 실행에 필요한 사양과 방법

GitHub 저장소에는 같은 체크포인트를 읽는 세 가지 구현이 있어요. 어느 경로든 처음 실행할 때 허깅페이스에서 가중치를 내려받는데, MLX README는 체크포인트가 약 10GB라고 안내해요.
haru (PyTorch)
- 대상 하드웨어
- NVIDIA GPU
- 공식 안내 요점
- 약 12GB GPU 메모리, 웹 데모 localhost:8998
haru_mlx
- 대상 하드웨어
- 애플 실리콘 Mac, Python 3.10 이상
- 공식 안내 요점
- bfloat16 기본, 8비트 백본 옵션, 네이티브 macOS 앱
haru_vllm
- 대상 하드웨어
- GPU 서버
- 공식 안내 요점
- vLLM-Omni로 다중 동시 대화·저지연 서빙
- 1
용도부터 정하기
실시간 음성 대화 데모가 목적인지 확인해요. 텍스트 생성이 목적이면 다른 모델을 고르는 편이 빨라요.
- 2
하드웨어 확인
NVIDIA GPU는 메모리 약 12GB 이상인지, Mac은 애플 실리콘인지 확인하고 디스크에 10GB 이상 여유를 둬요.
- 3
설치와 실행
저장소를 복제한 뒤 pip install -e ./haru로 설치하고 python -m haru.server --hf-repo higurashi-ai/Haru-4B로 서버를 띄워요. Mac은 haru_mlx에서 swift/build_app.sh로 앱을 빌드해요.
- 4
목소리와 캐릭터 준비
기본 목소리가 없어서 한 사람이 말하는 깨끗한 음성 3초~3분을 올리거나 녹음해요. 캐릭터 카드는 render_card로 이름·성격·관계·상황을 채워 만들어요.
- 5
오디오 장비 점검
유선 헤드폰과 유선 마이크를 권장해요. 블루투스 장비는 100ms 이상 지연을 더한다고 안내돼 있어요.
지연 시간 수치 읽는 법
블로그는 Apple M1 Max MacBook에서 int8 가중치·네이티브 앱으로 종단 간 지연이 중앙값 약 65ms라고 밝혔어요. 이 값은 마이크 입력, 모델 한 스텝(약 34ms), 출력까지 포함하지만 오디오 프레이밍 지연은 빠져 있고, 7.5Hz 구조상 최대 133ms가 더해질 수 있다고 직접 적었어요. NVIDIA B300 GPU에서는 인코딩·디코딩과 한 스텝이 약 15ms라고 했어요. 소비자 GPU나 다른 Mac에서의 수치는 공개되지 않았으니 내 장비에서 직접 재야 해요.
양자화 버전 고르기 전 확인할 점
2026년 11월 19일 기준 허깅페이스 모델 트리에는 양자화 파생 모델 6개가 연결돼 있어요. GGUF, MLX 8bit, ROCm용 변환본 등이 있지만 모두 제3자가 올린 파일이에요. 텍스트 LLM이라면 GGUF 하나로 llama.cpp에서 바로 쓰는 경우가 많지만, Haru-4B는 음성 코덱과 오디오 헤드가 함께 동작해야 해서 사정이 달라요.
- 공식 양자화 경로: MLX 구현의 --quantize 8 옵션이 언어 모델 가중치와 임베딩만 8비트로 줄이고, 코덱·오디오 헤드·정규화 값은 원래 정밀도를 유지해요. 블로그의 65ms 측정도 int8 기준이에요.
- 커뮤니티 GGUF: 어떤 실행기로 음성까지 재생되는지, 코덱 가중치가 포함됐는지 모델 카드에서 확인해요. 일부 파생 모델은 태그가 텍스트 생성으로 붙어 있어 원본과 다른 용도일 수 있어요.
- 작성자와 갱신일: 원본 가중치 해시나 변환 방법을 밝혔는지, 공개 며칠 만에 올라온 파일인지 보고 신뢰도를 판단해요.
- 라이선스 승계: 원본은 Apache 2.0이지만 파생 저장소가 다른 조건을 붙였는지 각각 확인해요.
새 모델이 나올 때마다 트렌딩 순위와 커뮤니티 반응을 함께 보고 싶다면 더따리 AI 텔레그램 트렌드에서 채널별 언급 흐름을 확인할 수 있어요.
쓰기 전 확인할 한계와 위험
사실 정확도와 지시 수행
모델 카드의 한계 항목은 Haru-4B가 자연스러운 대화는 유지하지만 신뢰할 만한 사실 출처가 아니며 어시스턴트처럼 지시를 따르지 않는다고 적고 있어요. 블로그 데모에 투자 상담 대화가 나오지만, 이는 대화 흐름 시연이지 금융 정보의 정확성을 검증한 것이 아니에요. 건강·금융·법률처럼 결과가 중요한 주제에 그대로 쓰면 안 돼요.
목소리 복제와 권리
참조 음성으로 목소리를 흉내 낼 수 있어서 개발사는 사용할 권리가 있는 목소리만 쓰라고 반복해 안내해요. 가중치 라이선스가 Apache 2.0이라도 타인의 목소리를 동의 없이 쓰는 문제는 라이선스와 별개로 남아요. 본인 목소리나 명시적 동의를 받은 녹음만 쓰는 것이 기본 원칙이에요.
공유 링크와 네트워크
웹 데모에 --share 옵션을 붙이면 공개 HTTPS 링크가 생기고, 링크를 가진 누구나 데모를 쓸 수 있으며 트래픽은 Gradio 공유 서버를 거쳐요. 마이크 음성이 외부를 지나간다는 뜻이라 사내 회의 음성이나 개인 정보를 다룰 때는 쓰지 않는 편이 안전해요. 또한 브라우저는 localhost나 HTTPS에서만 마이크 권한을 주기 때문에 원격 서버에 올릴 때는 HTTPS 구성이 필요해요.
평가 정보 부족
2026년 11월 기준 공식 자료에는 지연 시간 표는 있지만 대화 품질·언어별 성능을 비교한 표준 벤치마크 표가 없어요. 개발사는 더 자세한 기술 보고서와 학습 코드를 공개할 계획이라고만 밝혔어요. 트렌딩 순위와 좋아요 수는 관심도를 보여 줄 뿐 품질 평가가 아니니, 다른 음성 모델과 비교하려면 같은 문장·같은 장비로 직접 녹음해 들어 보는 것이 가장 확실해요. 이런 모델 소식을 블로그 반응까지 묶어 보려면 블로그 트렌드도 참고할 수 있어요.
정리: Haru-4B가 맞는 사람과 아닌 사람
- 맞는 경우: 실시간 음성 비서·캐릭터 통화 데모를 만들거나, 풀듀플렉스 구조를 연구하고 파인튜닝할 출발점이 필요한 개발자·연구자예요.
- 맞지 않는 경우: 텍스트 질의응답, 문서 요약, 코딩 보조처럼 정확한 지시 수행이 필요한 작업이에요.
- 실행 전 체크: NVIDIA 약 12GB 또는 애플 실리콘 Mac, 디스크 10GB 이상, 유선 오디오 장비, 권리가 확보된 참조 음성을 준비했는지 확인해요.
- 공개 전 체크: Apache 2.0 고지, 제3자 구성 요소 고지, 목소리 동의, 공유 링크 사용 여부를 점검해요.
자주 묻는 질문
Haru-4B를 챗GPT처럼 텍스트로 질문하는 데 쓸 수 있나요?
한국어 대화도 되나요?
GPU 메모리가 8GB뿐이면 실행할 수 없나요?
상업적으로 써도 되나요?
출처·참고 자료
- 1higurashi-ai/Haru-4B 모델 카드 (Hugging Face)(새 탭에서 열림)huggingface.co
- 2higurashi-ai/Haru GitHub 저장소 README(새 탭에서 열림)github.com
- 3Haru-4B 기술 블로그 (higurashi Tech Blog, 2026.11.13)(새 탭에서 열림)blog.higurashi.ai
- 4haru_mlx README (애플 실리콘 구현)(새 탭에서 열림)github.com
- 5Haru-4B 양자화 파생 모델 목록 (Hugging Face)(새 탭에서 열림)huggingface.co
- 6Hugging Face 트렌딩 모델 목록(새 탭에서 열림)huggingface.co
관련 글
AI제미나이 네온(Gemini 4 Neon)이란? Hydrogen·Argon 차이와 요금
Gemini 4 Neon은 Carbon과 Hydrogen 사이에서 깊이와 속도를 절충한 구글의 새 모델이에요. 입력 100만 토큰당 3달러·출력 15달러이고 무료 티어가 없어요. Hydrogen·Argon과 요금·성능·이용 범위를 비교하고 쓰기 전 확인할 점을 정리했어요.
AIMiniMax-H3-Image란? 특징·ComfyUI 사양·한국 라이선스 제한
허깅페이스 트렌딩 1위 MiniMax-H3-Image를 모델 카드·ComfyUI 공식 문서·라이선스 원문으로 확인했어요. 사양, 원본과 Comfy-Org 배포판의 차이, 설치 순서, 한국·미국·EU·영국이 빠진 적용 지역 조건까지 정리해요.
AIGPT-6.2 Astra와 Sol 차이: 용도·API 가격·ChatGPT 사용처
OpenAI의 GPT-6.2 Astra는 어려운 전문 작업용, Sol은 일상 업무용 효율 모델이에요. API 토큰 가격은 Astra가 Sol의 4배이고, 두 모델 모두 일반 Chat이 아니라 ChatGPT Work·Codex에 들어가요.