MiniCPM-V / MiniCPM-o (경량 MLLM)
MiniCPM-V / MiniCPM-o (경량 MLLM)
MiniCPM-V와 MiniCPM-o는 강력한 성능과 디바이스 효율적 배포를 목표로 OpenBMB가 만든 멀티모달 LLM 시리즈예요. 이미지·영상·텍스트 입력을 이해하는 MiniCPM-V와, 실시간 스트리밍 영상·오디오·텍스트·음성까지 다루는 MiniCPM-o로 나뉘어요.
가장 큰 매력은 스마트폰(모바일)에서 동작하는 픽셀 좋은 모델이라는 점이에요. 대표 모델로 1.3B 파라미터를 가진 MiniCPM-V 4.6과 9B의 MiniCPM-o 4.5가 있어요. iOS·Android·HarmonyOS 배포용 엣지 어댑테이션 코드도 오픈소스로 제공돼요.
핵심 개념
- MiniCPM-V — 이미지·영상·텍스트 비전-언어 이해
- MiniCPM-o — 실시간 전이중(omnimodal) 양방향 인터랙션
- 엣지 배포 — iOS·Android·HarmonyOS, llama.cpp·Ollama·vLLM
- 조기 압축(intra-ViT) — 시각 인코딩 연산량 50%+ 절감
이 카테고리의 문서
- 시리즈 개요: MiniCPM-V / MiniCPM-o 모델 라인업
- MiniCPM-V 2.6: GPT-4V급 모델 카드·사용법
- API·추론: 단일/멀티 이미지, 영상, 스트리밍