Command R 소개 — 사양과 08-2024 릴리스
Command R 소개
Command R은 RAG(검색 증강 생성)와 도구 사용 태스크에서 높은 정밀도를, 그리고 낮은 지연·높은 처리량을 목표로 하는 대화형 모델이에요. 핵심 스펙은 128,000 토큰 컨텍스트와 10개 주요 언어 지원이에요.
Command R August 2024 릴리스
2024년 8월에 Command R과 Command R+가 큰 업데이트를 받았어요. 이때 모델에 타임스탬프를 붙이기로 해서, API에서는 command-r-08-2024 로 접근할 수 있어요.
주요 개선
- 도구 사용 — 도구를 쓸지 말지 결정하는 판단력 개선
- 시스템 메시지 — 요청의 시스템 메시지 지시를 더 잘 따름
- 구조화된 데이터 분석 — 구조화된 데이터 조작 능력 향상
- 프롬프트 견고성 — 공백·줄바꿈 같은 비의미적 변화에 강해짐
- 거절 능력 — 답할 수 없는 질문은 거절, 인용 없이도 RAG 워크플로우 실행
command-r-08-2024는 이전 버전보다 처리량 약 50% 향상, 지연 20% 감소, 서빙에 필요한 하드웨어 풋프린트는 절반으로 줄었어요.