Command R¶
개요¶
Command R은 Cohere에서 개발한 대규모 언어 모델로, 대화형 상호작용과 장문 컨텍스트 작업에 최적화되어 있다. 높은 성능과 정확도의 균형을 목표로 하는 "확장 가능한(scalable)" 카테고리의 모델로, 기업이 프로토타입에서 프로덕션으로 전환할 수 있도록 설계되었다.
- 개발사: Cohere
- 최신 버전: command-r-08-2024 (2024년 8월)
- 모델 유형: Large Language Model
사양¶
| 항목 | 내용 |
|---|---|
| 컨텍스트 길이 | 128,000 토큰 |
| 최대 출력 토큰 | 4,000 토큰 |
| 지식 기준일 | 2024년 6월 1일 |
| 학습 데이터 기준 | 2023년 2월 |
| 모델 ID | command-r-08-2024 |
지원 기능¶
- 다국어 지원
- 안전 모드 (Safety Modes)
- 인용 (Citations)
- 도구 사용 (Tool Use)
- 구조화된 출력 (Structured Outputs)
- 추론 (Reasoning)
- 이미지 입력 (Image Inputs)
라이선스 및 가격¶
API 가격¶
| 유형 | 가격 |
|---|---|
| 입력 토큰 | $0.15 / 1M 토큰 |
| 출력 토큰 | $0.60 / 1M 토큰 |
제공 방식¶
- Cohere API
- Chat V1, Chat V2, Chat Completions 엔드포인트
주요 특징¶
1. 다국어 지원¶
최적화 언어 (10개): - 영어, 프랑스어, 스페인어, 이탈리아어, 독일어 - 브라질 포르투갈어, 일본어, 한국어, 중국어(간체), 아랍어
추가 지원 언어 (13개): - 러시아어, 폴란드어, 터키어, 베트남어, 네덜란드어 - 체코어, 인도네시아어, 우크라이나어, 루마니아어, 그리스어 - 힌디어, 히브리어, 페르시아어
2. 검색 증강 생성 (RAG)¶
- 문서 스니펫 기반 응답 생성
- 정보 출처 인용 자동 포함
- 그라운딩 기능 내장
3. 도구 사용 (Tool Use)¶
- 외부 도구 연결 (검색 엔진, API, 데이터베이스)
- JSON 형식 액션 리스트 생성
- 단일 단계 도구 호출에 적합
4. 2024년 8월 업데이트 개선사항¶
- 도구 사용 여부 결정 능력 향상
- 시스템 메시지 지시 따르기 개선
- 구조화된 데이터 분석 향상
- 프롬프트 변경에 대한 견고성 향상
- 50% 높은 처리량, 20% 낮은 지연시간
- 하드웨어 풋프린트 50% 감소
Command R vs Command R+ 비교¶
| 항목 | Command R | Command R+ |
|---|---|---|
| 입력 가격 | $0.15/1M | $2.50/1M |
| 출력 가격 | $0.60/1M | $10/1M |
| 도구 사용 | 단일 단계 | 다단계 |
| RAG | 단순 | 복잡 |
| 적합 사례 | 비용 효율 | 고성능 |
장점¶
- 매우 저렴한 API 비용
- 128K 토큰의 긴 컨텍스트 지원
- 다국어 지원 (23개 언어)
- 네이티브 RAG 및 인용 기능
- 낮은 지연시간과 높은 처리량
- 하드웨어 요구사항 감소
단점¶
- 다단계 도구 사용 제한 (Command R+ 권장)
- 복잡한 에이전트 작업에 부적합
- 학습 데이터가 2023년 2월 기준
- 오픈소스 아님
- Command A 대비 구버전
권장 사용 사례¶
- 단순 RAG 애플리케이션
- 단일 단계 도구 사용
- 비용이 중요한 프로젝트
- 대량 텍스트 처리
- 다국어 콘텐츠 생성
- 번역 및 크로스링구얼 QA
참고자료¶
- 공식 문서: https://docs.cohere.com/docs/command-r
- 최신 모델: https://docs.cohere.com/docs/command-a
- 책임 있는 사용: https://docs.cohere.com/docs/responsible-use
- 안전 모드: https://docs.cohere.com/docs/safety-modes
- RAG 가이드: https://docs.cohere.com/docs/retrieval-augmented-generation-rag
- 도구 사용: https://docs.cohere.com/docs/tool-use