콘텐츠로 이동

Command R

개요

Command R은 Cohere에서 개발한 대규모 언어 모델로, 대화형 상호작용과 장문 컨텍스트 작업에 최적화되어 있다. 높은 성능과 정확도의 균형을 목표로 하는 "확장 가능한(scalable)" 카테고리의 모델로, 기업이 프로토타입에서 프로덕션으로 전환할 수 있도록 설계되었다.

  • 개발사: Cohere
  • 최신 버전: command-r-08-2024 (2024년 8월)
  • 모델 유형: Large Language Model

사양

항목 내용
컨텍스트 길이 128,000 토큰
최대 출력 토큰 4,000 토큰
지식 기준일 2024년 6월 1일
학습 데이터 기준 2023년 2월
모델 ID command-r-08-2024

지원 기능

  • 다국어 지원
  • 안전 모드 (Safety Modes)
  • 인용 (Citations)
  • 도구 사용 (Tool Use)
  • 구조화된 출력 (Structured Outputs)
  • 추론 (Reasoning)
  • 이미지 입력 (Image Inputs)

라이선스 및 가격

API 가격

유형 가격
입력 토큰 $0.15 / 1M 토큰
출력 토큰 $0.60 / 1M 토큰

제공 방식

  • Cohere API
  • Chat V1, Chat V2, Chat Completions 엔드포인트

주요 특징

1. 다국어 지원

최적화 언어 (10개): - 영어, 프랑스어, 스페인어, 이탈리아어, 독일어 - 브라질 포르투갈어, 일본어, 한국어, 중국어(간체), 아랍어

추가 지원 언어 (13개): - 러시아어, 폴란드어, 터키어, 베트남어, 네덜란드어 - 체코어, 인도네시아어, 우크라이나어, 루마니아어, 그리스어 - 힌디어, 히브리어, 페르시아어

2. 검색 증강 생성 (RAG)

  • 문서 스니펫 기반 응답 생성
  • 정보 출처 인용 자동 포함
  • 그라운딩 기능 내장

3. 도구 사용 (Tool Use)

  • 외부 도구 연결 (검색 엔진, API, 데이터베이스)
  • JSON 형식 액션 리스트 생성
  • 단일 단계 도구 호출에 적합

4. 2024년 8월 업데이트 개선사항

  • 도구 사용 여부 결정 능력 향상
  • 시스템 메시지 지시 따르기 개선
  • 구조화된 데이터 분석 향상
  • 프롬프트 변경에 대한 견고성 향상
  • 50% 높은 처리량, 20% 낮은 지연시간
  • 하드웨어 풋프린트 50% 감소

Command R vs Command R+ 비교

항목 Command R Command R+
입력 가격 $0.15/1M $2.50/1M
출력 가격 $0.60/1M $10/1M
도구 사용 단일 단계 다단계
RAG 단순 복잡
적합 사례 비용 효율 고성능

장점

  1. 매우 저렴한 API 비용
  2. 128K 토큰의 긴 컨텍스트 지원
  3. 다국어 지원 (23개 언어)
  4. 네이티브 RAG 및 인용 기능
  5. 낮은 지연시간과 높은 처리량
  6. 하드웨어 요구사항 감소

단점

  1. 다단계 도구 사용 제한 (Command R+ 권장)
  2. 복잡한 에이전트 작업에 부적합
  3. 학습 데이터가 2023년 2월 기준
  4. 오픈소스 아님
  5. Command A 대비 구버전

권장 사용 사례

  • 단순 RAG 애플리케이션
  • 단일 단계 도구 사용
  • 비용이 중요한 프로젝트
  • 대량 텍스트 처리
  • 다국어 콘텐츠 생성
  • 번역 및 크로스링구얼 QA

참고자료

  • 공식 문서: https://docs.cohere.com/docs/command-r
  • 최신 모델: https://docs.cohere.com/docs/command-a
  • 책임 있는 사용: https://docs.cohere.com/docs/responsible-use
  • 안전 모드: https://docs.cohere.com/docs/safety-modes
  • RAG 가이드: https://docs.cohere.com/docs/retrieval-augmented-generation-rag
  • 도구 사용: https://docs.cohere.com/docs/tool-use