Zhipu AI (智谱AI)¶
칭화대학과 협력하여 CogVLM을 개발했다.
기업 정보¶
| 항목 | 내용 |
|---|---|
| 설립 | 2019년 |
| 본사 | 베이징, 중국 |
| 협력 | 칭화대학 |
모델 목록¶
| 모델 | 출시 | 설명 |
|---|---|---|
| CogVLM | 2023.10 | 17B 오픈소스 VLM |
CogVLM 특징¶
| 항목 | 내용 |
|---|---|
| 파라미터 | 17B |
| 비전 인코더 | EVA2-CLIP-E (4.4B) |
| 해상도 | 490px |
| 라이선스 | Apache 2.0 |
아키텍처: - Visual Expert: 비전 전용 QKV 레이어 - 기존 LLM 가중치 유지하면서 비전 학습 - 10B 규모 비전 인코더로 세밀한 이해
성능: - 여러 VLM 벤치마크에서 SOTA (2023) - 특히 OCR, 문서 이해에 강점 - CogVLM2: 후속 모델 (2024)