引言
随着机器学习的快速发展，视觉语言模型（VLM）的研究取得了显著的进步。今天，我们很高兴介绍两款强大的开源视觉语言模型：CogVLM和CogAgent。这两款模型在图像理解和多轮对话等领域表现出色，为人工智能的发展开辟了新的道路。
CogVLM：强大的开源视觉语言模型
CogVLM是一个强大的开源视觉语言模型。CogVLM-17B拥有100亿的视觉参数和70亿的语言参数，支持490*490分辨率的图像理解和多轮对话。CogVLM-17B在10个经典的跨模态基准测试中取得了最佳性能，包括NoCaps, Flicker30k captioning, RefCOCO, RefCOCO+, RefCOCOg, Visual7W, GQA, ScienceQA, VizWiz VQA和TDIUC，并在VQAv2, OKVQA, TextVQA, COCO字幕等方面排名第二，超越或匹敌PaLI-X 55B。CogVLM还可以和您聊关于图片的话题。
CogVLM的论文：https://arxiv.org/abs/2311.03079
CogAgent：基于CogVLM的视觉语言模型
CogAgent是基于CogVLM改进的开源视觉语言模型。CogAgent-18B拥有110亿的视觉参数和70亿的语言参数，支持1120*1120分辨率的图像理解。在CogVLM的能力之上，CogAgent进一步拥有了图形用户界面（GUI）Agent的能力。
CogAgent在9个经典的跨模态基准测试中实现了最先进的通用性能，包括VQAv2, OK-VQ, TextVQA, ST-VQA, ChartQA, infoVQA, DocVQA, MM-Vet, 和 POPE测试基准。它在如AITW和Mind2Web等GUI操作数据集上显著超越了现有的模型。除了CogVLM已有的所有功能（视觉多轮对话，视觉定位）之外，CogAgent支持更高分辨率的视觉输入和对话式问答，拥有视觉Agent的能力，并通过改进预训练和微调，提高了OCR相关任务的能力。
CogAgent的论文：https://arxiv.org/abs/2312.08914
如何开始使用CogVLM和CogAgent
-
使用网页演示进行推理：您可以直接访问我们的CogVLM & CogAgent Web Demo进行体验。
-
自行部署CogVLM / CogAgent：我们提供了详细的部署指南，包括命令行界面和网络演示的部署方式。您可以根据需要选择合适的方式。
-
微调CogAgent / CogVLM：如果您想在自己的任务中使用CogVLM，我们提供了详细的微调指南，帮助您实现不同的输出风格或领域知识。
-
OpenAI格式：我们提供了与GPT-4V相同的API示例，您可以在openai_demo文件夹中查看。
详细用法请见GitHub页面。
硬件需求
模型推理需要至少1个RTX 3090(24G)显卡，CogAgent需要约12.6GB的显存，CogVLM需要约11GB的显存。如果使用FP16，则需要1个A100(80G)或2个RTX 3090(24G)显卡。微调则需要至少4个A100(80G)显卡，或者8个RTX 3090(24G)显卡。
结语
CogVLM和CogAgent的发布，为视觉语言模型的研究和应用开启了新的篇章。我们期待看到更多的研究者和开发者利用这两款模型，推动人工智能的发展。