8 月 7 日消息,面壁智能昨日开源了 MiniCPM-V 2.6 模型,官方表示将端侧 AI 多模态能力拉升至全面对标 GPT-4V 水平

面壁智能开源 MiniCPM-V 2.6 模型:号称端侧 AI 多模态能力对标 GPT-4V,6G 内存可用-编程之家

官方称 MiniCPM-V 2.6 模型仅 8B 参数,取得 20B 以下单图、多图、视频理解 3 SOTA 成绩,有以下特点:

  • “三合一最强”端侧多模态:首次在端侧实现单图、多图、视频理解等多模态核心能力全面超越 GPT-4V,单图理解越级比肩多模态王者 Gemini 1.5 Pro 和新晋顶流 GPT-4o mini

  • 多项功能首次上端:实时视频理解、多图联合理解、多图 ICL 视觉类比学习、多图 OCR 等功能

  • 最高多模态像素密度:类比知识密度,小钢炮 2.6 取得了两倍于 GPT-4o 的单 token 编码像素密度(token density)

  • 端侧友好:量化后端侧 6G 内存可用;端侧推理速度达 18 tokens / s,相比上代模型快 33%。发布即支持 llama.cpp、ollama、vllm 推理;且支持多种语言

  • 统一高清框架:小钢炮的传统优势 OCR 能力延续了其 SOTA 性能水平,并进一步覆盖单图、多图、视频理解

附开源地址:

  • GitHub:  https://github.com/OpenBMB/MiniCPM-V

  • HuggingFace:https://huggingface.co/openbmb/MiniCPM-V-2_6