汽车 · Agent / 算力基础设施与AI平台
面壁智能MiniCPM端侧多模态模型,OCRBench超越GPT-4V
面壁智能打造高效端侧多模态模型MiniCPM系列,2.4B参数即具备GPT-3同等性能、知识密度提升约86倍;MiniCPM-Llama3-V2.5在OCRBench等榜单超越GPT-4V/Gemini Pro达SOTA,图像编码加速150倍,手机端语言解码3-4 token/s,适合车端等端侧部署。
MiniCPM端侧多模态OCRBench SOTA
OCRBench
超越GPT-4V/Gemini Pro达SOTA
来源披露
图像编码加速
150倍加速
来源披露
端侧解码速度
手机端3-4 token/s
来源披露
企业痛点
01
业务背景
车载与边缘场景算力、功耗受限,需小参数高性能模型。
02
遇到的问题
端侧算力有限,大模型难以直接部署,多模态效率低。
03
AI 解决方案
以端侧高效多模态模型MiniCPM系列,结合稀疏架构、NPU/CPU加速与编译优化,实现小参数高性能的车端等多端部署。
- 1发布MiniCPM-2.4B高效端侧模型
- 2迭代MiniCPM-Llama3-V2.5多模态
- 3稀疏架构+端侧系统加速
- 4手机/车端多端部署
04
实施结果
OCRBench:超越GPT-4V/Gemini Pro达SOTA
图像编码加速:150倍加速(150x)
端侧解码速度:手机端3-4 token/s
05
风险与边界
端侧模型能力上限低于云端大模型。
该案例来自佐思汽研评选的“汽车AI大模型TOP10”,由面壁智能研发并在汽车行业落地,展示了大模型在智能座舱、自动驾驶与车载语音等场景的技术能力,建议车企结合自研或采购方案参考。
适合
车载、手机等端侧AI场景
前置条件
端侧多模态模型、稀疏架构
信息来源
1 个来源页面内容为结构化改写;关键结论应可追溯到以下材料。
关联报告:佐思汽研《汽车AI大模型TOP10分析报告》(2024) · 佐思汽研 · 2024