AI智能体,国产2B模型把12B甩在身后

9月8日,面壁智能和OpenBMB把MiniCPM5-2B的权重挂上了HuggingFace。这个模型7月19日就在WAIC亮过相,当时Artificial Analysis榜单给的综合分是17。两个

9月8日,面壁智能和OpenBMB把MiniCPM5-2B的权重挂上了HuggingFace。这个模型7月19日就在WAIC亮过相,当时Artificial Analysis榜单给的综合分是17。两个月后开源出来的版本,同一张榜单给了23分。

23分在4B以下开源模型里排第一,也压过了参数量大几倍的Gemma 4 12B以及Qwen3.5 9B,两家都是22分。

token消耗方面,MiniCPM5-2B跑完一个任务平均吐21k个token,14k花在思考上,7k才是答案。相比之下,Qwen3.5 9B要吐34k个token。同样吃掉21k的LFM2.5-2.6B只拿到11分,Granite 4.2 3B吃掉19k拿到14分。

算力账单差不多,得分却差出一倍,说到底还是面壁讲了三年的密度定律在起作用。

还有一组覆盖面更宽的评测,34项基准,从代码推理、数学推理一路排到指令遵循、综合知识、长文本、工具调用以及智能体任务。MiniCPM5-2B平均53.9分,2B档第二名33.2分,参数量翻倍的Qwen3.5-4B是51.1分。

不过综合分不是这次表现最突出,智能体能力才是。

MiniCPM5-2B拿20分,第二名Granite 4.2 8B是9分,2B到3B这一档的另外几个模型,LFM2.5-2.6B、Granite 4.2 3B、Ministral 3 3B,清一色2分。

过去两年端侧模型卷的是能不能把题答对,Agentic Index考的是另一码事,它要看模型能不能理解目标、拆开任务、调工具、根据反馈改策略,一轮一轮推下去。

GDPval-AA v2更贴近真实工作,拿职业任务打分,人类基线定在1000分。MiniCPM5-2B得到891,Granite 4.2 8B是702,Gemma 4 12B只有647。891看着漂亮,我倒觉得该泼点冷水。人类基线1000代表一个合格从业者的水平,891意味着它还没够到那条线。打赢参数量六倍于自己的模型是一回事,能独立替你把活干完是另一回事。

真正的门槛在芯片上,榜单上看不见。你要是把模型放到端侧去跑,第一道瓶颈就是内存带宽。手机的内存带宽普遍卡在30到50GB/s,服务器级GPU是几百GB/s。

实测数据显示,跑4B模型时设备表面温度五分钟能升到45度以上,功耗比待机状态高出300%到400%,连续推理续航撑不到两小时。

而一个Agent任务恰好是多轮、长时、一直在想的那种负载。这样一来,面壁把Day0适配名单拉得那么长就解释得通了。英特尔酷睿Ultra把CPU、GPU、NPU的异构算力全用上,拿OpenVINO从算子、图融合到内存调度,一层一层往下抠;瑞芯微走RK3588加RK1828双芯平台,用RK182X的高带宽压首token时延;Armv9靠SME2直接在CPU上做AI加速,实测下来prefill快了约1.7倍,decode快了约1.2倍。

开源的方式也跟常规做法不太一样。面壁这次连同四个数据集、自研RL框架Meshy、策略JustRL II一起放了出来。UltraData-SFT-Agent-2609大约50万条样本,覆盖工具调用、网页搜索、代码生成、Office文档处理以及数据库交互;UltraData-RL-2609八万多条,要走可验证性过滤、奖励可信性校验以及难度匹配三道筛。

数据那边的规模也对得上这个结果。

UltraData-Code从约1.92亿个公开GitHub仓库捞原始代码,清洗去重,再做算法筛选以及任务导向合成,形成约400B词元的L2数据和150B词元的L3数据,整个系列到今年9月,累计下载已经超过266万次。

小模型做长思维链强化学习的老毛病是分数越训越低,数据噪声多,奖励信号容易把模型带偏,GRPO面对上万token的推理链分不清哪一步对哪一步错。JustRL II的解法挺直接,给GRPO装一个Critic,做到词元级信用分配。

能不能真的落到设备上,面壁手里其实有几个现成的答案。7月15日国家网信办公布首批7款手机端侧大模型备案名单,面壁是其中唯一以端侧模型能力参与备案的大模型公司,MiniCPM系列进了三星旗舰供应链。

车机这边,SuperMate座舱方案今年要完成超过30万台量产车交付。公司8月11日在北京证监局办了IPO辅导备案,辅导机构中信证券,上半年融资超过50亿元,估值超过200亿元。

端侧Agent现在还谈不上跑通。MiniCPM5-2B证明的是2B参数装得下一个Agent的雏形,接下来要证明的,是这东西在手机上跑上的场景落地。

(来源:维科网)
免责声明:本文内容来源于第三方或整理自互联网,本站仅提供展示,不拥有所有权,不代表本站观点立场,也不构成任何其他建议,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容,不承担相关法律责任。如发现本站文章、图片等内容有涉及版权/违法违规或其他不适合的内容, 请及时联系我们进行处理。

相关推荐