duang
1.5B开源通用VLA模型，冲进具身智能第一梯队_我的网站
A | 金磊 发自 上海
量子位 | 公众号 QbitAI
一个新的国产VLA模型诞生了，而且只有1.5B。
Size这么小，能好用吗？
来，话不多说，我们直接看效果：
视频地址：
https://mp.weixin.qq.com/s/TWDuh4NmsamJ52E2A6ZpTw
在上面这个真机演示里，两只机械臂围着桌面开始做三明治。
B | 再来看下另一段演示： 视频地址： https://mp.weixin.qq.com/s/TWDuh4NmsamJ52E2A6ZpTw 一只宇树机器狗收到“跟随前面的人”这条指令后，开始一路跟在目标身后。
C | 从室外走进办公楼，再进入电梯、地下停车场，机器狗始终没有跟丢。据都昌县融媒体中心9月12日消息，截至9月9日上午8时，鄱阳湖都昌站水位下降至7.76米，观湖水厂正常取水位为7.5米，虽然目前依然可以正常取水，但都昌润泉供水有限公司早计划、早行动，共计划架设10台抽水泵，实行三级提水。都昌润泉供水有限公司副总经理吴敦贵介绍，公司做好了相应的应急预案，进行10套机组安装，大功率取水设施正在组装，浮筒已经下水，进行三级提水作业，提到二级围堰里，确保供水安全。该公司承担着城区及周边3个乡镇共20万居民的用水，每日用水量在4.8至5万吨之间，10个机组完成安装后，每日抽水量可达6万吨左右。吴敦贵表示，二级围堰容量是六万吨，但是现在城乡供水每天在4.8万吨到5万吨，八套机组抽水的立方是5万吨，如果不够还会增加机组。就算周围不断有人经过，环境和光线也在变化，它还是能认准一开始指定的那个人。今年，鄱阳湖提前进入了低枯水期。以去年为例，2021年10月30日上午8时，鄱阳湖都昌站水位还在12.8米，同日鄱阳湖标志性水文站星子站水位12.97米，跌破13米关口，标志着鄱阳湖正式结束丰水期。去年，鄱阳湖都昌站水位于12月21日上午8时下降至7.92米，逼近该站有记录以来的最低水位7.46米。 更关键的是，这套能力直接跑在机器狗本地！ 电梯和地下停车场往往是网络信号比较差的地方。
D | 另据鄱阳湖水文水资源监测中心最新提供的数据，9月12日8时，鄱阳湖星子站水位退至7.68米，较多年同期均值偏低7.89米。
E | 即使进入弱网甚至无网环境，机器狗依然能继续识别目标、规划动作，保持跟随。据预测，9月下旬至10月上旬，鄱阳湖水位维持退水趋势，水位可能创新低。 而在这两段Demo背后，则是面壁智能在WAIC期间正式发布并开源的MiniCPM-Robot系列模型。返回搜狐，查看更多责任编辑：
F | 如果它看不到前面的画面，也记不住自己已经按过几次，就很容易按一下便停，或者一直按下去。 MiniCPM-RobotManip会把历史观测和此前执行过的动作一起纳入判断。它知道任务已经进行到哪一步，也知道什么时候应该停下来。 在专门考察上下文记忆的RMBench中，π0.5的成绩约为10分，接近随机水平，MiniCPM-RobotManip则达到约53分。 这项能力对真实机器人很重要。 叠衣服、收拾桌面、做三明治，看起来都是日常小事，拆开后却包含一连串动作。机器人只看眼前，很容易做到一半便“失忆”；能记住此前的状态，才有机会把长任务完整做完。 除了记得住，机器人还得反应快。 面壁给出的单帧推理对比中，在H100显卡、bf16精度下，MiniCPM-RobotManip单次决策延迟约为120毫秒，π0.5约为234毫秒，前者接近后者的一半。 这里的“成本减半”，主要是体现在推理延迟和计算量上。
G | 聊天模型多想一秒，用户通常还能等。机械臂每做一步都停顿一秒，动作马上就会变得僵硬，整个任务的完成时间也会被拉长。 对VLA来说，能不能在有限算力下快速输出下一步动作，和榜单分数一样重要。 MiniCPM-RobotTrack也走了类似的小尺寸模型路线。 它以MiniCPM4-0.5B为基础，整体参数规模为0.9B，主要测试三种真实场景。
H | 第一种是单目标跟踪。给它一句明确指令，机器狗持续跟着指定的人。
I | 第二种是多人干扰。周围几个人同时移动、交叉甚至交换位置，模型依然要认准最初的目标。 第三种更难，指令本身可能比较模糊。比如只说“跟着穿黑衣服的人”，现场又恰好有多个穿着相近的人，模型需要结合画面理解人类到底指的是谁。 在没有进行下游强化学习优化的情况下，MiniCPM-RobotTrack在三类任务上的追踪率分别达到89.8%、73.4%和80.4%，均取得开源方案中的最优结果。 相比OpenTrackVLA，三项追踪率分别提高7.0、14.6和6.5个百分点。 在相同的单视角、纯SFT设定下，与闭源模型TrackVLA++相比，它在单目标跟踪和模糊目标跟踪上的追踪率分别高出8.8和17.0个百分点，模糊目标跟踪的成功率达到58.0%。 参数小，表现却没有明显掉队。 机器人模型的竞争，也开始从单纯拼规模，转向拼单位算力到底能换来多少能力。 把机器人看到的世界压缩一下 MiniCPM-RobotManip能把尺寸压到1.5B，背后离不开面壁过去在多模态模型上的积累。 它基于MiniCPM-V 4.6训练而来（开源不到2个月，下载量已突破200万）。 面壁的MiniCPM-V/O系列已经持续迭代两年多，开源总下载量超过2500万。过去积累的图像理解、视频理解和多模态信息处理能力，如今被进一步搬到了机器人身上。
J | 机器人执行一次动作，需要处理的信息其实很多。
K | 一台双臂机器人通常会同时接收三个摄像头的画面，包括两个腕部相机和一个主视角相机，再加上一段文字指令，最后输出一个可以执行的动作。
L | 而且，这个过程一秒要重复好几次。
M | 如果每一张图片都被转换成大量视觉Token，机器人运行得越久，需要处理的历史信息就越多，计算量很快就会堆起来。 MiniCPM-RobotManip采用的办法，是尽量压缩视觉Token。 桌面纹理、墙面图案等和当前任务关系不大的信息，不必占用太多Token。
N | 模型用更短的数据表示保留关键内容，单次推理需要处理的信息量也随之下降。 信息少了，推理自然更快。对应到机械臂上，就是等待时间更短，动作衔接更顺。
o | 视觉Token压缩还有一个更大的用处，可以帮助机器人以更低成本保留历史记忆。 常规方法每获得一张新画面，都要把此前的历史重新计算一遍。
p | 任务越长，计算量增长得越快。
q | MiniCPM-RobotManip采用流式计算，前面已经处理过的信息可以继续复用，新画面进来后，只需要接着往下计算。
r | 这就有点像看连续剧的感觉了。 普通做法每更新一集，都要从第一集重新看起；流式计算则会记住之前的剧情，直接从最新一集接着看。 机器人因此可以带着更长的历史继续执行任务，同时避免计算量一路暴涨。
s | 1.5B的尺寸，也和机器人的实际运行需求有关。 面壁在将约200毫秒视为机器人操作体验的一道临界线。
t | 再慢下去，机械臂和机器狗的卡顿感就会明显增加。 当前多数VLA基础模型都控制在4B以内。模型继续做大能带来多少真实操作收益，行业仍在验证。 作者声明：该图片由AI生成 到了MiniCPM-RobotTrack这里，轻量化的思路又换了一种实现方式。 它把视觉画面、自然语言指令和机器人的控制决策放进同一个模型里统一处理。
u | 用户说一句“跟着前面穿黑衣服的人”，模型会直接结合摄像头画面理解指令，再把判断转换成机器狗的运动控制。 整个过程不需要额外安装一套目标检测模块、一套识别模块，再接一套跟踪系统。
v | 也不用外接开发板，只靠宇树Go2 Edu原装摄像头和本地算力，就能完成单目标跟踪、多人干扰跟踪和模糊目标跟踪。 不过，真实世界总会出现训练集里很少见的情况。 目标可能突然从镜头前横穿过去，也可能快速转弯，被其他人短暂挡住。几个人同时交叉走动时，机器狗还要避免跟错人。 这类场景数量少，却最容易让模型翻车。
w | 所以，面壁为此搭建了一套自进化数据管线。 团队先对原始数据进行检查和清洗，把异常轨迹、错误动作和无效交互剔除掉。
x | 随后让模型进入仿真和真实机器人环境，在持续运行中主动暴露自己的薄弱环节。 系统再把这些容易出错的场景集中收集起来，通过专家策略进行纠偏，放回下一轮训练。 说得通俗一点，这就像给机器狗准备了一本会自动更新的错题本。 经过一轮轮闭环训练，目标横穿、快速转向、短时遮挡、多人交叉这些长尾问题，也能不断得到加强。 模型训好了，装到真机上仍然有一道关。 摄像头采集、画面编码、模型推理、动作生成、指令传输，任何一个环节慢下来，最终都会反映在机器狗的动作上。 面壁围绕宇树Go2的完整运行链路做了系统级优化。目前MiniCPM-RobotTrack在机器狗原生本地算力上可以稳定达到5Hz以上，端到端响应延迟约180毫秒。 这次开源的内容也不只有模型权重，还包括环境安装、模型加载、摄像头接入、文本指令输入、控制接口和一键启动脚本。 准备一台Go2 Edu，就能按照开源流程把模型部署起来。 本地部署的好处，在电梯和停车场的演示里体现得很直接。 机器人不用等待画面上传云端，也不用等远程服务器返回结果。摄像头数据和用户指令留在本地，网络信号变差后，完整功能依然可以继续运行。 直接拔掉网卡，机器狗照样能根据摄像头画面和文字指令，完成目标识别、持续跟踪和运动控制。 除了MiniCPM-Robot系列之外，这次还有一项容易被忽略的发布——PhyAI。 它是一款面向Physical AI的开源推理框架，由明体科技联合北京邮电大学、北京大学研发。 具身模型想从实验室跑到真实机器人上，中间还要经过硬件适配、量化、算子优化和部署。 不同VLA、世界模型的结构差异很大。
y | 每发布一个新模型，再从头适配一次，时间和工程成本都不低。 PhyAI想做的，就是把这段路缩短。
z | 在RTX 5090上运行π0、π0.5和GR00T时，PhyAI相较模型官方仓库分别实现约2.85倍、1.82倍和2.28倍加速。
| 适配MiniCPMRobot系列模型时，PhyAI先通过CUDA Graph把推理帧率从10.12Hz提高到33.28Hz，再加入为模型定制的融合算子，在NVIDIA H20上进一步提高到36.77Hz。
| 前面是模型效果，这里解决的是工程效率。 模型能干活，还得尽快跑上硬件，跑得足够快，才能真正进入更多机器人。 机器人需要又好又便宜的大脑 具身智能行业从来不缺精彩Demo。真正难的是离开展台之后，机器人还能不能稳定工作。 清华大学人工智能学院助理教授、面壁智能多模态首席科学家姚远在访谈中也提到： 现阶段不少机器人Demo会围绕单一任务采集大量数据，再进行针对性优化，展示效果并不能完全代表基础模型的真实进度。面壁更看重模型的基础性、泛化性和通用性，希望先把数据、Infra和工程链路打磨好，让基础能力提升后自然覆盖更多场景。沿着大语言模型的发展经验，具身智能最终也要走向“先通后专”，先理解物理世界的基本常识，再成为做饭、叠衣服或仓储作业等具体领域的专家。 展馆、园区和工厂里，网络信号不会一直满格。机器人还要面对隐私、数据合规、任务失败和异常恢复等一连串现实问题。 榜单分数再高，走到地下停车场便停摆，落地空间依然有限。 这也是面壁把端侧能力放在重要位置的原因。 在与乐聚机器人的合作中，面壁把端侧多模态大模型、夸父机器人本体和导航系统组合到了一起，推出展厅导览Agent和园区巡检Agent。
| 展厅导览机器人在无网环境下，也能基于本地知识库完成离线讲解和自由问答。它可以理解展厅环境和人的指令，规划导览路线，同时完成避障。
| 园区巡检机器人则可以识别车辆违停、路面异常和公共设施问题。敏感画面直接在本地处理，数据留在客户侧。 与吉利汽车的合作，则进一步走进了生产仓储场景。 面壁和吉利共同训练VLA模型，再通过RoboHarness把VLM、VLA、机器人本体和导航系统接到一起，让机器人执行仓储中的长程任务。 RoboHarness可以理解成物理世界里的Agent执行框架。 上层VLM负责规划任务，VLA和导航系统作为可以调用的工具。框架还会管理长任务的上下文和记忆，遇到失败时进行重试和恢复。 机器人每完成一次任务，运行数据还会进入可治理的数据闭环，继续帮助模型进化。 作者声明：该图片由AI生成 到这里，面壁此次在WAIC带来的具身智能路线已经比较清楚了。
| MiniCPM-RobotManip负责操作，让机械臂理解任务、记住过程，再把事情做完。 MiniCPM-RobotTrack负责跟踪导航，让机器狗在复杂环境里认准目标，断网也能继续走。
| PhyAI负责把模型更快地部署到真实硬件上。
| 再往外，乐聚和吉利的合作开始把模型、本体、导航和具体业务流程接起来。 大语言模型时代，人们习惯用参数量判断能力。但机器人真正走进物理世界后，参数只是其中一个数字。 它还得反应够快、记得住、断网能跑，数据留得下来，遇到意外能够恢复，成本也要控制在企业愿意长期使用的范围内。 从这个角度看，1.5B和0.9B的意义，也就不止是“小”。它们更像是在回答一个很现实的问题： 当AI真正长出手脚，除了聪明，还得跑得动、用得起，最后把活干完。
| GitHub链接： https://github.com/OpenBMB/MiniCPM-Robot HuggingFace链接： https://huggingface.co/openbmb/MiniCPM-RobotManip https://huggingface.co/openbmb/MiniCPM-RobotTrack。
Current article:http://m9it4.michengyuraochixun.buzz/news/20260826_8945.html
Published on:05:42:50