多任务机器人学习在应对多样化和复杂情景方面具有重要意义。然而，当前的方法受到性能问题和收集训练数据集的困难的限制。

这篇论文提出了GeRM（通用机器人模型），研究人员利用离线强化学习来优化数据利用策略，从演示和次优数据中学习，从而超越了人类演示的局限性。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

作者：宋文轩，赵晗，丁鹏翔，崔灿，吕尚可，范亚凝，王东林

单位：西湖大学、浙江大学

论文地址：https://arxiv.org/abs/2403.13358

易标AI

告别低效手工，迎接AI标书新时代！3分钟智能生成，行业唯一具备查重功能，自动避雷废标项

135 查看详情

项目地址：https://songwxuan.github.io/GeRM/

之后采用基于Transformer的视觉-语言-动作模型来处理多模态输入并输出动作。

通过引入专家混合结构，GeRM实现了更快的推理速度和更高的整体模型容量，从而解决了强化学习参数量受限的问题，提高了多任务学习中的模型性能，同时控制了计算成本。

通过一系列实验证明，GeRM在所有任务中均优于其他方法，同时验证了其在训练和推理过程中的效率。

此外，研究人员还提供了QUARD-Auto数据集以支持训练，该数据集的构建遵循文中提出的数据自动化收集的新范式，该方法可以降低收集机器人数据的成本，推动多任务学习社区的进步。

主要贡献：

1. 首次提出了用于四足强化学习的混合专家模型，其在混合质量的数据上进行训练，从而具备习得最优策略的潜力。

2. 与现有方法相比，GeRM在只激活自身1/2参数的情况下展现出更高的成功率，激活了涌现能力，同时在训练过程中展现了更优的数据利用策略。

3.提出了一个全自动机器人数据集收集的范式，并收集了一个大规模开源数据集。

方法

GeRM网络结构如图1所示，包含示范数据和失败数据的视觉-语言输入，分别经过编码器和tokenizer后输入到8层混合专家结构的decoder中，并生成动作token，最终转化为离散的机器人动作数据并通过底层策略部署到机器人上，此外我们用强化学习的方式进行训练。

图1 GeRM网络结构图

GeRM Decoder是一个包含 Transformer Decoder架构模型，其中前馈网络（FFN）从一组 8 个不同的专家网络中选择。

在每一层，对于每一个标记，门控网络选择两个专家来处理token，并将它们的输出加权组合。

不同的专家擅长不同的任务/不同的动作维度，以解决不同场景中的问题，从而学习跨多个任务的通用模型。该架构扩大了网络参数量，同时保持计算成本基本不变。

图2 Decoder结构图

我们提出了一个自动的范式来收集机器人多模态数据。通过这种方式，我们构建了一个大规模的机器人数据集QUARD-Auto，其中包含演示和次优数据的组合。它包括5个任务和99个子任务，总共有257k条轨迹。我们将进行开源以促进机器人社区发展。

表1 数据集介绍

图3 数据量统计

实验

我们进行了一系列全面而可靠的实验，涵盖了所有 99 个子任务，每个子任务进行了 400 条轨迹的精心测试。

如表1所示，GeRM在所有任务中具有最高的成功率。与 RT-1 和其他GeRM 的变体相比，它有效地从混合质量的数据中学习，优于其他方法，并在多任务中展现出优越的能力。与此同时，MoE 模块通过在推理时激活部分参数来平衡计算成本和性能。

表2 多任务对比实验

GeRM表现出令人称赞的训练效率。与其他方法相比，GeRM 仅需极少的batch就获得了极低的Loss和较高的成功率，凸显了GeRM优化数据利用策略的能力。

图4 成功率/Loss变化曲线

GeRM 在动态自适应路径规划方面展现出了涌现能力。如视频所示，四足机器人在初始位置视野受限，难以确定移动方向。为了避开障碍物，它随机选择向左转。

随后，在遇到错误的视觉输入后，机器人执行了大幅度的重新定向，以与原始视野之外的正确目标对齐。然后，它继续向目的地驶去，最终完成任务。

值得注意的是，这样的轨迹不属于我们的训练数据集分布之内。这表明 GeRM 在场景背景下的动态自适应路径规划方面具有涌现能力，即它能够根据视觉感知进行决策、规划未来路径，并根据需要改变下一步行动。

图5 涌现能力

以上就是用MoE横扫99个子任务！浙大等提出全新通用机器人策略GeRM的详细内容，更多请关注其它相关文章！

# ai  # 昌乐优化网站设计招聘  # 怎样做营销推广就选s火21星  # 金华seo外包  # 网站建设的需求文档  # 南阳seo推广  # 营销关键词排名优化策略  # 闽侯人工营销推广  # 贵州建设工程网站  # 如何用微信进行营销推广  # 自适应  # 过程中  # 进行了  # 模态  # 门控  # 更高  # 结构图  # 所示  # 开源  # 提出了  # git  # 模型  # 企业网站建设模板图片 

相关栏目： 【 行业资讯67740 】 【 技术百科0 】 【 网络运营39195 】

相关推荐： 怎么在项目中使用typescript  如何以管理员身份打开cmd命令行窗口  16苹果有哪些机型  夸克解压什么意思  如何查找固态硬盘  春运抢票如何抢连坐的票  三星相机里power是什么意思  51单片机贴片怎么*  固态硬盘损坏如何修复  2025年哪个局域网聊天软件好用  j*a怎么求数组均值  8寸照片尺寸多少厘米  得物上怎么样申请退换货 得物上退换货详细指南(包含海外）  为什么夸克书架书单没了  5G手机导航怎么旋转  小屏折叠屏手机有哪些  华为5g手机怎么用4g网络  typescript如何标记私有方法  命令行如何启动应用程序  空调控制面板power灯一直亮是什么意思  折叠屏手机哪个卖得最好  gs是什么意思  eraser是什么意思  如何学好typescript  单片机程序负数怎么表示  如何辨别固态硬盘坏块  光刻机分类有哪些品牌的  什么是unix时间戳  如何弄坏固态硬盘  soup是什么意思  春运抢票可以抢几次啊  单片机怎么做组合  台机如何安装固态硬盘  安装固态硬盘如何设置  苹果16都有哪些型号  电焊机power和oc是什么意思  type-c接口接地是什么意思  苹果16将会带来哪些升级  苹果16更新了哪些功能  壁挂炉power常亮是什么意思  performance是什么意思  问一下市盈率是什么意思  混合固态硬盘如何分区  如何查看网站域名解析  如何更新固态硬盘固件  如何在固态硬盘上安装win7系统  内网和外网区别 内网和外网有什么区别  单片机怎么发送can 信号  单片机怎么连接电路图  广东春运抢票怎么抢的