教导视觉-语言-动作模型安全停止

媒体报道 Hugging Face Papers 原文语言:中文

针对视觉-语言-动作(VLA)模型在执行过程中难以安全停止和控制物理响应的问题,研究人员引入了状态感知回退模仿(SAFI)方法。实验表明,该方法在 LIBERO 任务中将接管后的目标成功率降至 1.3%,且没有记录到物理事故。

全文

视觉-语言-动作(VLA)模型使机器人能够根据视觉观测和语言指令执行各种任务。虽然先前的研究已经探讨了任务抑制和拒绝机制,但在执行过程中一旦开始便要阻止违规行为以及控制随后的物理响应仍然具有挑战性。我们的评估表明,从初始状态抑制某任务的策略在执行中途接管时仍能将其完成。即使任务未完成,机器人也可能会丢下手头拿着的物体,这使得“未完成”无法作为衡量安全性的充分指标。为了应对这些挑战,我们针对持有物体可提供适当替代响应的任务,引入了状态感知回退模仿(SAFI)。SAFI包含两个阶段:(1) 回退目标构建,在整个违规任务演示过程中指定静止的手臂指令和一致的夹爪目标;(2) 联合策略适配,在学习这些目标的同时保留原任务的动作。这种监督在中间执行状态下教导了一种明确的替代响应,同时保持了机器人的其他技能。在LIBERO和BadLIBERO任务中对OpenVLA-OFT进行的广泛实验评估了违规完成情况、物理事故以及保留任务的性能。在评估的LIBERO任务中,SAFI将接管后的总体目标成功率降低至1.3\%,没有记录到物理事故或动作饱和,同时保持了很高的保留任务成功率。

查看 arXiv 页面 查看 PDF 项目页面 GitHub 0 添加到收藏夹

正文为 AI 译文。

参考来源

← 返回每日AI报告