通过任务感知生成不确定性实现对分布外输入鲁棒性.pdfVIP

2019年国际机器人与自动化会议（ICRA）蒙特利尔会议，蒙特利尔，

2019年5月20‑24日

通过任务感知生成不确定性实现对分布外

输入的鲁棒性

1121

RowanMcAllister,GregoryKahn,JeffClune,SergeyLevine

—深度学习为机器人在开放世界中的感知了一种推理在实际中仍然会产生过度自信且校准不良的预测，尤其是

强大的工具。然而，现实世界的机器人系统，尤其是移动机器在分布外数据上[6]。

人，必须能够在意外情况下智能且安全地作出反应。这需要一个另一类方法使用生成模型来检测异常观察值[7],[8]。

系统能够知道它所知道的内容，并能对其不熟悉的、分布外的观然而，仅凭异常观察值并不一定表明存在不安全情况。

察进行不确定性估计。近似贝方法通常用于估计神经网络预例如，一个使用相机图像避免碰撞的地面机器人，如果是

测的不确定性，但在处理分布外观察时遇到。生成模型原则在白色天花板的建筑物中训练的，那么在黑色天花板的建

上可以将分布外观察检测为具有较低估计密度的情况，但作为不筑物中仍然可能表现良好。但是，如果将机器人放置在这

确定性度量过于悲观，因为分布外输入的存在本身并不表明存在

样的建筑物中，生成模型方法可以立即检测到高不确定

不安全情况。直观上，我们希望有一个感知系统，当图像的任务

性，即使天花板的颜色对模型的任务没有影响。简而言

相关部分不熟悉或不确定时能够检测到，同时忽略任务无关的特

征。在本文中，我们提出了一种结合生成建模和模型不确定性的之，仅基于检测异常观察值的方法过于悲观，不了解观察

不确定知机器人感知方法。我们的方法估计了关于模型预测中的哪些部分与机器人的任务或安全相关。

的不确定性度量，考虑了一个显式的观测分布生成模型来处理分

布外输入。我们在模拟和数据的动作条件碰撞预测任务上评本文提出了一种概率框架，用于处理分布外状态而

估了我们的方法，并证明我们的方法优于多种贝神经网络技不过于悲观。我们的框架使用生成模型将输入状态投影到

术。

训练分布上，并使用一个动作条件下的贝预测模型，

将投影的输入状态映射到任务相关的预测。该框架的两部

分都可以实例化为深度神经网络模型，这些模型可以扩展

I.引言到输入，如图像。作为案例研究，我们评估了动作条

件下的碰撞预测，其中地面机器人必须根据图像观察预测

深度学处理复杂的感官输入方面非常有效，因

给定的动作序列是否会导致碰撞。我们在仿真和控制

此为机器人、自动驾驶汽车和其他自主系统了一种

汽车的数据中进行了实验。虽然我们的方法是由问题

强大的工具，以解释复杂的非结构化环境并做出智能决

的概率结构所驱动的，但它在与神经网络函数近似和近似

策。然而，深度神经网络无法可靠地估计其自身预测的

推理结合时，对于现实中的分布外输入并不能具体的

置信度（不确定性）。这给安全关键应用