自动驾驶系统的纠结处:在虚警和漏警之间不断徘徊 – 自动驾驶,无人驾驶,AI – IT之家

by admin on 2020年2月29日

图片 1

据国外媒体报道,最新发布的Uber自动驾驶车祸初步报告表明,虽然工程师力求自动驾驶汽车系统能够不犯错误,但事实上自动驾驶系统是在虚警和漏警两种状态下不断权衡。

图片 2图片 3

今年3月份Uber旗下自动驾驶汽车发生了致命车祸,该事件的新细节不仅凸显了这个问题的难度,还表明了它的核心地位。

无论是医疗测试系统,安检设备或者能够让自动驾驶汽车感知和评估周围环境的软件,任何检测系统在开发时都极力避免假阴或假阳的问题。但是规避这种问题的困难在于,越是远离一方,就越接近另一方。

科技媒体 The Information 称,两位知情人士透露,Uber 车祸( 3
月份亚利桑那州一辆原型自动驾驶汽车撞击行人致其死亡)的原因是一个软件问题,这个软件决定汽车应该如何应对它所探测到的物体。汽车的传感器探测到正骑着自行车过马路的行人,但是
Uber 的软件决定汽车不需要马上做出反应。和其他无人车系统一样,Uber
软件有能力忽略假阳性,或者说道路上那些不会真构成威胁的物体,比如一个漂浮在路面上的塑料袋。
在这种情况下,Uber
的高管们相信,系统会进行调试以对这些情况做出不那么大的反应。
但在这个事故中,调试太过,车辆反应也不够快,其中一位知情人士说。

根据美国国家运输安全委员会上周发布的初步报告,Uber汽车上的自动驾驶系统在发生车祸前6秒钟就发现了涉事行人伊莱恩·赫茨伯格(Elaine
Herzberg)。自动驾驶系统最初将其识别为一个未知对象,然后是一辆车,最后是一辆自行车。(她正在推着一辆自行车横穿马路。)大约在车祸发生前一秒,系统确定需要猛踩刹车。但是Uber的自动驾驶系统并没有也不会执行这个决定,
NTSB在报告中解释道。Uber的工程师之所以阻止汽车自动急刹是“为了减少车辆在行驶过程中不稳定的可能性”。(而公司依靠安全员来避免碰撞,这是另外一个问题。)

今年3月份Uber旗下自动驾驶汽车发生了致命车祸,该事件的新细节不仅凸显了这个问题的难度,还表明了它的核心地位。

与此同时,开车的司机本应接管并防止事故发生,但在汽车以接近每小时 40
英里速度撞击伊莱恩 ·
赫兹伯格之前的几秒钟,他并没有注意到。在碰撞调查中,Uber
发现,自动驾驶汽车的一个重要部分很可能仍在正常工作,亦即感知软件,这种软件结合了汽车相机、激光雷达和雷达数据,以识别和标记周围的物体。感知软件被认为已经看到了行人,问题在于更广泛的系统选择如何处理这些信息。目前还不清楚
Uber 对司机采取了什么行动,但该公司此前在一份公开声明中表示,Uber
仍然雇佣 了他。
该公司与受害者家属达成了财务协议,受害者被认为是第一个死于自动驾驶汽车原型的人。

Uber的工程师之所以决定不让汽车自动刹车,因为他们担心系统会对那些不重要或根本不存在的事情反应过度。换句话说,他们非常担心误报。

根据美国国家运输安全委员会上周发布的初步报告,Uber汽车上的自动驾驶系统在发生车祸前6秒钟就发现了涉事行人伊莱恩·赫茨伯格。自动驾驶系统最初将其识别为一个未知对象,然后是一辆车,最后是一辆自行车。大约在车祸发生前一秒,系统确定需要猛踩刹车。但是Uber的自动驾驶系统并没有也不会执行这个决定,NTSB在报告中解释道。Uber的工程师之所以阻止汽车自动急刹是“为了减少车辆在行驶过程中不稳定的可能性”。(而公司依靠安全员来避免碰撞,这是另外一个问题。)

而这个发现,可能会促使其他的自动驾驶汽车开发者去检查自己所做的有关处理潜在误报方面所做的软件调整。其实,Uber
之所以会调整自己的系统使其对车周围的物体不那么谨慎,是有原因的:Uber
正在尝试开发一款舒适的自动驾驶汽车。 相比之下,最近 Waymo
和通用汽车(General
Motors)巡航车上的乘客表示,尽管看不到任何威胁,但突然踩下刹车的人可能会突然停下来。
这通常是由于车辆对误报作出反应。 Uber
认为,一个不断猛踩刹车、停下来的自动驾驶汽车原型也是危险的。一位知情人士表示,在
3 月份发生事故之前,Uber 一直在追赶对手,实现年终目标: 允许乘坐 Uber
自动驾驶的沃尔沃自动驾驶汽车,而不需要安全驾驶员坐在后面。据两位熟悉内部反应的人士透露,在得知行人死亡后,部分人在办公室里掉了眼泪。
这些人说,从那以后,大多数员工都被蒙在鼓里,不知道哪里出了问题。

众所周知,自动驾驶汽车传感器会将蒸汽,汽车尾气或纸板碎片曲解为类似于混凝土之类的障碍物。它们也会把一个站在人行道上的人误认为准备跳到马路中央的人。错误的判断不仅会让汽车频频急刹,也会让乘客感到不安。

Uber的工程师之所以决定不让汽车自动刹车,因为他们担心系统会对那些不重要或根本不存在的事情反应过度。换句话说,他们非常担心误报。

该部门的负责人埃里克•梅霍费尔( Eric Meyhofer
)告诉研究小组,开发自动驾驶汽车将最终结束与汽车导致的相关死亡,因此他们应该继续他们的工作。目前还不清楚
Uber
可能会对其系统进行什么样的改革,以便雇佣和监控那些坐在原型车后面、出现问题及时接管的人。
但是,自主开发过程需要很多年,所以 Uber
有机会雇佣司机,更好地培训他们,或者为有多年专业经验的司机支付费用,就像公司开始时那样,付钱给豪华轿车司机来接送乘客。
大多数无人车项目会雇佣 20 岁出头到30 岁左右的司机,每小时支付 25
美元左右。
公司培训司机通过测试,并监管他们的行为。无人车开发人员说,人类安全员(比如
Uber 原型中的那个)是创建一个有能力的自动驾驶系统的必要条件。
雇佣更好的司机,给他们更好的工具来避免这样的事故,比如当系统决定忽略某些对象并认为它们不是威胁时,视觉或音频警报也可能是必要的。
否则,司机就有可能对自动驾驶系统的监控感到自满,并且会发生更多的事故。大多数开发项目中,会在测试过程中让两个人随时待在车里ーー安全驾驶员和乘客座位上的某个人,他的工作就是记录出现的问题。
在事故发生之前,Uber 已经将第二个人从亚利桑那州的一些测试车辆上去掉了。
从安全角度来看,第二个人究竟有多大用处还不得而知。

自动驾驶巴士公司May Mobility创始人埃德·奥尔森(Ed
Olson)表示:“误报是非常危险的。一辆突然刹车的汽车很可能会失控。”

众所周知,自动驾驶汽车传感器会将蒸汽,汽车尾气或纸板碎片曲解为类似于混凝土之类的障碍物。它们也会把一个站在人行道上的人误认为准备跳到马路中央的人。错误的判断不仅会让汽车频频急刹,也会让乘客感到不安。

但是开发人员若刻意避免误报,无意中也会让开发的软件过滤掉很多重要的数据。特斯拉的辅助驾驶系统Autopilot就是如此,其能够让特斯拉电动汽车保持在车道上行驶并自动远离其他车辆。为了避免车载雷达传感器每次发现公路标志或废弃轮毂盖时就会采取制动措施(误报),Autopilot系统会自动过滤掉任何不动的物体。这就是为什么辅助驾驶系统看不到停止的消防车。在过去几个月中,特斯拉电动汽车在Autopilot系统下行驶时先后两次高速撞上停在路边的车辆。这恰恰是自动驾驶汽车系统的假阴性问题。

自动驾驶巴士公司May
Mobility创始人埃德·奥尔森表示:“误报是非常危险的。一辆突然刹车的汽车很可能会失控。”

正确或错误

但是开发人员若刻意避免误报,无意中也会让开发的软件过滤掉很多重要的数据。特斯拉的辅助驾驶系统Autopilot就是如此,其能够让特斯拉电动汽车保持在车道上行驶并自动远离其他车辆。为了避免车载雷达传感器每次发现公路标志或废弃轮毂盖时就会采取制动措施,Autopilot系统会自动过滤掉任何不动的物体。这就是为什么辅助驾驶系统看不到停止的消防车。在过去几个月中,特斯拉电动汽车在Autopilot系统下行驶时先后两次高速撞上停在路边的车辆。这恰恰是自动驾驶汽车系统的假阴性问题。

在忽略无关紧要的事物和抓住关键点之间取得平衡,就能够认识到如何调整自动驾驶软件算法的“旋钮”。你可以调整系统如何对检测到的内容进行分类和作出响应,并根据所收集的数据进行重新测试。

正确或错误

像任何工程问题一样,这是两者相权取其轻的问题。
“你不得不做出妥协,”奥尔森说。对于许多自动驾驶汽车的开发者来说,答案是让汽车更加谨慎一些。相比于16岁孩子获得的赛车礼物,坐在卡迪拉克豪华轿车上的老年人要更多。

在忽略无关紧要的事物和抓住关键点之间取得平衡,就能够认识到如何调整自动驾驶软件算法的“旋钮”。你可以调整系统如何对检测到的内容进行分类和作出响应,并根据所收集的数据进行重新测试。

但一辆过于谨慎的汽车也会让人感到沮丧。他们可能想要加速,在乘坐过程中会感觉不耐烦。此外,自动驾驶汽车过于谨慎也极不方便且代价高昂:其很可能会一旦有发生碰撞的微弱可能性就去猛踩刹车,反而会导致更多追尾。

像任何工程问题一样,这是两者相权取其轻的问题。“你不得不做出妥协,”奥尔森说。对于许多自动驾驶汽车的开发者来说,答案是让汽车更加谨慎一些。相比于16岁孩子获得的赛车礼物,坐在卡迪拉克豪华轿车上的老年人要更多。

每当开发人员摆弄这些旋钮时,他们都必须重新测试系统,以确保自己对结果感到满意。
“这是你在每个开发周期中都想看到的东西,”Edge Case
Research的联合创始人兼首席执行官迈克尔·瓦格纳(Michael
Wagner)说,该公司帮助机器人公司开发更强大的软件,这非常耗时。

但一辆过于谨慎的汽车也会让人感到沮丧。他们可能想要加速,在乘坐过程中会感觉不耐烦。此外,自动驾驶汽车过于谨慎也极不方便且代价高昂:其很可能会一旦有发生碰撞的微弱可能性就去猛踩刹车,反而会导致更多追尾。

所以,如果你在前行和踩下刹车之间不断徘徊,并想知道你的自动驾驶汽车到底在干什么时,需要清楚它自己也处于两种情况的中间状态。

每当开发人员摆弄这些旋钮时,他们都必须重新测试系统,以确保自己对结果感到满意。“这是你在每个开发周期中都想看到的东西,”Edge
Case
Research的联合创始人兼首席执行官迈克尔·瓦格纳说,该公司帮助机器人公司开发更强大的软件,这非常耗时。

图片 4

所以,如果你在前行和踩下刹车之间不断徘徊,并想知道你的自动驾驶汽车到底在干什么时,需要清楚它自己也处于两种情况的中间状态。

发表评论

电子邮件地址不会被公开。 必填项已用*标注

网站地图xml地图