自动驾驶,自动驾驶汽车

自动驾驶汽车发生事故谁来负责?

对于希望培育自动驾驶汽车(AV)未来的监管机构来说,这可能是一个困扰他们的政治现实。

对于希望培育自动驾驶汽车(AV)未来的监管机构来说,这可能是一个困扰他们的政治现实。而对于公众来说,这在心理上是站不住脚的,尤其是如果AV恰好伤害了他们身边的人。
 
但从技术角度来看,这种必然性恰恰是那些想要开发更安全AV的工程师们的出发点。
 
英特尔的高级总工程师兼Mobileye自动驾驶汽车标准的副总裁Jack Weast表示:“世界上最安全的人类司机是永远不开车的司机。”这是他在解释RSS含义的讲座中打的一个比方。
 
Strategy Analytics的全球汽车业务副总裁Ian Riches对此回应到:“Weast是正确的,唯一真正安全的车辆就是静止的车辆。”
 
因此,如果我们希望看到可以在公共道路上实际运行的商用AV,该怎么办呢?
 
在AV生态系统能够回答该问题之前,必须开启另一个悬而未决已久的话题:当robocar发生致命事故时,谁来负责?2020年将是行业最终不得不要面对这只“魔鬼”的一年。
 
一方面,AV技术供应商喜欢引用诸如世界卫生组织(WHO)报告中的“每年135万道路交通死亡人数”之类的数字,他们将其高度自动驾驶的技术营销成道路安全的最终解决方案。他们渴望描绘零事故的美好未来,因此使用统计数据来解释社会为何需要AV。
 
去年全球发生了135万起道路死亡事故(Source:WHO Global Status Report on Road Safety 2018)去年全球发生了135万起道路死亡事故(Source:WHO Global Status Report on Road Safety 2018)
 
另一方面,技术界中的大多数人都在回避AV发生故障时谁应来担责的问题。他们对法律问题感到无能为力,无法给出答案。因此,他们宁愿将责任归咎于监管机构和律师。
 
在这种背景下,Intel/Mobileye显得脱颖而出。正如Weast所说:“Intel/Mobileye不怕问一个棘手的问题。”在开发RSS时,他们的工程师花了大量时间来考虑“足够安全到底是多安全”这个最令人不舒服的话题,Weast在最近接受的采访中对此进行了描述。
 
他说:“我们都想说AV将减少交通事故,但将AV描述为零事故风险的表述存在局限性。事实是,事故是不可避免的。当然,我们的目标是使事故发生的几率尽可能降低。但你不能从零事故的位置开始进行AV开发,也不能认为一个事故就太多了。”
 
预定的规则集
 
Intel/Mobileye通过开发RSS在AV行业有着领导地位,RSS是“一套预定的规则,可以在AV与人类司机驾驶的汽车发生碰撞时快速、总结评估和确定责任。”
 
当发生碰撞时,Mobileye写道:“可能需要几个月的调查时间。即使全部都是人类驾驶的场景中,也可能无法立即得知原因。由于涉及AV,因此公众关注度将很高。”
 
鉴于此类事不可避免会发生,Mobileye寻求一种解决方案,该解决方案“基于数学模型预先为故障设定清晰的规则”。如果规则是预先确定的,则调查时间可能就会大大缩短且基于事实,并且可以最终确定责任。
 
“当此类事件不可避免地发生时,这将增强公众对AV的信心,并为消费者及汽车和保险行业阐明责任风险。”
 
大多数科学家都同意,即使AV没有像诸如酒驾或驾驶时发短信等人类驾驶场景中的安全隐患,实现零碰撞目标也是不可能的。
 
“当然,我们希望零碰撞,但在不可预测的现实世界中是不可能的。”Edge Case Research的CTO兼CMU教授Phil Koopman说到。“重要的是我们要避免可预防的不幸。将期望设定为‘比人类司机好很多’是合理的。完美的目标要求太多。”
 
即便是这样,划分事故责任的概念也使每个人都不舒服。
 
The Linley Group的高级分析师Mike Demler说:“我在最初的RSS文章中看到的最大问题是它对追责的重视。它包括定义AV的动作和动作的数学模型,我认为这恰恰是它的优势。但缺点是,它指出该模型从规划的角度保证了AV不会造成任何事故。”
 
站在消费者的立场上来思考,如果你是一名AV的乘客,或是可能发生事故的车辆的乘客,那么谁的过失是最无需担心的事情,这是由律师和保险公司确定的。你只是不想受伤。
 
但如果你是设计AV的人,就无法无视罪魁祸首。
 
Demler引用了英伟达为回应RSS而发布的《The Safety Force Field》这篇论文,本文几乎全部集中在数学模型上。他说:“更难形式化的问题是构成‘安全’驾驶的因素。”
 
例如,RSS在AV周围制造了Weast所说的“安全泡沫”。Demler说:“后车与前车应该相距多远似乎很明显。但不可能对每种可能的驾驶场景进行建模并描述‘安全’的行动方案。”
 
Demler指出,“尽管AI越来越强大,但计算机仍然无法推理。”因此,AI驱动的AV只能遵循规则。
 
但人类司机明白规则是用来打破的。Demler说:“在某些情况下,要避免发生事故,可能需要采取规避策略,否则将被认为是不安全的。例如,即使你要切入与其他车辆相距‘不安全’距离的另一条车道,也要绕过障碍物迅速加速。”
 
上面公式计算的是后车和前车之间的安全纵向距离(Source:Intel/Mobileye)上面公式计算的是后车和前车之间的安全纵向距离(Source:Intel/Mobileye)
 
Demler想知道我们是否真的有能力预见所有潜在的情况,并为每种情况教导机器人安全的行动方案。这可能是一个反问。
 
RSS作为“讨论的推动者”
 
同时,并非所有人都认为RSS是澄清事故责任的最终结论。
 
Strategy Analytics的Riches说:“相反,RSS使行业与监管机构之间能够就公共事业与安全之间的界限划分问题进行讨论。这也使那条线成为可以随地域和时间变化的动态线。”
 
Riches承认“这里存在着固有的政治挑战”,因为“许多人仍然坚持‘一次致命事故就已经够了’的信念。作为理论目标,零事故很好,而且它应该继续成为激发并推动行业发展的动力。不幸的是,作为实践准则,这是行不通的。”
 
他预测,严格的执法可能会延迟甚至停止引入能够平衡挽救许多生命的技术。他说:“实用主义并不总是很漂亮,但它最终可能伤害到的人往往比那些看起来漂亮的方案更少。”
 
拥抱AI驱动的技术
 
2020年,我们有望看到更多由AI驱动的技术解决方案。我们已经看到了功能强大的监控摄像头(虽然有些人说有偏见)能够识别(或有时会误识别)人群中的个人。同时,像Facebook、Google和Amazon之类的技术平台公司已证明在诸如语音、同声传译/翻译以及修图等应用程序中广泛使用了AI驱动的技术。
 
AV与其他采用了AI的应用程序和产品的不同之处在于,AV带来意想不到的后果可能会导致人员伤亡。
 
人们通常认为技术进步是生活中不可避免的事实。有鉴于此,尽管存在一些不便的事实(其中包括将发生涉及AV的事故),但技术社群应紧跟进步的步伐,而不是让无法实现的“绝对完美”(Riches之前提到的)成为障碍。
 
Demler指出:“确实,许多工程师以‘不是技术问题,而是心理和社会问题’来合理化AV的事故。”
 
但是麻烦在于“有多少人说他们需要AV?”Demler问到。“好处被夸大了。我的观点是,就像巡航控制系统从模拟系统向数字ACC的演进一样,人们将逐渐接受自动驾驶功能,但这种向AV世界的飞跃实在太大了。唯一会发生的地方是拥有威权政府的国家。”
 
制定行业标准的努力
 
尽管政治和社会问题可能很难为科技界所掌握,更不用说缓解了,但业界对AV技术标准达成一致可能对建立监管者和消费者对robocar的信心大有帮助。
 
Riches指出,RSS只是大拼图中的一块小拼图。“要继续这个比喻,可以公平地说,我们还没有100%知道整幅拼图的图画到底是什么,仍然需要找到其中的一些拼图。”
 
英伟达产业安全副总裁Riccardo Mariani在最近的采访中,提出在2020年会出现AV安全里程碑的浪潮(参考:2020将掀起一波自动驾驶安全标准的浪潮)。它们包括几个专门针对AV安全而批准的IEEE工作组。IEEE P2846、IEEE P2851以及即将发布的UL 4600和两个现有的ISO标准:ISO 21448(预期功能的安全性的SOTIF)和ISO 26262(功能安全性)。
 
这并不是说这些标准涵盖了确保AV安全的所有需要开发的标准。
 
例如,正如英特尔在其关于RSS的文章中所述,“虽然RSS决策软件的设计不容许因AV驾驶决策而引起意外,但传感器系统的错误(即有关用于决策的驾驶环境的信息)或机械故障等仍然有可能引发事故。”
 
Koopman称RSS“重要且非常有用”,指出RSS在车辆运动控制方面提供了“足够安全”这个含义的一部分。他说,RSS会假设感知和相关功能正常运行。然后,根据设计,RSS将其“留给了感知部分的其他安全标准”。
 
Riches说:“就其他类型标准而言,关键可能是某种形式的达成共识的方法,用于实际确定怎样才算是足够安全。”他告诫说,RSS不能解决“多少事故每千公里”的数据才是社会可以忍受的。
 
他说:“比起科学领域,那些问题更多是政治领域应该来探讨的。RSS所做的是提供一个使讨论能够进行的框架。”
 
要为AV颁发驾驶执照吗?
 
Riches说:“最终,关键的‘标准’可能是某种形式的‘电子驾驶执照’,每个自动驾驶解决方案都必须先通过,然后才能被允许进入公众领域。我所了解的大多数人都同意,但他们也认为我们可能仍然不太了解问题,无法定义驾驶执照。”
 
目前AV测试是一个媒体热门话题。被问到这一点时,Weast说:“当然,我知道就像司机必须通过视力测试一样,人们也希望AV能够在驾驶时展现出自己的感知能力和良好的决策能力。”
 
他说:“虽然RSS并不是测试,但从本质上讲,我们支持对AV进行驾驶测试的想法。”
 
UL 4600的主要起草人之一Koopman同样承认UL标准“不是路考”。
 
Koopman说,通过这样的测试(检查自己的技能)只是Riches之前提到的拼图中的一块。他说:“在我看来,驾驶证考试有三大方面。一个是笔试,看看你是否了解这条路的所有规则;另一个是路考,有必要看看这些车辆是否能够做基本的事情。”
 
“但问题是,路试并不能证明它就是安全的,因为第三部分(获得驾驶执照所必需的)是出生证明,要证明司机已年满16岁并且是人类(或18岁,各地标准都不太一样)。”
 
Koopman说,必须要问的问题是,当青少年独自驾驶时,AV模型是否具有与16岁的人类一样的“常识”。
 
公平地说,相对于专家们的真诚,科学界和工程界尚无人提出可信的答案。
关注自动驾驶之家微信公众号

扫描关注,获取干货

文章来源:Astroys / 文章作者:Astroys  →深度观察
声明:本文来源“Astroys”作者“Astroys”,版权归作者所有,不代表自动驾驶之家官方立场。转载请注明出处、作者和文章链接,如果有侵权,请联系删除。
收藏