广告
如何证明自动驾驶的安全性？
2019-06-26 00:33:18· 来源：Astroys
UL 4600能否成为新的AV的安全标准？Waymo、Uber或通用Cruise等公司都声称他们的robocar可以达到商业部署的安全性。但对于任何自动驾驶车辆（AV）的安全性进行靠
UL 4600能否成为新的AV的安全标准？
Waymo、Uber或通用Cruise等公司都声称他们的robocar可以达到商业部署的安全性。但对于任何自动驾驶车辆（AV）的安全性进行靠谱的探讨，都需要比他们提出更多地证明。厂家必须能够证明那些AI驱动的车辆符合特定和严格的标准。
所以，接下来的问题就变成了：
- 哪个安全标准？
- 谁在制定标准？
- 车辆如何测试？
- 谁来“评估”AV的安全性？
- 我们能相信评估员吗？
以上问题都没有简单的答案。此外，安全标准，特别是针对AI驱动的车辆，其实有着不少不为人知的波折。
简而言之，基于AI的AV运行在黑匣子中的机器学习算法上。内部运作本质上是概率性的，几乎不可能确定他们为什么做出任何某种决策。
既然如此，科技公司和主机厂采用什么策略来验证AV的安全性呢？
- 公众是否会接受用汽车行业传统的认证方法对AV的安全性进行认证？有人可能还记得由FAA（显然不如以前认为的那么独立）对波音737 Max MCAS系统进行的轰炸认证。
- 任何安全标准都可以跟上AV快速迭代的算法和软件代码吗？
- AV安全标准的有效性可能是短暂的，且注定会很快过时，这种想法是可取的吗？
UL 4600标准草案
在此背景下，Underwriters Labs目前正在制定“自动产品评估安全标准”UL 4600。他们表示其标准技术专家组（STP）成员于6月12-13日首次进行了会面，审查并讨论了标准的初稿。
EE Times上周采访了Edge Case Research的联合创始人兼首席技术官Phil Koopman，他是该草案的主要技术贡献者。
第一次会议的会议记录尚未公布。然而，Koopman将第一次会议描述为“非常积极和有建设性”。他说，成员们已经找到了必须有待解决的UL 4600的所有主要问题。
谁在名单上？
根据UL网站，UL 4600小组列出了约30名具有投票权的STP成员。它们包括芯片供应商英伟达、瑞萨、英特尔和英飞凌；商用AV用户和开发商通用、Uber、蔚来、博世、Argo AI和Aurora。美国运输部（DoT）和宾夕法尼亚州DoT都派了代表参加。有趣的是，UL 4600的STP还包括三家保险公司，AXA、Liberty Mutual和Munich Re America。
为了追求透明度和更广泛的包容性，UL 4600小组正在寻求愿意注册为“利益相关方”的任何责任方。一旦注册并获得批准，利益相关方可以要求对标准草案进行审核和评论。虽然利益相关方没有投票权，但Koopman解释说，它们的加入很重要，以确保一个“非常开放的流程”并表明AV安全是一个“公共政策问题”。
UL 4600、ISO 26262、SOTIF
UL 4600是汽车安全标准中“新成员”。ISO 26262已经存在，而ISO/PAS 21448（safety of the intended functionality，SOTIF）正在开发阶段。关于UL 4600的最常见的旨意就是“为什么汽车行业还需要一个标准呢”？
Koopman明确表示“解决潜在的重复部分是一项持续的工作”，并强调UL 4600小组与ISO 26262和ISO/PAS 21488的领导者保持着密切联系。
基于无人类驾驶员（责任方）的系统假设来制定安全标准是UL 4600与其它标准的区别。
Koopman指出：“相比之下，现有标准，如ISO 26262和ISO/PAS 21448都是基于有人类驾驶员的车辆而制定的。”在他看来，robocar和其它自动驾驶系统中的技术超出了这些和其它传统安全标准的范畴。这些标准是必要的，但还不够。
“你是否想过那个问题？”
换句话说，Koopman认为在开发AV时，工程师们很快就会发现他们以前从未想过的许多问题。谈到“无人类驾驶员的车辆普遍存在的影响”，他将这些项目置于“你是否想过那个问题（Did you think of that）”的主题下。
因此，与其它标准相比，UL 4600将更具说明性。Koopman说：“虽然ISO 26262和SOTIF将安全作为靶向‘目标’，但UL 4600提供了‘靶心’。例如，UL 4600将为工程师们提供许多细节。例如，’如果你正在做X，别忘了做Y’……”
制定安全案例
UL 4600与技术无关。它没有规定在商业部署之前应该使用哪种传感器技术或必须达到多少英里的路测里程。相反，UL 4600专注于确保“创建有效的安全案例”。根据UL 4600的观点，安全案例包括三个要素：目标、论证和证据。
比如，如果特斯拉不想在AV中使用激光雷达也没问题。但UL 4600会要求特斯拉提出安全案例，特斯拉必须有效地证明“根据预期的操作设计范围内的任何所安装的传感器，相关对象都可以被成功检测、分类。”换句话说，你可以使用想要的任何工艺或技术。但如果你没有测试它们，就不会被相信。
同样，UL 4600不是要求X英里的道路测试，而是要求供应商证明“已进行了可接受的强大的分析、模拟、封闭式过程测试和安全公路测试，以确保适当的系统安全水平和每个软件更新。”
Koopman表示，UL 4600并未尝试为基于计算机的系统安全发明另一种基于V循环的工程流程。相反，它“用于获取现有和潜在的新设计和验证过程产生的信息，并把如何将结果组织成一个连贯的安全案例标准化。”
Koopman说：“提出安全论据并不是特别容易。你可以这样思考，你已经开发了许多产品以确保安全。你有一个装满文件的文件柜。UL 4600将帮你整理这些文件，构建它们，并使所有必须测试的项目显而易见。”他又补充到，关键是“要有办法确保设计团队不会错过可以合理预见的东西”。
管理未知的未知数
传统IEEE标准的一个弱点是它们不是为频繁更新而设计的。据推测，传统标准可能经常“在线”更新。但到目前为止，此类更新没有内置机制来验证其安全性。
相比之下，Koopman声称UL 4600使用反馈回路来管理未知的风险。而不是“假装工程师已经考虑过所有事情（他们没有，他们不会）”，该标准适用于负责任地管理不确定性。
特别是在机器学习的时代，标准必须有一个内置机制来适应变化。Koopman说：“我们称之为持续维护。这就是UL 4600工艺的工作原理。”
这意味着那些参加UL 4600的人被问到“如果你发现了什么，请将其发送给”UL 4600组。用户不仅要报告灾难性故障，还要报告“接近故障”的部分，以便UL 4600小组可以研究并修复故障。
Koopman说：“这就是我们计划让成员了解情况的方法。”该小组承诺在几个月内提供紧急更新，并可能每年定期更新。
激进的时间表
UL 4600小组正以非常激进的速度在进行相关标准的开发。STP的评论将在今年夏天进行审核，因此该小组可以创建一份修订草案，该小组称之为“初步审核版本”。
一旦STP的评论得到充分解决，该版本将发布给利益相关方。Koopman表示，将会计划在8月或9月初进行。一旦分发给利益相关方，UL 4600草案的版本将成为公共标准草案。
注册的利益相关方有权发表评论，但没有投票权。经过一轮或多轮对STP和利益相关方意见的考虑后，STP将进入投票阶段。如果一切顺利，结果将成为2019年末或2020年初的公共标准。
广告
广告
编辑推荐
最新资讯
-
氢燃料电池卡车创企“冰河时代”！HVS命悬
2024-11-17 09:45
-
小米端到端大模型：智能驾驶的“新大脑”
2024-11-17 09:44
-
阿斯顿马丁推出新款 F1 模拟器
2024-11-17 09:43
-
汽车动力电池系统试验综述
2024-11-16 08:25
-
汽车可靠性前沿技术研讨会在重庆成功召开
2024-11-16 07:33
广告
广告
