广告
Uber自动驾驶致死，检测到了行人但机器觉得无需避让？
2018-05-08 20:53:19· 来源：AutoLab 作者：田忠朝
一个细思极恐的问题，机器需要考虑伦理道德吗？今年3月份，Uber发生了全世界第一宗完全自动驾驶汽车致死事故，当时众多结论认为，是Uber无人车没有开启行人监测系统，换句话说，这是一起由硬件引发的车祸，但如今结果似乎有所反转。相互甩锅，真相依然扑朔迷离据美国科技新闻网站The Information 5月7日消息，Uber公司基本
一个细思极恐的问题，机器需要考虑伦理道德吗？
今年3月份，Uber发生了全世界第一宗完全自动驾驶汽车致死事故，当时众多结论认为，是Uber无人车没有开启行人监测系统，换句话说，这是一起由硬件引发的车祸，但如今结果似乎有所反转。
相互甩锅，真相依然扑朔迷离
据美国科技新闻网站The Information 5月7日消息，Uber公司基本查明了事故原因，两位消息人士透露，在这名女性横穿马路时，Uber无人车（改装自沃尔沃XC90）的传感器已经探测到了她，不过Uber的自动驾驶软件判断认为，系统无需对这位女性采取避让措施。
因为谷歌系的Waymo和通用汽车的Cruise常常稍有威胁就会急刹，而Uber的系统调整了判断策略，会忽略“误报”或其他不会成为问题的东西，比如路上漂浮的塑料袋等，而事发时这位女子手里好像确实拎着塑料袋……
也就是说，事故罪魁祸首是软件系统而不是各种传感器、摄像头在内的硬件系统。
我不知道是不是硬件方和软件方在相互甩锅，还是Uber为了给自己“技术不行”的传闻洗白，毕竟检测不到行人和能检测到完全是两个概念，后者只能说明大家对“安全文化”的理念不同（车祸发生后，有美国媒体指责说Uber自动驾驶汽车项目过去的负责人将发展速度放在第一位，安全是其次），而技术是没问题的。
但真相总归依然是扑朔迷离，或许与Uber共同调查的美国国家安全运输委员会（NTSB）稍后出具的调查报告会更详细些。
细思极恐，机器能决定人的生命了？
如果真的是软件判断觉得无需为行人违规买单，那么这件事就真的细思极恐了，因为机器已经开始决定人的生命了。
在人工智能机器人的发展过程中，都要求把保护生命作为第一原则，其实在自动驾驶汽车发展上也是如此，德国道德伦理委员会在2017年颁布的指导原则就规定了自动驾驶车辆对保护对象的优先等级：
人类生命＞动物生命＞财产损失。
机器伦理，拯救谁又该牺牲谁？
但问题时，如果同等级的生命受到威胁怎么办？这里又牵涉出伦理问题。
比如自动驾驶车辆过来时两个人同时过马路，两个中只能避开一个怎么选？是不是充了会员就有优先被保护权？
再或者有10个人在违规横穿马路，旁边有1位行人遵守交通规则走在非机动车道上，当自动驾驶车辆遇到无法避免的碰撞，是选择让10个违规的行人为生命买单还是选择撞向这1个人？
如果机器以保护人类生命为第一原则，那么很有可能选择撞上这1个人拯救其它10个人，但对于这个路人来说，又是何其无辜。
可能有人觉得，这样做没错，牺牲少数挽救多数不是更符合伦理道德规范吗？
那么如果有一天，你乘坐一辆无人驾驶车走在一边悬崖一边陡壁的弯道上，前面突然出现一群骑行客，事故伤亡无法避免时，你猜你的自动驾驶汽车会不会带着你一起跳崖？
好在这次车祸后，包括Uber在内的多家自动驾驶汽车研发公司都暂停了路测，这次严重车祸将促使研发企业更加重视无人车的安全性，在我看来，尊重生命远比发展科技重要。
今年3月份，Uber发生了全世界第一宗完全自动驾驶汽车致死事故，当时众多结论认为，是Uber无人车没有开启行人监测系统，换句话说，这是一起由硬件引发的车祸，但如今结果似乎有所反转。
相互甩锅，真相依然扑朔迷离
据美国科技新闻网站The Information 5月7日消息，Uber公司基本查明了事故原因，两位消息人士透露，在这名女性横穿马路时，Uber无人车（改装自沃尔沃XC90）的传感器已经探测到了她，不过Uber的自动驾驶软件判断认为，系统无需对这位女性采取避让措施。
因为谷歌系的Waymo和通用汽车的Cruise常常稍有威胁就会急刹，而Uber的系统调整了判断策略，会忽略“误报”或其他不会成为问题的东西，比如路上漂浮的塑料袋等，而事发时这位女子手里好像确实拎着塑料袋……
也就是说，事故罪魁祸首是软件系统而不是各种传感器、摄像头在内的硬件系统。
我不知道是不是硬件方和软件方在相互甩锅，还是Uber为了给自己“技术不行”的传闻洗白，毕竟检测不到行人和能检测到完全是两个概念，后者只能说明大家对“安全文化”的理念不同（车祸发生后，有美国媒体指责说Uber自动驾驶汽车项目过去的负责人将发展速度放在第一位，安全是其次），而技术是没问题的。
但真相总归依然是扑朔迷离，或许与Uber共同调查的美国国家安全运输委员会（NTSB）稍后出具的调查报告会更详细些。
细思极恐，机器能决定人的生命了？
如果真的是软件判断觉得无需为行人违规买单，那么这件事就真的细思极恐了，因为机器已经开始决定人的生命了。
在人工智能机器人的发展过程中，都要求把保护生命作为第一原则，其实在自动驾驶汽车发展上也是如此，德国道德伦理委员会在2017年颁布的指导原则就规定了自动驾驶车辆对保护对象的优先等级：
人类生命＞动物生命＞财产损失。
机器伦理，拯救谁又该牺牲谁？
但问题时，如果同等级的生命受到威胁怎么办？这里又牵涉出伦理问题。
比如自动驾驶车辆过来时两个人同时过马路，两个中只能避开一个怎么选？是不是充了会员就有优先被保护权？
再或者有10个人在违规横穿马路，旁边有1位行人遵守交通规则走在非机动车道上，当自动驾驶车辆遇到无法避免的碰撞，是选择让10个违规的行人为生命买单还是选择撞向这1个人？
如果机器以保护人类生命为第一原则，那么很有可能选择撞上这1个人拯救其它10个人，但对于这个路人来说，又是何其无辜。
可能有人觉得，这样做没错，牺牲少数挽救多数不是更符合伦理道德规范吗？
那么如果有一天，你乘坐一辆无人驾驶车走在一边悬崖一边陡壁的弯道上，前面突然出现一群骑行客，事故伤亡无法避免时，你猜你的自动驾驶汽车会不会带着你一起跳崖？
好在这次车祸后，包括Uber在内的多家自动驾驶汽车研发公司都暂停了路测，这次严重车祸将促使研发企业更加重视无人车的安全性，在我看来，尊重生命远比发展科技重要。
- 下一篇：自动驾驶之避障方法研究
- 上一篇：为什么测试车要贴伪装？
广告
广告
编辑推荐
最新资讯
-
汽车可靠性前沿技术研讨会在重庆成功召开
2024-11-16 07:33
-
一文讲清AEB误触发的原因及法规要求
2024-11-16 07:30
-
HEAD acoustics下线检测：最高级别的质量保
2024-11-15 17:09
-
新能源公司与哈尔滨理工大学联合研究中心揭
2024-11-15 17:07
-
标准研究 | 汽车也要保持“头脑清醒”？有
2024-11-15 17:05
广告
广告
