向左撞，还是向右碰？MIT的自动驾驶道德实验

一辆行驶中的有轨电车，它的前方只有两条轨道可以走，其中一条道上站着一个人，另一条道上则有一小群人。如果这辆电车的刹车坏掉，那接下来要往哪条道上开？

这就是伦理学领域最为知名的思想实验之一，被称为“电车难题”（Trolley Problem），最早由哲学家菲利帕·福特（Philippa Foot）于1967年发表的《堕胎问题和教条双重影响》论文中提出。

“电车难题”早期用来批判伦理哲学中的主要理论，特别是功利主义。而功利主义提出的观点是，大部分道德决策都是根据“为最多的人提供最大的利益”的原则做出的。

依据“电车难题”引出的相似例子有不少。自出现近50年后，例子中的电车已经被自动驾驶汽车替代，轨道切换开关变成了由神一般的工程师设计的汽车系统程序。

2014年，谷歌X创始人塞巴斯蒂安·特伦（Sebastian Thrun）表示，公司的自动驾驶原型车在发生碰撞时将选择撞两个物体中较小的那一个。

2016年，还在谷歌工作的克里斯·厄姆森（Chris Urmson）称车辆将“尽量避免撞到无保护的行人和骑行者”。

同年，有报道引用一位梅赛德斯-奔驰经理的话，说奔驰的自动驾驶汽车将优先考虑撞车事故中乘客的生命安全，不过该公司后来否认了这一说法，称这种说法是错误的。

最近，麻省理工学院媒体实验室（MIT Media Lab）可扩展合作小组的研究人员重新发现并修正了这种道德困境。

MIT的“道德机器”（Moral Machine）在线测试要求用户决定，是杀死一位老奶奶，还是杀死一位老爷爷？杀死五条狗，还是杀死五位肥胖的男性路人？诸如此类的问题。

这个决定不再是一瞬间的事，而是事先在车里设定了程序，一定程度上有助于训练人工智能的预先判断能力。

一个来自道德机器的示例场景：继续行驶行人会受到伤害，撞路障的话车上的人会受到伤害。

《自然》杂志发表的一篇文章称，2年时间里，MIT研究员收集到大量人类杀害偏好的数据，包括来自233个国家数百万人的约3960万条选择。不同文化对电车困境的反应被汇集到了一起。

举例来说，来自日本、台湾、沙特阿拉伯和印度尼西亚等东方国家或地区的参与者更倾向于避免伤害那些守规矩等红绿灯的行人；美国、加拿大、挪威和德国等西方国家的参与者倾向于不采取行动，让汽车继续前行；而拉丁美洲国家的参与者，如尼加拉瓜和墨西哥，则更倾向于避开健康、年轻和地位更高的人。

虽然不同文化背景的人给出的答案有区别，但在全球范围内，确实出现了一些主要趋势。

“道德机器”参与者更倾向于把人类置于动物之上，把更多的生命置于更少的生命之上，以及选择让年轻人继续活下去。

在不富裕的国家，其人均国内生产总值（GDP）较低，与守规矩的行人相比，他们更不愿意撞到乱穿马路的人。这可能是因为公民机构弱小，导致在他们的经验中，认为规则一致性较低和惩罚较弱。

研究人员说，重点是发起一场关于技术伦理的对话，并指导那些最终会对自动驾驶道德做出重大决定的人。在这些人看来，自动驾驶汽车出事故是不可避免的，在设计自动驾驶汽车程序时做权衡也是如此。

MIT测试的用户只有两个明确的选择：杀死这些人或那些人。但在现实生活中，这些决定都是概率性的，每个人都会在不同程度和严重程度的结果中做出选择。比如，遇到冲撞行人危险时，司机有可能会想“如果我让卡车突然转弯，虽然几率很小，但有可能会以低速撞上”。

“我们的主要目标是了解一旦自动驾驶事故发生后公众的反应。”MIT媒体实验室博士后爱德蒙·阿瓦德（Edmond Awad）在论文中写道，“通过道德机器项目，让专家畅所欲言，就好像是一场大型论坛活动，而这正是公众的反应。”

那么，真正在开发自动驾驶技术的人又是怎么看待电车问题的呢？叹气。这是多年来许多被问及这个问题的自动驾驶开发者的回应。

“从工程角度来看，解决电车问题并不是一个重点关注的问题。”安波福（Aptiv）自动化移动出行总裁、nuTonomy联合创始人卡尔·艾格尼玛（Karl Iagnemma）给出了两方面解释。

“其一，尚不清楚正确的解决方案是什么，或者是否存在解决方案。其二，发生这类事件的几率本来就微乎其微，而在没有人类驾驶员的情况下，自动驾驶技术很有可能让这种几率变得更低。”

另一个常见的异议是：自动驾驶汽车肯定没有足够多的数据或训练应对人们在道德机器实验中考虑的复杂权衡。

“在自动驾驶汽车上发生的事情有可能为其他人工智能和机器人技术定下基调，因为这项技术会率先渗入到社会当中。”加州州立理工大学伦理学与新兴科学小组主任帕特里克·林（Patrick Lin）解释说，“仍然有很多人的生命处在危险当中，因此，尽可能多地了解信息非常重要。”

让车辆上的传感器区分汽车尾气和实墙就已经够难的了，更不用说让系统将一个亿万富翁和一个无家可归的人区别开。目前，开发人员关注的是更基本的问题，比如通过技术来区分骑自行车的人和停着的车，或者是正在行驶的车。

话虽如此，但工程师们很可能正在对他们开发的技术进行训练，实现做出一些权衡的能力。

“自动驾驶汽车领域，人们将物体检测的分类方式归为易受攻击和非易受攻击。”打造自动驾驶汽车感知系统的DeepScale公司CEO福里斯特·伊安多拉（Forrest Iandola）认为，“最重要的易受攻击对象是无保护措施的人类，而一辆停着的汽车或一个交通锥往往是不容易受到伤害的。”

一辆nuTonomy自动驾驶汽车正在波士顿海港地区的黑猎鹰大道上进行测试

自动驾驶汽车将不得不应对世界各地不同的汽车文化，这也是事实。

拿NuTonomy来说，他们在波士顿和新加坡测试自动技术的“规则手册”就有所不同。在波士顿，你会惊讶地发现，司机开车更猛，所以在当地进行测试的车辆要能做出不同的反应。

不过，像nuTonomy这样的公司似乎没有定期去研究电车问题。

“我们致力于开发安全、设计严谨的系统。”艾格尼玛说，“新一代系统将有驾驶偏好、文化和地理方面的适应性，也可能包括伦理问题。”

德国是迄今为止唯一一个建议对自动驾驶汽车的伦理选择给出官方指导方针的国家。议员们试图剖析电车问题的棘手之处，指出所有人的生命都应该被平等对待，任何基于个人特征的区别，如年龄或性别，都应该被禁止。

但MIT研究员对此提出疑问：“如果不优先保证年轻人的安全，那么，当自动驾驶汽车面临冲撞儿童的选择时，它将如何应对？”

可以肯定的是，现在就开始对此类问题进行对话不会是件坏事。