自动驾驶基础（四）之道德与商业问题

前面简述的时候已经提到过自动驾驶技术发展过程中，碰到的关于算法的道德困境的问题，这里再针对困扰自动驾驶的道德与商业问题做一个详细的分析。

毫无疑问，自动驾驶将在不久的将来走进我们的生活。但真正意义上的，第4级或第5级的自动驾驶技术何时可以真正商用，人们有各种各样的预测。

初创公司NuTonomy希望能在2018年前后在新加坡提供拥有自动驾驶功能的出租车，并在2020年扩展到10座城市。Delphi和MobilEye公司则声称，他们可以在2019年提供满足SAE第4级要求的自动驾驶系统。前百度公司首席科学家吴恩达希望，到2019年时将有大量自动驾驶汽车上路进行测试行驶，到2021年时，自动驾驶汽车将进入大批量制造和商用化阶段。特斯拉公司创始人埃隆·马斯克宣布，目前上市的特斯拉汽车已经在硬件标准上具备了实现SAE第5级自动驾驶的能力。他预测说，2018年时，特斯拉将可以提供具备完全自动驾驶功能的电动汽车，但也许还要再花一到三年的时间，该型车才能正式获得批准并上市销售。

我觉得，基于宣传技术和推广产品的考虑，科技公司、初创公司对于第4级、第5级自动驾驶何时可以商用的预测普遍比较乐观。实际情况也许比他们的预测要复杂一些，因为这不仅仅是一个纯技术问题。技术方面，谷歌（Waymo）的自动驾驶系统非常成熟，已经接近商用，也许只要一两年的时间，就可以达到SAE第4级和第5级的标准。但在非技术领域，政府、公众、企业还必须考虑诸多政策的、法律的、经济的、心理的甚至是道德层面的问题。

首先，现有的法律制度、政策、保险体系等，并不是为自动驾驶时代的交通量身定制的，一定存在诸多不合理之处。对于法律体系的改进和完善，一定不要以今天的眼光去预测未来的科技。

比如，当年蒸汽机动力的汽车问世不久，英国议会就于1865年通过了一部《机动车法案》。这部法案后来被人嘲笑为“红旗法案”。法案规定，每辆在道路上行驶的机动车必须由三个人驾驶，其中一个必须在车前面50米以外做引导，还要用红旗不断摇动为机动车开道，并且速度不能超过每小时4英里。结果，直到1896年“红旗法案”被废止前，英国对汽车技术的研发几乎还处于停滞状态，这个法案在英国汽车发展史上起到了极其愚蠢的负面作用。今天，在考虑为自动驾驶汽车制定合适的法规、政策时，我们千万不要落入100多年前英国“红旗法案”的窠臼。

其次，道德问题始终是制约自动驾驶商业化和大规模普及的关键因素。美国人比较喜欢用一个处于两难境地的道德测试来衡量自动驾驶的合理与否，这个测试叫作“有轨电车难题”（Trolleyproblem）。

英国哲学家菲利帕·福特（Philippa Foot）1967年首次提出这个伦理学的思想实验。问题很简单：假设你看到一辆失控的有轨电车在轨道上高速行驶，电车前方的轨道上有5个毫不知情的行人。如果你什么都不做，那么那5个人会被电车撞死。生死瞬间，你唯一的解决方案是扳动手边的道岔扳手，让电车驶入备用轨道。但问题是，备用轨道上有1个不知情的行人。扳动道岔的结果是，拯救了原轨道上的5个人，却牺牲了备用轨道上的1个人。这种情况下，你会扳动道岔扳手吗？如果用1条生命换回5条生命，你感到难以定夺，那么，假设牺牲1个人可以救50个人呢？

换到自动驾驶的商用场景，政府和公众面临着同样难以定夺的诘问。从目前的测试结果看，自动驾驶技术比人类驾驶员驾驶汽车要安全，至少不存在人类驾驶员因为疲劳驾驶、酒驾等问题发生事故的情况。但自动驾驶不是万能的，在极端条件下，比如机器学习系统从未遇到过的情况发生时，自动驾驶系统也有可能导致事故，甚至对人类造成致命的伤害。

2016年5月7日，佛罗里达州的特斯拉电动汽车致死事故发生之后，特斯拉强调，在总计1.3亿英里的Autopilot模式行驶记录中，仅发生了这一起致死事故，据此计算的事故概率远比普通汽车平均每9400万英里发生一起致死事故的概率低。但无论概率有多低，这毕竟是一起致死事故。为了普及自动驾驶技术，人类面临的道德抉择并不比有轨电车难题简单。

如果自动驾驶汽车造成的死亡事故概率比人类驾驶员造成的死亡事故概率低，比如3︰5，那么，你愿意大力推广自动驾驶技术，用每牺牲3个人的代价，换回5个人的生命吗？

有人用这个问题做了调查，当提问说3︰5的比例时，被调查者都纷纷摇头，连说“不行”。我们会发现，大多数人脑子里会有一个先入为主的道德假设，那就是人类驾驶员造成的事故已经被视为现行伦理道德体系中的一种客观存在，是人类自身的弱点导致的。但引入自动驾驶后，造成致命事故时，操控汽车的主体由“人类”变为“机器”，这种新的伦理道德关系就很难被现有的体系接受。如果自动驾驶技术可以拯救5个人，但代价是杀死另外3个人，大多数人就感到难以接受。他们是在用人类现有的伦理道德体系去评估机器的行为：采用新技术的决定是人类做出的，实际造成事故的主体却是机器而不是人，人类因为自己的决定，造成了“另外3个人”的死亡，这种道德压力是不言而喻的，这个时候，是否能拯救原本会因人类失误而死亡的5个人，反倒成了不那么重要的因素。

于是，第二个问题是：“如果牺牲的生命与拯救的生命比例是1︰5呢？”被调查者通常都会犹豫一下。如果接着追问：“如果是1︰10呢？”这时，有不少人就会迟疑地点点头，觉得似乎是一个可以接受的比例。那么“如果是1︰20呢？”这时，大多数人都会坚定地站到自动驾驶这一边，支持用较小的代价拯救多数人的生命。

很有意思的对比实验，不是吗？为什么大家在比例是3︰5的时候普遍反对自动驾驶，而在比例是1︰20的时候，就变为普遍支持呢？人类的伦理道德准则难道是用简单的数字就可以衡量的吗？
美国国家公路交通安全管理局于2017年1月发表了一份声明，证明特斯拉辅助驾驶系统Autopilot与2016年5月7日发生在佛罗里达的致命交通事故没有直接关系，事故的直接原因是驾驶员忽视操作提醒，没有对道路上的危险保持随时监控和快速反应。美国国家公路交通安全管理局还强调说，特斯拉在安装了Autopilot辅助驾驶系统后，事故发生率降低了40%。

特斯拉第2级别的辅助驾驶系统Autopilot使事故概率降低了40%，这和前面假设的3︰5的比例不谋而合。大家通常会接受特斯拉的辅助驾驶功能，因为该功能要求人类驾驶员全程监控，随时参与操作。但同样是3︰5的比例，换到第4级和第5级的自动驾驶汽车上，大家就会感到难以接受。这其中，微妙的心理因素非常值得我们探讨和关注。

另一个困扰自动驾驶技术商业化的因素是失业问题对传统行业的冲击。而这种冲击，也因不同地方、不同人群而存在巨大差别。
新的科技总会引起不同层面的社会、经济影响，这种影响在有着牢固社会传统的地方，很可能会被人们视为威胁。杰瑞·卡普兰讲过一个很有趣的例子：同样是提供汽车分享和出租服务，优步在旧金山做的事情被大加赞赏，可在伦敦做的同样的事情却饱受批评。优步在伦敦造成了许多人失业。伦敦有非常发达的出租系统，伦敦人管传统的出租车叫“黑色出租”。这些出租车的司机是一个有着悠久历史的社会职业，他们需要对街道非常熟悉，以通过上岗测试。优步在伦敦破坏了这样的传统，因为任何人只要有一辆车就可以成为优步司机。在这件事上，优步低估了英国人对于传统职业的重视。伦敦的许多人痛恨优步，他们认为优步是对英国社会的破坏。但在旧金山，每个人都觉得优步棒极了。人们赞扬优步，几乎没有什么负面报道。这是同一件事在不同城市得到的不同评价。所以，你很难说某项技术是好的，或者是坏的。

自动驾驶也一样。在美国，绝大多数人都同意，自动驾驶汽车的一个最好的应用场景，就是去取代那些工作负荷繁重、容易因长途驾驶时的疲劳而导致事故的卡车司机。但即便是这样一个在技术层面显而易见的事情，在牵涉到社会和经济问题时，也会变得十分复杂。

2016年时，美国有大约150万名卡车司机（另一种说法是180万名），全美约70%的货物运输，都是由这些卡车司机驾驶大货车通过公路完成的。目前，卡车行业已经出现了司机短缺的问题。根据美国卡车运输协会（AmericanTruckingAssociations）的估计，全美短缺的卡车司机数量是大约4.8万名。

以美国Otto公司（已被优步收购）为代表的一批科技团队，已经开始为卡车研发自动驾驶系统。在美国，卡车运输的路况、环境相对单一，相关的自动驾驶系统在技术上的难度不大。但问题是，如果用自动驾驶系统解决卡车司机短缺的问题，那必然会受到所有人的欢迎，可如果用自动驾驶系统来替代现有的150万名卡车司机，还会赢得大众的支持吗？如此大规模的失业或转岗，美国政府就必然要面临卡车司机工会的问责了。

Otto联合创始人兼总裁利奥尔·荣恩（LiorRon）认为，人类卡车司机短期内没有失业的风险，他说：“未来将会发生的事情，是那些卡车司机变成了技术系统的助理驾驶员，在自动驾驶系统较难处理的室内路况上，替代自动驾驶系统完成驾驶操作，然后在高速公路上启动Otto自动驾驶系统，让机器替自己完成冗长、乏味、容易犯困和出危险的驾驶里程。在可预见的未来，卡车的驾驶室里都会坐着一个驾驶员，而且，这个驾驶员的工作将变得更安全，可以赚到更多的钱，可以更快地抵达目的地。”

利奥尔·荣恩说的只是基于目前技术的预测。如果展望更长久的未来，当卡车上使用的自动驾驶技术趋于完善，可以适应拥挤的城市等各种不同路况时，卡车司机确实有大批被取代、大批失业的风险。对于这样的未来，150万名卡车司机肯定是充满疑惑甚至坚决反对的，美国的卡车司机工会也会站出来维护司机们的利益。

一个可以类比的例子是美国的煤矿工人。因为自动化开采技术的使用，美国煤矿工人的数量从1980年时的22.9万人，降低到了目前的大约8万人。在过去的5年间，就有5万煤矿工人失去工作。这5万失去工作的煤矿工人在美国的各阶层看来是一个重大的社会和政治问题，连总统也必须亲自过问，以妥善处理好这些“下岗”工人的安置和再就业问题，否则，美国势力强大的工会组织就会对议员、总统施加极大的政治压力。想一想，5万名煤矿工人尚且能引起全美政治家的关注，如果被取代的是150万名卡车司机呢？

当然，也有美国网友提出了另一种有些调侃的思考方式：“政治上来说，卡车司机工会是会去阻止自动驾驶系统取代卡车司机的进程的，但他们也会感受到来自另一方面的压力。如果保险公司不再为人类驾驶员承保，因为自动驾驶系统几乎从不出事故，这样一来，不就轻松解决了替代人类驾驶员的问题了吗？另外，人类司机在新成立的运输公司里不会有任何发言权，因为这些公司根本就不会雇用司机。司机工会也没有能力阻止司机失业，因为他们向雇主争取权益的主要武器就是罢工，可是在依靠自动驾驶系统的公司里，他们的罢工又有什么意义呢？”

当然了，这位网友的话只是一种调侃，真实情况里，美国政治家和公众是必须正视卡车司机工会的诉求，防止短期内出现大规模失业问题的。
有关自动驾驶的商业化以及人工智能技术带来的失业等问题，在美国和在中国，政府与公众的态度会有很大的不同，新科技被接受的程度、普及的速度也会有巨大差别。

如果单考虑制造业，美国很多工厂都已经自动化了，需要人工劳动的生产线大多都已经被送到别的国家了，所以，美国比较容易接受在生产线上使用机器人技术（当然，特朗普出任美国总统后开始执行的“美国制造”等反全球化的经济政策，会为这一趋势带来小小的变数）。反观中国，从事制造业的工人数量庞大，如果大量使用机器人技术，就会有比较切实的下岗和再就业方面的挑战。
但是考虑到运输行业，例如卡车司机、公交车司机等岗位，因为在美国涉及百万以上的人群以及历来强势的工会组织，美国政府在进行决策时就会受到一定的影响（特朗普上台后，这一影响会更加明显）。美国政府、国会、两党都非常担心相关政策一旦考虑不周，就会影响到大量手握选票的底层选民。美国科技界则因此担忧，先进技术如果因为底层人群的反对，而在商业化和普及方面表现迟缓，那反过来就会影响相关科研领域的投资，使得美国错失人工智能领域的未来机会。再加上有关自动驾驶汽车致死多少人、拯救多少人的伦理道德考虑，自动驾驶技术在美国的普及就面临重重阻力。

欧盟基于安全的考虑，对自动驾驶的普及也持谨慎态度。欧盟对自动驾驶技术的要求是，不能用迭代、不断改进的心态去开发自动驾驶软件，而是要第一个商用版本就做到足够安全。

在中国，情况也许会不一样。首先，中国是一个快速发展的国家，在全国和城市的交通路网建设上，一直处于不断建设、不断更新的状态。中国比其他任何一个国家都容易从道路建设的角度入手，为自动驾驶汽车配备专用的路面、交通标志甚至制定有针对性的交通法规。这可以弥补自动驾驶技术本身的许多缺陷，将自动驾驶技术发生事故的风险大幅降低。

其次，中国在尝试新科技方面的阻力没有美国那么大，中国政府集中力量支持技术突破的能力也远比美国政府要强。中国快速建成四通八达的高速公路网络以及奇迹般地只用几年时间就建立了全世界最快、最长的高速铁路系统，就是这一点的最好体现。类似的事情当然可能发生在自动驾驶汽车的普及上。为了在技术尚未达到第5级自动驾驶的水平时，鼓励第4级和第2级技术的商业应用，中国完全可能设计一些自动驾驶的早期试点道路、试点园区乃至试点城市，为自动驾驶汽车创造出符合技术要求的路况环境，在确保安全的基础上，尽早开始自动驾驶汽车的商业运营。这样一来，技术迭代就可以更快速地完成，在中国做自动驾驶相关的科研，就会比在美国或欧洲更容易拿到好的数据、找到好的测试场景，这对自动驾驶在未来的进一步发展十分重要。

再次，中国在评估自动驾驶系统带来的伦理道德问题时，通常会比美国政府、公众的态度更为务实。既然数据已经证明自动驾驶系统比人类驾驶员更安全，那么，从伦理道德角度去比较自动驾驶系统可能危及多少人的生命，人类驾驶员可能伤害多少人的生命，这又有多少实际意义呢？
基于以上考虑，在自动驾驶技术走入商业化和普及的未来10年里，中国有机会扮演非常关键的角色。中国的实际交通状况比美国要复杂得多，每年因为疲劳驾驶、酒后驾驶导致的交通事故，数量相当惊人。自动驾驶系统的应用，对于改善中国交通状况，减少人为交通事故的意义非常重大。同时，中国面临的交通拥堵问题、环境问题压力巨大。中国的大中型城市动辄拥有数百万甚至一两千万的人口，如果每个家庭都像美国一样保有一两辆机动车，那必然造成中国所有城市道路天天堵、年年堵，中国城市的天空很难摆脱雾霾的阴影。自动驾驶技术可以非常容易地将家庭用车模式转变为共享用车的模式。自动驾驶汽车随叫随到，每个家庭不需要长期保有自己的车辆，也不需要购置停车场地。通过基于自动驾驶的分享经济，中国可以大幅减少汽车的保有量，从根本上解决交通堵塞和汽车尾气污染等问题。

想象一下，在未来每个中国家庭的主要用车场景里，上下班可以用手机呼叫附近的自动驾驶出租车，商务活动可以预先约好自动驾驶的商务汽车，家庭购物、游玩既可以呼叫附近的共享汽车，也可以亲自驾驶私家车体验驾驶乐趣……那个时候，每一部共享的自动驾驶汽车都没有驾驶员，约车服务完全由计算机算法根据最优化的方案，在最短时间内将自动驾驶汽车匹配给需要用车的消费者。政府对网约车可以集中管理。城市路面的公交系统，主要由自动驾驶汽车担任运输主力。城市之间的货物运输，也因为有了自动驾驶系统而更加便捷、高效。

自动驾驶将是中国未来10年科技发展面临的最重要的机遇之一。中国有全球最大的交通路网、最大的人口基数，自动驾驶的大规模商业化和技术普及反过来会促进自动驾驶相关科研的飞跃式发展。这种从科研到应用，从应用再反馈到科研的良性循环，正是中国能否在未来10年内，建立起世界先进水平的人工智能科技体系的关键。