图片展示
图片展示

图片展示

无人驾驶,“减少事故伤亡人数”优先还是乘客生命优先?

关注:251 发表时间:2019-04-28 09:26:39


每年大约有125万人死于道路交通事故,约有2千万至5千万人受伤。无人驾驶汽车的运用与普及,可以减少大量由于人为因素造成的交通事故伤亡,带来深远的社会和经济效益。


但无人驾驶的社会和经济效益能否最终实现,还倚赖另一项重要优势 ——“双重透明”机制。


“双重透明”机制是指,一方面,人类驾驶员将自己的行车决策与偏好写入无人驾驶汽车系统,把原本存在于大脑这一黑匣子的决策,公开给无人驾驶汽车。无人驾驶代替人类驾驶员,作出判断选择; 另一方面,被编写进系统中的决策规则,将有机会公开给政府监管部门等第三方机构,进而有利于监督、约束个人的不合理自私行为。


目前,多国政府及国际组织认为决策算法透明不仅十分重要,而且也是人工智能发展和运用的必要条件,需要进行严格的审计评估。得益于“双重透明”机制,监管部门可以通过无人驾驶,规范个人的驾驶行为,从而为增进社会公正以及整体福利,提供前所未有的机会。


尽管政策制定者和汽车制造商都希望对此进行监管,但建议往往含糊不清,有时甚至是矛盾的。2017年,德国伦理委员会制定了世界首份无人驾驶汽车道德准则,从社会福利的角度,支持决策算法应“减少事故伤亡人数”;而与此同时,汽车制造厂商则为了吸引买家,选择优先考虑乘客的生命。例如,梅赛德斯-奔驰的一位高管曾表示,在事故中,无人驾驶汽车会优先保护乘客。


如此相左的建议,为无人驾驶汽车的推进和发展设置了障碍。人类首先应对道路决策的规则达成共识,才能允许无人驾驶上路,实现成熟应用。


之所以产生上述的矛盾分歧,主要是因为没有根据交通事故的责任方,来谈优先保护权。为此,我和我的团队通过伦理实验研究,根据不同的过错方,设置五类事故场景,并分别研究人们在这些场景下,如何衡量自己作为无人驾驶汽车乘客和他人的生命价值,换句话说,在不同场景下,测量为了保护乘客自己,而牺牲他人生命的数量。同时,探讨了对无人驾驶汽车监管、决策规则公开透明的必要性和可行性。


例如,由于无人驾驶汽车的过错而引发了不可避免的事故时,作为乘客的参与者,被要求回答“愿意为了保护自己的生命,而牺牲车外无辜行人的最大数量”,即在什么情况下,愿意牺牲对方而保护自己。同时,参与者回答和该选择相关的政策问题、使用和购买意愿的问题。


从法律角度,无人驾驶汽车无权伤害任何第三方,然而,乘客也可能理所当然地认为他们对无人驾驶汽车的过错,不承担任何责任。有趣的是,参与者愿意接受一部分责任。政策上,可以接受引入无人驾驶汽车用户承担部分责任的法规,并提供相应的激励,使得无人驾驶汽车处于良好的工作运行状态,从而减少总伤亡人数。


2018年5月-7月期间,本课题共招募了906名大学生进行实验,大学生是未来无人驾驶汽车的潜在客户,因此他们的态度和偏好会为无人驾驶的运用和发展将带来深远影响。


我们的研究结果表明,规范有关无人驾驶汽车驾驶决策的规则十分必要,无人驾驶汽车,必须事先设定明确的规则才能正常运行,一旦决策规则设定,无人驾驶将百分之百地遵守规定; 然而, 如果让个人自由设定无人驾驶汽车的决策规则,且将规则完全公开给所有道路使用者,并不一定会带来预期的社会效果。因此,相关法规应以交通事故过错方为条件,量身定夺。


首先,根据不同场景,设置不同的乘客保护决策算法,可以减少不合理的自私行为,因而和目前人类驾驶员的情况相比,道路环境会更加安全。在设定这些决策规则时,监管机构必须权衡社会的整体福利和乘客的安全利益。同时,决策规则应给乘客在底线基础上一定的自由度,这种有限度的灵活性不仅可以避免极端自私的行为,还可以提高用户的满意度,从而提高社会福利。  


其次,任何增加社会公正和社会福利的政策,都有可能阻碍新科技的使用与推广,政策机构还需要考虑如何平衡社会公正和福利与技术发展的关系。在不同的交通事故场景中,个人自由设定的决策规则完全公开后,实验参与者表示更加公正了,这一结果将为决策规则透明化提供强有力的支持。但是,在社会福利方面,决策规则完全公开后,其效果要比预期复杂得多,有些参与者降低了自己的使用和购买意愿,有些参与者虽然增加使用和购买意愿,但是无人驾驶汽车的设置更加利于乘客,从而使道路更危险。


最后,无人驾驶汽车将开创人与机器人相处模式的先例,政策的评估应慎重严谨。汽车从本质上是一款致命的武器,而无人驾驶汽车,将是人类第一次让智慧机器参与到生死决策的过程。当无人驾驶汽车作为旁观者,是否允许其成为见义勇为的工具,干预阻止其他交通事故? 对这些问题的讨论和达成的共识,将对未来人类与机器人的关系,带来深远的影响。


总之,对政策制定者来说,如何制定适当的法规,以利用无人驾驶汽车的技术优势,尤其是“双重透明”机制,以提高公正性和社会整体福利,至关重要。


文|丁敏 (美国宾夕法尼亚州立大学Smeal商学院的Bard营销讲席教授,复旦大学管理学院顾问教授)

文|徐婕 (复旦大学管理学院博士生)

图片展示
图片展示

Copyright©2016-2019 珠海沿海传媒有限公司 粤ICP备15115825号-3

地址:广东省珠海市香洲区九洲大道东1298号东亚大厦A座10楼

Address: 10th Floor, Block A, Dongya Building, 1298 Jiuzhou Avenue East, Xiangzhou District, Zhuhai City, Guangdong Province