文 | 丁敏 徐婕

（丁敏，系美国宾夕法尼亚州立大学Smeal商学院的Bard营销讲席教授，复旦大学管理学院顾问教授；徐婕，系复旦大学管理学院博士生）

每年大约有125万人死于道路交通事故，约有2千万至5千万人受伤。无人驾驶汽车的运用与普及，可以减少大量由于人为因素造成的交通事故伤亡，带来深远的社会和经济效益。

但无人驾驶的社会和经济效益能否最终实现，还倚赖另一项重要优势 ——“双重透明”机制。

“双重透明”机制是指，一方面，人类驾驶员将自己的行车决策与偏好写入无人驾驶汽车系统，把原本存在于大脑这一黑匣子的决策，公开给无人驾驶汽车。无人驾驶代替人类驾驶员，作出判断选择； 另一方面，被编写进系统中的决策规则，将有机会公开给政府监管部门等第三方机构，进而有利于监督、约束个人的不合理自私行为。

目前，多国政府及国际组织认为决策算法透明不仅十分重要，而且也是人工智能发展和运用的必要条件，需要进行严格的审计评估。得益于“双重透明”机制，监管部门可以通过无人驾驶，规范个人的驾驶行为，从而为增进社会公正以及整体福利，提供前所未有的机会。

尽管政策制定者和汽车制造商都希望对此进行监管，但建议往往含糊不清，有时甚至是矛盾的。2017年，德国伦理委员会制定了世界首份无人驾驶汽车道德准则，从社会福利的角度，支持决策算法应“减少事故伤亡人数”；而与此同时，汽车制造厂商则为了吸引买家，选择优先考虑乘客的生命。例如，梅赛德斯-奔驰的一位高管曾表示，在事故中，无人驾驶汽车会优先保护乘客。

如此相左的建议，为无人驾驶汽车的推进和发展设置了障碍。人类首先应对道路决策的规则达成共识，才能允许无人驾驶上路，实现成熟应用。

之所以产生上述的矛盾分歧，主要是因为没有根据交通事故的责任方，来谈优先保护权。为此，我们通过伦理实验研究，根据不同的过错方，设置五类事故场景，并分别研究人们在这些场景下，如何衡量自己作为无人驾驶汽车乘客和他人的生命价值，换句话说，在不同场景下，测量为了保护乘客自己，而牺牲他人生命的数量。同时，探讨了对无人驾驶汽车监管、决策规则公开透明的必要性和可行性。

例如，由于无人驾驶汽车的过错而引发了不可避免的事故时，作为乘客的参与者，被要求回答“愿意为了保护自己的生命，而牺牲车外无辜行人的最大数量”，即在什么情况下，愿意牺牲对方而保护自己。同时，参与者回答和该选择相关的政策问题、使用和购买意愿的问题。

从法律角度，无人驾驶汽车无权伤害任何第三方，然而，乘客也可能理所当然地认为他们对无人驾驶汽车的过错，不承担任何责任。有趣的是，参与者愿意接受一部分责任。政策上，可以接受引入无人驾驶汽车用户承担部分责任的法规，并提供相应的激励，使得无人驾驶汽车处于良好的工作运行状态，从而减少总伤亡人数。

2018年5月-7月期间，本课题共招募了906名大学生进行实验，大学生是未来无人驾驶汽车的潜在客户，因此他们的态度和偏好会为无人驾驶的运用和发展将带来深远影响。

我们的研究结果表明，规范有关无人驾驶汽车驾驶决策的规则十分必要，无人驾驶汽车，必须事先设定明确的规则才能正常运行，一旦决策规则设定，无人驾驶将百分之百地遵守规定； 然而, 如果让个人自由设定无人驾驶汽车的决策规则，且将规则完全公开给所有道路使用者，并不一定会带来预期的社会效果。因此，相关法规应以交通事故过错方为条件，量身定夺。

首先，根据不同场景，设置不同的乘客保护决策算法，可以减少不合理的自私行为，因而和目前人类驾驶员的情况相比，道路环境会更加安全。在设定这些决策规则时，监管机构必须权衡社会的整体福利和乘客的安全利益。同时，决策规则应给乘客在底线基础上一定的自由度，这种有限度的灵活性不仅可以避免极端自私的行为，还可以提高用户的满意度，从而提高社会福利。  

其次，任何增加社会公正和社会福利的政策，都有可能阻碍新科技的使用与推广，政策机构还需要考虑如何平衡社会公正和福利与技术发展的关系。在不同的交通事故场景中，个人自由设定的决策规则完全公开后，实验参与者表示更加公正了，这一结果将为决策规则透明化提供强有力的支持。但是，在社会福利方面，决策规则完全公开后，其效果要比预期复杂得多，有些参与者降低了自己的使用和购买意愿，有些参与者虽然增加使用和购买意愿，但是无人驾驶汽车的设置更加利于乘客，从而使道路更危险。

最后，无人驾驶汽车将开创人与机器人相处模式的先例，政策的评估应慎重严谨。汽车从本质上是一款致命的武器，而无人驾驶汽车，将是人类第一次让智慧机器参与到生死决策的过程。当无人驾驶汽车作为旁观者，是否允许其成为见义勇为的工具，干预阻止其他交通事故？ 对这些问题的讨论和达成的共识，将对未来人类与机器人的关系，带来深远的影响。

总之，对政策制定者来说，如何制定适当的法规，以利用无人驾驶汽车的技术优势，尤其是“双重透明”机制，以提高公正性和社会整体福利，至关重要。

（文章仅代表个人观点。）