自动驾驶汽车会“杀死那个胖子”吗?互联网+
面对争议与质疑,我们除了痛定思痛外,也应该避免“刻舟求剑”的固化思维,避免陷入“有人驾驶”时代的思维束缚。不妨设想,假如
3月20日凌晨,在美国亚利桑那州坦佩市,一名司机乘Uber自动驾驶汽车正进行道路测试,恰遇一名女子穿越马路,结果人车相撞,这名女子在送往医院后不治身亡。
尽管当地警察局长表示,根据Uber自动驾驶汽车配备的摄像头拍摄的视频,这次事故的过错可能是这名女士,但这起事件依然引发了全行业关注,并造成了人们对自动驾驶的恐慌和质疑。
这起事故前,已经发生了多起自动驾驶出现事故的案例,自动驾驶也正以“摸着石头过河”的姿态迎接这些质疑。Uber这起事件也引发了5点思考:
作者丨解夏丨盒饭财经(ID:daxiongfan)
1
一群人和一个胖子,一定会撞到其中之一,无人车如何抉择?
一个坐着电动轮椅的女人在路上追赶一群鸭子,一群人在马路上排成一行做青蛙跳,一个毫无预兆突然靠近并滚过无人车的前盖,甚至有人在车子面前裸奔……当无人车遇到这些场景时,会怎么做?谷歌无人车在实验阶段就应对过这些情况。
在《你会杀死那个胖子吗》一书中,作者提到了一个世纪难题:电车难题。大意为,一个疯子把五个无辜的人绑在电车轨道上,一辆失控的电车朝他们驶来,并且片刻后就要碾压到他们。幸运的是,你可以拉一个拉杆,引导电车开到另一条环形轨道上,这条轨道上只绑着个一个胖子。如果是你,你会拉下拉杆吗?

电车难题
针对无人车遇到“电车难题”的假想,Google无人车项目总监阿莫森表示,无人车会尽量避免出现这样的情况。无人车的行车准则是防御性驾驶(Defensive Drive),一定会尽最大的努力避免这样的情况发生。
霍金也曾对无人驾驶提出自己的担忧:在紧急情况下,一辆无人驾驶汽车不得不在小风险的大事故和大概率的小事故之间进行选择。

撞人还是撞狗?
“电车难题”实际已经上升到伦理高度,且引发了道德主义、功利主义等领域的争论,面临这样的问题,人类尚且难以决断,况机器乎?在“最优解”尚未出现前,机器会怎样判定“损失”呢?机器会有怎样的选择呢?这一争议无疑是自动驾驶领域需要思考的。
2
具有主动意识的人类司机,与程序主导的无人车,狭路相逢,谁是勇者?
前文提及的无人车“防御性驾驶”,在现实中也遇到过难题。
2016年,Google无人车在行驶途中,发现车道前方有沙袋,于是它试图切换到左侧车道,然而,无人车后方的公交车也切换到了左车道,且行驶速度非常快,无人车驾驶系统以为公交车会减速让行,不料公交车在变道时加速行驶超车,最终两车相撞。

还原Google无人车当时的场景
“这对我们来说也很难过(Tough)。”阿莫森谈起这起事故时说。Google后来承认无人车对这次事故要承担“部分责任”,并且在事后对自动驾驶系统进行了调整,
Google方面表示,“这件事之后,我们的车会更明白,相比起其他的车来说,包括巴士在内的大型车辆对别的车避让的可能性比较低,我希望我们的驾驶系统以后可以更好地处理这类问题。”
李彦宏在《智能革命》一书中对此发表看法称,在这起事故中,反而是遵守交通规则的无人车被人类“欺负”。无人车的训练中不可能允许违法行为的出现,那么它要怎样和灵活应变的人类相处,遇到实际驾驶中的模糊区域要怎样做出决策?这也为无人车的法律法规、自动驾驶汽车监管、事故时的责任界定等问题留下了争议地带。
3
司机身份的争议:“司机”是人,还是自动驾驶系统?
上一问题衍生出另一个争议:自动驾驶汽车里的“司机”是人,还是自动驾驶系统?

目前,无人驾驶技术在欧盟和美国一些州都存在法律障碍。欧盟法律规定,汽车必须由持有相应驾照的司机驾驶,任何人不得以任何理由接管驾驶权。美国只有四个州支持自动驾驶汽车上路。
2015年,美国加州首次为自动驾驶汽车制定了法律规范。条例草案规定,无人驾驶汽车不能真“无人”,它在行驶上路时必须有一个具备驾驶资质的驾驶者坐在驾驶位上。但这一限制,直接打断了不想开车却又像独自乘车出行的人的念头。
此外,条例草案中还提到,驾驶者需获得驾驶无人驾驶汽车的专门资质,培训必不可少。
“美国国家高速公路交通安全管理局把这种车的‘司机’理解为自动驾驶系统,而不是车上的人。”这是谷歌所描述的无人驾驶车辆设计,这也意味着谷歌无人驾驶汽车将不会有传统意义上的司机。然而,在法律上的种种规定,都为自动驾驶的“司机”身份蒙上了一层面纱。
4
出现事故时,责任该归于人,还是自动驾驶系统?
“司机”身份的界定也引发了另一问题,在3月20日这起Uber自动驾驶汽车致死的事故中,车辆上是有一名驾驶员的,那么,责任究竟该归于哪一方?

事故现场
腾讯研究院法律研究中心高级研究员曹建峰对此进行分析,主要观点如下:
曹建峰认为,在这起事故中,Uber是最可能的责任承担方。但如人们所猜测:
回到最初的问题,当发生事故时,责任究竟归于哪一方,在各方均有理的情况下,这仍是一桩“悬案”。
5
其他“极端典型性”争议
实际上,关于自动驾驶的争议远不止于此。例如李彦宏曾表示,“应该做个广告,人在车里喝酒,以后自动驾驶可以不查酒驾了”,这引发争议:在自动驾驶汽车里,司机能否进行饮酒、吃饭或办公等行为?此外,若司机可以饮酒,那么进入自动驾驶汽车后,司机又进行“人为驾驶”,是否产生了另一种危险行为?
还有一个极端的例子,一辆无人驾驶的汽车和一辆载满学生的校车即将相撞,无人驾驶汽车是否会选择跌落悬崖,牺牲车内人员的生命来拯救迎面的校车内的所有学生?这也抛给我们自己一个问题:是否要给予机器决定人类生死的权利?
当然,若技术成熟,自动驾驶也会呈现非常可观的效果。李彦宏在《智能革命》一书中就做了大胆的想象:人工智能的反应速度、联网效应可能会给出比人类更好的解决方案,车联网系统可以将无人车连成整体,每辆车在行驶时“脑海中”都有“大局观”,当一辆车紧急刹车,就会紧急“告知”一定范围内的其他车辆,其他五人车也会做出相对应的措施,因此可以避免连续追尾事故。
面对争议与质疑,我们除了痛定思痛外,也应该避免“刻舟求剑”的固化思维,避免陷入“有人驾驶”时代的思维束缚。不妨设想,假如你遇到了“电车难题”,“你会杀死那个胖子吗”?
1.TMT观察网遵循行业规范,任何转载的稿件都会明确标注作者和来源;
2.TMT观察网的原创文章,请转载时务必注明文章作者和"来源:TMT观察网",不尊重原创的行为TMT观察网或将追究责任;
3.作者投稿可能会经TMT观察网编辑修改或补充。

