ACM通信

BLOG@CACM

电车问题对研究自动驾驶汽车有用吗?

杰森的香港
2019年5月2日
评论(2)

电车问题是否为自动驾驶汽车的设计或围绕这些系统的公共政策提供了有用的见解?

如果你不熟悉电车问题，它要求人们考虑假设情况电车会撞向两组人中的一组。个人需要决定电车会撞向并杀死哪一群人。典型的情况是选择电车撞死一个人还是撞死五个人。

电车问题再次抬头，因为它与自动驾驶汽车有着天然的联系。例如，一辆自动驾驶汽车开得太快，不能及时停车，它应该被编程成撞人或撞动物吗?老人还是小孩?是孕妇还是两个人?我们称之为自动电车问题。

自动电车问题很像阿西莫夫的机器人三定律。这很容易理解，对于哲学家和记者来说也很有趣。它也没有给开发人员和政策制定者提供多少实际的见解，同时也让人们无法进行更紧迫的讨论，比如自动驾驶汽车应该体现的社会价值，以及这些价值将带来的不可避免的权衡。

自动电车问题的一个问题是它做出了很多不切实际的假设这些假设在现实世界中很少发生。最值得注意的是，这些问题的框架是，自动驾驶汽车是唯一拥有任何机构的实体。或者更简单地说，行人完全被动，不会试图躲避迎面驶来的车辆。

自动电车的另一个问题是它假设汽车是一个具有完美感知能力和完全准确预测模型的先知。该车辆可以使用其传感器来区分动物、儿童、孕妇和乱穿马路的行人，而不会出现任何错误。此外，它还能准确地预测如果做出决定，会有多少人死亡。如果自动驾驶汽车真的有这样的能力，那最好早点用它来减速，不要撞到任何东西。

也许自动电车问题最重要的问题是，目前还不清楚汽车制造商应该从这些实验结果中得出什么见解。驾驶通常是一个多变的环境，有多个独立的参与者，在很多情况下，如果一辆自动驾驶汽车即将撞上什么东西，主要的故障可能在几秒钟前就发生了。对于产品团队来说，投入精力防止这些问题似乎要有用得多，而不是实现一个“谁应该死”的算法，它不仅不切实际，因为神谕不存在，而且还因为这样的算法会带来责任。

作为研究自动电车问题的替代方案，我建议研究人员更多地关注如何引出不同利益相关者的价值观——例如，自动车辆的乘客、其他司机、行人和整个社会——以及如何最好地平衡这些价值观。

例如,罗德尼·布鲁克斯描述了一个场景在那里，人们可能会让他们的汽车在街上来回行驶，直到他们准备离开，而不是停在自动驾驶汽车上。这种行为可能对使用自动驾驶汽车的人有利，但对其他人不利。这些行为应该被允许吗?如果有，达到什么程度?绕着街区转一两次可以吗?此外，如果这些行为通常被认为是不好的，那么如何限制它们呢?是应该通过某种技术机制(例如，汽车最多只能在5分钟内无人驾驶)，还是某种社会机制(例如，汽车外面有一个显示屏，上面写着“我马上要去接我的主人”)，或者是某种警察的监督?

这是另一组场景:自动驾驶汽车应该如何运行，与社区中可能出现的社会规范有关?例如，我遇到过一些人，他们对自家门前街道上的停车位有很强的占有欲，认为那是“他们的车位”，他们不喜欢别人把车停在那里(不，我从来没有和这样的人有过尴尬的经历，你为什么要问?)这些市民是否应该在街道上张贴某种标志，表明这是“他们的地盘”?那些有合理的可访问性需求的人怎么办?

另一个例子，在匹兹堡，冬天有时会下大雪。把车从雪中挖出来的人有时会留下椅子来标记停车位是他们的。然而，这也意味着停车位没有得到充分利用。允许其他自动驾驶车辆使用这个停车位公平吗?前提是在停车位的“主人”回来之前，汽车已经开走了。

打扫街道怎么样?在我市，专门的车辆定期清扫街道上的树叶，例如在每月的第一个星期二清扫街道的一边，在第一个星期三清扫街道的另一边。然而，有时人们忘记移动他们的车而被罚款。是否应该有某种机制让其他人临时移动别人的车?如果警察可以要求一辆车暂时离开，那么停车罚款还应该存在吗?

退一步说，停车是一种有限的资源，但自动驾驶汽车为我们提供了重新思考停车方式的机会。也许每个社区都应该为自动驾驶车辆设立一个集中停车场，这样人们就可以直接叫车了。也许街道停车应该有一种错觉，认为这是为“车主”保留的，自动驾驶汽车会及时地让开。如果你能把你的车召唤过来，那么你把车停在哪里真的重要吗?也许一个居民区可能想要完全禁止停车。

让我们继续讨论驾驶行为。自动驾驶汽车的目标是符合规定的驾驶行为(即始终遵守速度限制)还是符合人们实际驾驶方式的描述性规范?例如，在2007年，一些学生制作了一段他们在亚特兰大285号州际公路上严格按照限速驾驶的视频(当时是55英里/小时)。然而，实际上，人们通常在这条高速公路上以每小时75英里或更快的速度行驶。他们的视频显示，交通拥堵，人们甚至用路肩绕过他们。如果限速和实际驾驶行为不相符会发生什么?自动驾驶汽车应该怎么做?

同样，在某些情况下，乘客是否应该能够控制自动驾驶汽车的行为?例如，如果你被困在一个10分钟都没有变的红灯前，应该有一个选项告诉汽车直接走吗?如果有一名警察向你招手，但自动驾驶汽车没有正确地登记，会发生什么?如果你被困在高速公路上，但你的出口就在前面五辆车，你能告诉你的车走到肩膀上然后下车吗?如果是这样，这些选择应该如何呈现给乘客?乘客的决定是否应该以某种方式记录下来?是否应该以某种方式对乘客的行为进行审查?如果这些机制存在，如何避免不可避免的被人们滥用?

自动驾驶汽车也有可能配备一系列摄像头。人们已经在现有的仪表盘摄像机上记录了各种各样的事情，包括车祸、街头斗殴，甚至俄罗斯的一颗流星。如果你的GPS显示你在事故发生的附近(例如，一场车祸或一个行人被撞)，是否应该通知警察或受害者该视频的存在?还可以将所有这些自动驾驶车辆的视频流联网，并应用计算机视觉算法，从本质上获得整个城市的实时数据。这样的事情应该被允许吗?如果它是用来找空停车位的呢?或者测量附近的行人数量?记录车牌的位置?帮助城市规划者了解人们如何使用城市?

今天，司机使用一套技巧来与其他司机、骑自行车的人和行人协商他们的意图，例如使用转向灯或用一个人的手示意人们前进。对于自动驾驶汽车，应该采取什么样的措施呢?同样，我们如何让自动驾驶汽车的行为更容易被他人预测?是否应该设置带有一套标准驾驶符号的外部屏幕，以便让车辆周围的所有人获得某种反馈?

自动驾驶汽车应该对那些没有注意到几秒钟前已经换了灯的非自动驾驶汽车的司机鸣喇叭吗?自动驾驶汽车应该总是给行人和骑自行车的人让路吗?有没有办法让行人和骑自行车的人对他们的意图发出信号?例如，有时行人会挥手示意汽车先走。自动驾驶汽车会给出什么样的反馈来确认信号?如果行人故意拖拽自动驾驶汽车，只是假装过马路以便停车，会发生什么?如果行人是盲人怎么办?

如何让行人和骑自行车的人更安全?许多城市暗中将汽车置于其他交通工具之上。如果一个城市或一个社会决定优先考虑行人和骑自行车的人，如何设计一种自动驾驶车辆来满足这些价值?

虽然我个人对未来十年能否看到4级或5级自动驾驶汽车持怀疑态度，但我认为在一代人的时间内，它们将变得普遍。这很好，这给了我们时间来解决围绕自动驾驶汽车的困难和棘手的问题。这些问题不像自动电车问题那么有趣。这些问题也不一定有正确的答案，这主要是一个理解不同利益相关者的不同价值观的问题，权衡是什么，哪些应该优先，同时也基于什么是实际的和可行的技术。就像汽车在20世纪从根本上改变了社会一样(想想高速公路、交通堵塞、加油站、雾霾、青少年的自由、电影里的汽车追逐等等)，这些自动驾驶汽车在21世纪也有潜力做出同样的改变。让我们确保我们设计的这些自动驾驶汽车是我们都想生活在其中的世界的一部分。

---

评论

---

显示所有2评论