自动驾驶汽车–运输的未来

自动驾驶汽车将改变运输的未来。我们将讨论伦理意义。

无人驾驶汽车是当前人机交互中最有趣的主题之一。尽管它们不是类人动物,但它们是可供大众使用的最大,最致命和最有前途的机器人之一。它们有潜力极大地改变我们从a点到b点以及所需基础设施的方式。但是,除了一长串技术挑战之外,它们还提出了许多道德问题。

以实际速度行驶时,驾驶汽车本质上是危险的。您的自动驾驶汽车需要能够应对各种交通状况,天气情况,甚至是无法预测的人工操作。这是一个巨大的挑战。

我聊了 罗伯特·斯派洛教授 来自国君大学 特雷西·赫雷斯科·珀尔教授艾伦·瓦格纳教授 关于自动驾驶汽车的未来发展。核心问题是:人类何时会违法驾驶汽车?

ISSN 2703-4054

相关链接:

成绩单:

欢迎来到人机交互播客。一世’在您的主人克里斯托夫·巴特内克(Christophe Bartneck)和我’m着迷于人与机器人之间的交互方式。在本系列文章中,我们将探讨与哲学家,工程师,心理学家和艺术家的这种关系。我们将研究这项新技术的伦理意义,以及如何使它对人类有效。我们将介绍使机器人变得智能和有用的技术。我们还将研究科学背后的人们。他们为什么对人机交互感兴趣?他们采取了什么职业道路?成为该领域的研究生意味着什么?这是需要解决的很多问题。所以让’现在就开始讨论人机交互中最有趣的主题之一。自动驾驶汽车。尽管它们不是人形的,但它们却是普通大众使用的最大,最致命和最有前途的机器人之一。他们有潜力极大地改变我们从A点到B点的方式以及所需的基础设施。但是,除了一长串列出的技术挑战外,他们还提出了许多道德问题。在法国,德国和英国,恐怖分子使用车辆作为武器,将其带入人群,造成许多人死亡和伤害。同时,黑客能够远程控制吉普切诺基。这确实引起了相当大的安全问题。以实际速度行驶时,驾驶汽车本质上是危险的。自动驾驶汽车需要能够应对各种交通状况,天气状况,甚至是不可预测的人类操作员。这是一个巨大的挑战。尽管Waymo和几乎每个主要的汽车制造商都取得了最近的进步,但我们在自动驾驶汽车方面确实遇到了几次死亡事故。在2018年,一辆自动驾驶的优步汽车甚至杀死了过马路的行人。澳大利亚莫纳什大学的Rob Sparrow教授写了一篇文章,名为“当人类像醉酒的机器人,无人驾驶的汽车,伦理和交通的未来”。我在悉尼举行的机器人与人工智能伦理研讨会上与罗伯特(Robert)进行了交谈。 Rob,您如何看待人们与自动驾驶汽车的互动?

[00:03:02] 罗伯特: 所以呢’这里令人关注的是,当机器不够完美时,整个系统,人类加机器人或人类加AI系统将如何运行。您知道何时有人试图用AI或机器人重现人类的表现。通常人们可以获得公平的方法,但是他们可以’始终可以产生完美的任务表现。实际上,在某些情况下,您可能想知道是否存在’完美的驾驶性能。当机器仅部分工作时,系统作为一个整体如何运作?

[00:03:49] 克里斯多夫: 一部分时间?我们不是在谈论自动驾驶汽车吗?他们是’不应该一直开车吗?不幸的消息是今天’自动驾驶汽车无法一直行驶。各国政府指定了自治级别,范围从零无驾驶自动化到五种完全驾驶自动化,以更好地管理当今的法律事务’的自动驾驶汽车。零级代表没有任何自动功能的传统车辆。在第一级,车辆具有一种自动功能,例如,遇到障碍物时自动断裂。在第二级,车辆可以执行刹车和加速功能,以及改变车道。但是,驾驶员必须始终监视系统,并随时准备在必要时进行控制。例如,所有特斯拉汽车都被正式认为是二级自动化。在第三级,驱动程序不需要始终监视系统。在某些情况下,系统可以自主运行。系统会给驾驶员时间,例如在交回控制权之前的十秒钟。 2018年,奥迪A8声称是首款能够实现三级自动化的汽车。在第四级,车辆可以执行所有驾驶功能(了解标准情况)。非标准条件包括恶劣的天气,例如下雪或大雨。最后,在第五级,车辆可以在所有情况下执行所有驾驶功能。但是现在回到罗布·斯帕罗(Rob Sparrow)。

[00:05:37] 罗伯特: 实际上,这在某种系统设计中确实是一个难题,因为我们知道的一件事是,人类很快就会依赖机器。他们过度依赖机器。因此,当机器出现故障时,人类接管任务的那种幼稚的解决方案实际上比人们想象的要有效得多。例如,当无人驾驶车辆发出较大的哔哔声时,哔哔声的驾驶环境超出了规格,请采取控制措施。名义上负责车辆的人可能没有注意,这很可能会引起事故。

[00:06:25] 艾伦: 问题在于,在非常动态的情况下,人类的认知能力不足以在短时间内使自动驾驶汽车重新参与。我们并不意味着我们不应该这样做’不被要求。而且’s simply because we’我已经购买了特斯拉(Tesla)或其他任何汽车,并且同意我们可能从未读过的条款不会对我们造成危害。

[00:06:45] 罗伯特: 我的意思是,这正是此类问题’所谓的“自动化偏差”是众所周知的,已经研究了很长时间,而且实际上,我猜想现在已经使一些人开始进行无人驾驶汽车研究,以为这些系统取得了成功。’如果他们完全依靠人类,那将是安全的。您根本无法期望驾驶员在危险的情况下能够在短时间内进行控制。因此,实际上,您所需的计算机性能至少应与您所需的性能一样好。’d摆脱驾驶员。

[00:07:28] 克里斯多夫: 在2018年,我们发生了数起自动驾驶汽车事故,表明其性能尚未达到我们想要的水平。首先,3月,亚利桑那州坦佩市的Uber自动驾驶汽车在夜间杀死了过马路的Elaine Herzberg。 Uber出租车以自动驾驶模式行驶,后备驾驶员Rafaela Vasquez未能及时收回控制权。她分心看着手机上的电视。尽管如此,车辆仍在撞击前六秒钟发现了伊莱恩,但只决定在撞击前一秒钟触发紧急停车。不幸的是,当天紧急制动系统被禁用“在计算机控制下,未启用紧急制动操作,以减少潜在的不稳定车辆行为”,据Uber称。 10月19日的第二次事故虽然带来了快乐,但仍然非常有启发性。 Waymo汽车的驾驶员收回了控制权,以避开切入其车道的汽车。驾驶员改变了车道,没有意识到有摩托车驾驶者在其中行驶。电单车司机受伤,但幸免于难。 Waymo声称,基于从车辆收集的数据进行的模拟表明,如果仅将车辆置于控制之下,该车将避免所有事故。

[00:08:58] 克里斯多夫: 罗伯,您对这些事故有何看法?

[00:09:01] 罗伯特: 好吧,我认为’完全可以预测。系统’涉及人和机器的问题非常复杂,两种情况都可以解决。您可能会遇到人们过度依赖机器而损害系统性能的情况。但是你也可以得到人们避风港的情况’他们夸大了自己的能力,并以降低系统整体性能的方式接管了性能。我觉得’这实际上是我们在论文中预测的场景的早期示例,称为“当人类像醉酒的机器人一样”。这就是您可以想象的是,在这种情况下,电单车司机实际上是对控制车辆的人采取法律行动,指出他们不会’除那个人以外受伤 ’的动作。我认为,这就是一种情况,一旦机器在驾驶任务中的表现优于人类,这种情况最终将使驾驶成为非法。而且我认为他们必须能够做到这一点,以使其符合道德规范,并将其推上道路。一旦他们达到了那种水平的表现,那么控制人类就会产生事故。在那些涉及第三方的事故中,最终人们会说,看,你’您开车时必须停止控制这些车辆,杀死人。因此,我认为无人驾驶汽车的未来实际上是没有方向盘的汽车。然后,我认为这对诸如车辆拥有的心理,人们与车辆中的其他人之间的关系以及我们的城市基础设施的整个本质等事物具有真正有趣的含义。

[00:10:58] 克里斯多夫: 当我们慢慢停止自我驾驶并让机器来照顾我们时,我们也有可能成为技术欠佳的驾驶员。这个过渡期将如何锻炼?

[00:11:11] 罗伯特: 因此,这确实是一个难题。而且,您知道,在某些方面,最简单的解决方案是非常迅速地过渡到完全无人驾驶的自动驾驶系统。对于无人驾驶车辆来说,这实际上是一个更容易的性能场景。如果他们没有’不必担心人类在政治上的不可预测行为,’不太可能发生。我想我认为如果机器不是’为了更安全,这里确实存在三种可能性。一种是我们引入失败的驱动系统的方式,并且我们希望人类能够出于我们的原因进行控制’我已经讨论过了’实际上是非常危险的,您会期望依靠人类继续集中精力并注意路况,而实际上并没有控制车辆。那’确实不太可能,而且我认为非常危险。所以如果你’在可能发生事故的大多数情况下,我将无法依靠人们,我认为驾驶员的表现’在允许您将其投放道路上之前,其车辆必须比普通驾驶员更好。我的意思是,如果您说,看,一般的人类驾驶员发生了那么多事故,而我的汽车发生的事故更多。我们不应该’不能在路上接受那辆车。如果您可以证明您的车辆性能优于普通驾驶员,那么在我看来’在这种情况下让人们开车是不道德的。它’实际上比s稍微复杂一点,因为驱动程序的性能差异很大。大多数事故是由少数驾驶员,年轻人,有时是高龄人士造成的,因此大多数驾驶员比普通驾驶员要好。这实际上意味着,您可能会遇到这样的情况:用无人驾驶的车辆替换整个车队会降低事故发生率,但仍然会使大多数驾驶员面临更高的死亡风险。那’我们如何在总的总体结果或效用的价值与我们对个人的待遇之间进行权衡,这是一个相当经典的哲学问题。我的怀疑是,一旦车辆的性能超越普通驾驶员,它们将很快超越这一性能,超越任何人类驾驶员,然后我认为人类驾驶将是不道德的。我在政治上认为’政府将很难立法。禁止驾驶,尤其是因为它将要求每个人都购买新车。但是我认为坚持从某个特定日期开始,’不允许在汽车上安装方向盘’适用于在公共道路上使用。该日期何时发生,我’m really not sure it’对于那些不在本无人驾驶汽车研究计划核心的人来说,要真正了解这些系统的功能仍然非常困难,我’我去过很多无人驾驶汽车会议。现在我’我见过斯坦福大学和麻省理工学院的多位博士学位的人,其中有些人说,看,我们’距拥有比普通驾驶员更安全的车辆仅两年时间。别人说’这些汽车要问路还需要五十年。作为一个哲学家,我’我并不是特别呼吁它做出这样的判断,但是我相信,如果他们’不比人类安全,他们不应该’不要在路上。一旦它们比人类更安全,’对我们开车来说是不道德的。

[00:15:20] 克里斯多夫: 并非所有人都同意驾驶汽车应成为非法行为。这里’来自宾夕法尼亚州立大学的Alan Wagner。

[00:15:29] 艾伦: 因此,我觉得我们应该有权驾驶。我们应该有权冒险。了解存在风险。自动驾驶汽车不应该’不得使用或不应使用任何类型的机器人’用作防止我们承担这些风险的方法。您可以想象。这是科幻小说中写的,对吗?这些机器人将您锁定在您自己的手中’回到家中,以防止您跌倒,生病或遇到任何危险。作为人类,我们应该有自己的自主权和驱动力。也许是我们应该保留的权利之一。

[00:16:09] 翠西: 作为法学教授,我会反驳说’没有合法的驾驶权。你有驾驶的欲望。但至少在美国,您没有这样做的合法权利。国家出于各种原因保留撤销您许可证的权利。您知道,我的希望是,我认为私家车道将很快成为热门的休闲胜地。因此,任何寻求新投资的人,我都会把你放在那儿。

[00:16:41] 罗伯特: It’必须承认我们已经很重要,我的意思是,当您驾车上路时,会使行人的生命处于危险之中,而驾车越快,危险就越大,就将人们置于危险之下。因此,我们是一个社会。什么时候我们’我们已经接受了允许人们以每小时一百公里的速度行驶,而不是每小时三十公里的速度行驶。我们’ve已经说过,我们愿意接受一些致命的伤亡。您只需将所有车辆的速度限制为每小时30公里,就可以将道路通行费降低到几乎为零。然后,我们将生活在一个非常,非常,非常低的道路通行费的社会中。但是上班要花一些时间。我是认真的’不仅是工程师,他们正在开发以人类生命为代价来换取系统性能的无人驾驶汽车。那’绝对是道路行业的一部分。

[00:17:43] 艾伦: 每年都有很多人死在路上。当然在美国认为’我们每年可以得到65到七万七千。我们可以消除所有这些死亡,对吗?我们可以。我们可以强迫所有人戴上头盔。我们可以在每辆车上都装有防滚架,并且可以将速度限制设置为每小时五英里。但是我们选择不这样做。我们选择为牺牲民权而每年牺牲65至7万个人,但这也是因为我们觉得我们应该有自主权来承担其中的某些风险。从很多方面来说,这都取决于公共安全与个人权利的争论。看起来在哪里’s滑溜的,为了安全起见’是的,您应该带走吧?您也可以争辩说,为了安全起见,您不应吃芝士汉堡,因为它们’重新发胖。它们会阻塞您的动脉,并造成更大的医疗保健风险。他们甚至可能比开车去某个地方更加危险。但它’我很想说,您应该有权选择想要的食物类型,即使它是’对您不利,就像您应该有权选择到达某个地点的方式一样。

[00:18:53] 翠西: 我认为我们会讲到重点。很快,不会在未来十年内。但是我想您知道,从现在起三十年后,这将是一场非常有趣的政治辩论。我认为,单驾驶员在公共道路上引入的风险将会相对较高,以至于从监管角度来看,我们认为’除了禁止人类上路之外,别无选择。那’从风险状况角度看是正确的观点。从政治上讲,我认为这可能是一件非常不受欢迎的事情,而我在美国开玩笑说,拥有钥匙的人可能就像枪支拥有者,对,说,’我将不得不从冰冷而僵硬的手中撬开我的人力车。一世’不过,我很乐观,到我们达到这一点时,驾驶和拥有汽车的性质将发生巨大变化,以至于它赢得了’这是人们当前野心勃勃的那种可怕场景。看,我认为我的孩子与同年龄的人在汽车和驾驶方面的关系将大不相同。我认为他们’在无人驾驶汽车的世界中会长大,并会依附在他们的钥匙上吗?我叫Tracy Pearl,是德克萨斯州拉伯克市德克萨斯理工大学法学院的法学教授。

[00:20:11] 罗伯特: 至于未来的运输。那里’是我希望实现的愿景。然后那里’我以某种我怀疑的方式实现的愿景,他们’完全不同的看法。因此,我认为这项技术的最佳可能结果是使用它来解决’称为最后一英里的运输问题,这是铁路系统将人们非常有效地转移到中心位置,因此大多数人’通勤将他们带到城市或其他很多人在那里工作的地方 ’通常是火车的一部分。但是,从您的房子到车站,再从城市的车站到您的办公大楼。这些都需要步行,而且也许’下雨了。也许你可以’由于没有时间,所以人们倾向于开车,您会看到这些城市的每个人都沿着高速公路上下班。如果人们坐公交车或火车,效率会更高。无人驾驶汽车技术可以实现这样一种场景,即您实际上是在与人们通过手机上的应用程序进行交互的无人驾驶小巴脱离。他们说。看,我需要在上午9点到火车站。这里’我住的地方,一辆自动驾驶汽车会来接他们,而我不’沿途认识附近的其他四个人。将他们带到火车站,乘火车上下班,然后到另一端。这实际上将减少道路上的车辆数量。实际上,这将极大地改变城市的基础设施,因为您不会’不需要那么多。好吧,你不会’例如,不需要私人汽车,否则所有房屋都可能失去车库,因为大型购物中心和购物中心可能会失去周围所有的停车位。那里’这是一个非常诱人的未来,人们在汽车上的时间更少,道路上的汽车也更少。不幸的是,我认为只有在政府进行监管的情况下才会出现这种情况,因为另一种或其他情况是,您可能仍然会丢失私家车,而大多数人则使用自动驾驶汽车旅行。像Uber这样的东西。但是那里’车上没有司机。在电话车上放一个别针,来接您,但自己开车送您到工作场所。所以我们’尽管道路上的车辆可能较少,但行驶的里程数却相同,但是从环境角度来看,这种情况的吸引力就差得多。确实,那里’可能还会发生更多的旅行,因为例如’很多人可以’目前不开车。无人驾驶汽车技术吸引人的部分原因是您可能是盲人,或者您可能是年幼的,小孩的并且可以安全地乘汽车旅行。所有不穿的人’t have driver’的驾照可以乘车旅行,因此您可以扩大可能旅行的人群。您还可以使事情成为可能,例如,我想要一个披萨,然后可以用自动驾驶汽车运送。不幸的是,我认为在某种情况下,如果我们不考虑这种情况,更有可能’这方面的政策真空。

[00:24:26] 克里斯多夫: 在新西兰,我们面临的问题是,许多游客不熟悉在道路左侧行驶,这确实会导致一些事故。自动驾驶汽车可以解决这个问题,同时使游客欣赏风景。对于租赁公司来说,这可能是一个很棒的商业模式。 Lift和Uber朝着这个方向努力,但是主要的租车公司似乎尚未使用这项新技术似乎有些奇怪。但这仅占道路交通的一小部分。自动驾驶汽车有潜力极大地改变我们与汽车,所有权和运输之间的关系。

[00:25:13] 翠西: 你知道那里 ’美国的一些非常有趣的数据显示,如今的青少年实际上正以比以前更低的价格获得执照。我的意思是,我还记得我在夏威夷长大的时候,您获得许可的年龄是15岁?我为我和我的朋友们记得。我们十五岁那一天,我们去了汽车部门,并获得了驾照。我们不’如今与青少年一起看到,因为Uber和Lyft之类的东西的可用性’现在,为自己确保运输变得更加容易。您可以通过手机上的应用执行此操作。所以我认为’可能是这种情况。我认为它’拥有自己的车辆在经济上将变得效率低下。我觉得’是许多社会变革之一’自动驾驶汽车时代将迎来新时代。我想我们赢了’不再需要停车场了。我们赢了’无需按照我们的方式来构造我们的城市中心。我觉得’真的很令人兴奋,我认为人们不会’不能意识到即将发生的所有变化。

[00:26:13] 克里斯多夫: 作为一个社会,对于我们而言,绝对有必要获得关于自动驾驶汽车取得的进展的可靠和有效的数据。特斯拉(Tesla)等人报告了一些统计数据,这些统计数据可以解释为,他们已经比普通人安全驾驶。但是我们必须记住,只有在公司对自己的汽车和其他交通参与者感到安全的情况下,才进行试驾。通常是城市中的乡村道路或高速公路’通常避免恶劣天气条件,因此可用的统计信息可能会产生误导。一个国家要通过立法,这将大大改变我们与汽车和交通的关系。这确实需要进行大量的社会讨论和建立共识。近来,有关自动驾驶汽车道德困境的大规模研究结果已在自然界发表。数百万的参与者在两个不利的选择之间做出了选择。例如,自动驾驶汽车会撞到墙壁上并杀死其驾驶员。或碰到一群孩子。这种情况通常被称为手推车问题。通过系统地改变各种因素,研究人员得以阐明世界各地人们的道德偏好。例如,他们的确倾向于使年轻人免于老年人的折磨。但是研究还表明,参与者倾向于让男人比女人更安全。

[00:27:53] 罗伯特: 我猜想道德机器研究要记住的一件事是,从哲学的角度来看,实际上作者都意识到这一点,道德,两者都不应’t be but isn’一场人气竞赛。而且你可以’不能通过民意调查真正解决道德问题。因此,例如,您可以想象如果您进行了类似的练习,我不会’不知道在一百五十年前,没有哪个非洲裔美国人能胜过一个白人的生活,而且没人会说:’行为我们应该在机器中实例化。我是认真的’了解人们的想法是非常有用的,至关重要的是,哲学家对人们的经验工作越来越感兴趣’直觉。但是我真的反对我们可以通过简单地民意测验来解决道德问题的建议。您知道,哲学和道德远不止于此。他们’关于深入思考问题并考虑可能的争论’大多数情况下不会发生。大多数人。话虽如此,在公共政策中,人们确实会决定花费多少,例如,确保人们不花钱,这是完全正确的。’死在建筑工地上。您在城市中看到的每座摩天大楼中,都有人被杀害。人们可以通过政策选择来减少死亡人数。它 ’只是那些政策选择要么与富裕和有势人民的利益背道而驰,要么与昂贵相悖。因此,是的,我们确实已经在某种程度上重视人类生活。但是,有充分的理由不想扩展它并使其明确。我认为我们必须坚持每个人的基本道德平等。我们需要抵制一些生命比其他生命更有价值的想法。因此,我会非常反对建议我们应该允许人们为事故支付费用,或者应该让某些阶层的公民享有特权。众所周知,这些判断是不可靠和偏执的。我的意思是,例如在很多社会中’很明显,人们对女性生活的重视程度不及男人的生命。然后’我认为我们不应将其构建到自动化系统中。

[00:30:32] 翠西: 是的,所以我的意思是,看,我’m with you. I’我是一名侵权教授,所以我非常不愿意冒险。因此,我赞成明年将人类带离道路。我在政治上认为在美国’s just I can’无法想象您可以想象选民愿意放下钥匙。我想十年后’会略有不同。二十年与否可能会大不相同。它将发生,我同意你应该迟于发生。但是那’这将不是教授决定的情况。不幸。

[00:31:07]克里斯多夫: 自动驾驶汽车将在我们的社会中扮演重要角色,’还有更多的知识要讨论。因此,下周再与我一起关注下以自动驾驶汽车为主题的人机交互的下一集。感谢您的收听。

作者: 高领

Christoph Bartneck博士是坎特伯雷大学HIT实验室的副教授兼研究生研究主任。他具有工业设计和人机交互的背景,他的项目和研究已在领先的期刊,报纸和会议上发表。他的兴趣在于人机交互,科学技术研究和视觉设计领域。更具体地说,他专注于拟人化对人机交互的影响。作为次要研究兴趣,他从事文献计量分析,基于代理的社会模拟以及对科学过程和政策的严格审查。在设计领域,Christoph研究了产品设计,镶嵌和摄影的历史。 他曾在多个国际组织工作过,包括汉诺威技术中心(德国),乐高(丹麦),Eagle River Interactive(美国),飞利浦研究(荷兰),ATR(日本)和艾恩德霍芬科技大学(荷兰)。 Christoph是《国际社会机器人科学杂志》,《国际人类计算机研究杂志》和《娱乐计算杂志》的副主编。 Christoph是新西兰语言大脑研究所的成员&行为,ACM SIGCHI,新西兰科学家协会和学术自由Aotearoa。 媒体定期报道他的工作,包括新科学家,《科学美国人》,《大众科学》,《连线》,《纽约时报》,《纽约时报》,BBC,《赫芬顿邮报》,《华盛顿邮报》,《卫报》和《经济学人》。