MIT新研究|如何让自动驾驶汽车做出道德选择

简介:


我们人类经常会犯这样那样的错误,不是把钥匙放在冰箱里之类的小错,就是把烤箱开上一整天这样的致命错误。我们通常会表现得鲁莽,健忘,自负,难以集中注意力——一些当我们以百公里时速驾驶一辆两吨重的金属机器穿越大街小巷时极为致命的特性。 导致车祸的五大首要原因有四项可归结为人为失误。

电脑,相比之下,就有着极为务实的思维。它们以程序设定的,经过计算的方式来收集数据并作出反应。自动驾驶车辆已经显示出了相比人类驾驶更高的安全性。近几年人工智能方面的进步速度甚至使得一些专家预言2030年前人工驾驶将被非法化。

机械智能可能需要处理一些棘手状况:为了使某些人存活某些人必须得死。

不过,正如大部分司机所了解的,驾驶可能需要你在不到一秒内做出没有明确答案的抉择。

一只小松鼠冲到路上——你会冒着撞上其他车辆的危险突然转向,还是径直开过去并祈祷松鼠还活着?如果是狗呢?又或者是个罪犯?又或者是孩子?到底哪些生命是值得你冒险的?这些问题困扰着全球的研究者们。现在他们将从你们身上寻求答案。

“自动驾驶车辆现在已是大势所趋。”

麻省理工毕业生以及研究助理Sohan Dsouza告诉Digital Trends“这是件好事,大体上来说,因为它们每天将拯救无数正因人类司机的失误而丧失的生命并给无数没有驾驶能力的人带来独立的机动性。”

  

为了达成这个目标,Dsouza,Edmond Awad,以及他们在MIT媒体实验室的研究团队开发了道德机器,一个使使用者接触道德抉择,询问他们一辆自动驾驶车辆应当如何应对的平台。每个场景都提供了一些背景要素,包括受害者的年龄性别,他们的社会地位,以及他们是否遵纪守法。参与者被要求在13个两难境地中做出抉择。这些结果被作为众包数据堆积起来,并在未来用于伦理仪器的开发中。在做出抉择后,用户还可以比较其他用户的选择,甚至设计自己的场景供他人解答。

“我们的主要目标之一就是在公众中引发争论,”Dsouza说“特别是引起用户,制造者,保险业者以及官方人员间的对话”

不是所有的车祸都可以避免,而自动驾驶车辆需要处理你死或是我亡可能性依然存在,很像是经典的哲学问题,即著名的电车变轨问题。

人们琢磨电车问题将尽50年了。其中,一辆列车正行驶在即将撞死五人的原轨道上。你有一个开关可以使列车变轨,使其只会撞死一人。你会干预还是袖手旁观呢?

“对于这些可能性很少有基于实验的研究,”Dsouza说,“介于此,我们需要制造一个平台来生成大量具有复杂因素的场景并以一种易懂易用且身临其境的方式把它们呈现给用户,以此来建立人们如何看待及其所做出的道德选择的模型。”

道德机器已经收集了在1100万场景中人们的答案。尽管团队还没开始对这些数据深入分析,但他们已经发现地区差异暗示了未来研究路困难重重。“平均下来,来自西部乡村地区的参与者更为重视减小伤亡数目的价值——也就是说,相比东部人,他们更赞同功利主义的选择。“

原文发布时间为:2016-10-11


本文来自云栖社区合作伙伴“大数据文摘”,了解相关信息可以关注“BigDataDigest”微信公众号

相关文章
|
自然语言处理 Windows
Internet Download Manager (简称IDM)2023绿色下载器介绍
Internet Download Manager是一款拥有续传功能的下载软件,多线程下载,提升你的下载速度最多达5倍。续传功能可以让因为网络问题、计算机死机甚至无预警的停电导致只能下载到一半的软件继续下载,与浏览器搭配使用有着非常舒适的下载体验。
1631 1
|
存储 运维 安全
阿里云发布SaaS数据本地化服务,助力企业跨国扩展与合规
阿里云SaaS数据本地化服务(Alibaba Cloud InCountry Service,简称ACIS) 由阿里云和 InCountry合作推出,为使用海外SaaS或者应用的企业客户提供了一种将受管制数据在境内存储和处理,以实现合规的SaaS服务。
1740 0
阿里云发布SaaS数据本地化服务,助力企业跨国扩展与合规
|
Ubuntu 机器人 Linux
Ubuntu查看ros版本-linux查看ros版本
通过上述方法,您可以轻松检查和确认您的Ubuntu或其他Linux系统上安装的ROS版本,以确保您的机器人项目能够顺利进行。
4158 0
|
机器学习/深度学习 TensorFlow 算法框架/工具
利用机器学习进行人脸颜值评分
利用机器学习进行人脸颜值评分
800 0
|
Java Maven 微服务
【工程】-一文带你使用Gradle构建SpringBoot微服务项目
【工程】-一文带你使用Gradle构建SpringBoot微服务项目
2348 0
【工程】-一文带你使用Gradle构建SpringBoot微服务项目
|
移动开发 前端开发 JavaScript
uVIew Search 搜索
uVIew Search 搜索
227 0
|
算法 自动驾驶 安全
自动驾驶「道德算法」发表:平均分配事故风险,保护弱势道路使用者
自动驾驶「道德算法」发表:平均分配事故风险,保护弱势道路使用者
429 0
linux 手动编译安装 pkg-config 步骤
linux 手动编译安装 pkg-config 步骤
|
机器学习/深度学习 自然语言处理 达摩院
模型精度再被提升,统一跨任务小样本学习算法 UPT 给出解法!
UPT是一种面向多种NLP任务的小样本学习算法,致力于利用多任务学习和预训练增强技术,在仅需要标注极少训练数据的情况下,提升大规模预训练语言模型在多种场景下的模型精度。
|
5G 文件存储 数据安全/隐私保护
【OpenAirInterface5g】RRC NR解析(一)
RRC(Radio Resource Control)称为无线资源控制,是5G系统的核心模块,其主要作用是给下层(PHY,MAC,RLC,PDCP)控制或配置所有无线资源,从而保证UE与基站之间进行通信。 OAI RRC模块位于openair2\RRC下,其下有NR,LTE,NR UE等几个源码目录,我们只分析NR。
1167 0
【OpenAirInterface5g】RRC NR解析(一)