机器人如何更好地拒绝来自人类的命令

作者:  翻译:1号机器人网 曾梦丹

2015-11-20 17:08:54
\

何人看过《2001:太空漫游》这部电影的,可能都会深深的记住这个场景:其中HAL-9000电脑决定去反对人类对它们提出的无理的命令。但是不要担心:这个研究项目,教机器人知道在什么时候,它们应该拒绝来自人类的无理命令。
 
如果它意味着将会掉下悬崖,一个机器人是否还应该继续向前走呢?如果某个物体热得发烫,明知道会使自己受伤,它是否还应该拿起这个物体呢?如果它将会打击到其他人,它是否还应该举起自己的手臂呢?也许最困难的决定是,是否应该听从位列首位的命令呢? 
 
“对不起,(Dave)戴夫,恐怕我不能这样做”。
 
永远不要相信一个人!
 
这里有三条关于机器人的法律,它们来自于《机器人技术手册》的第56版,这个手册将于2058年发表。如下所示:
 
1.机器人不容许伤害人类,或者只要人类不采取任何行动,允许人类对机器人造成的无意伤害。
 
2.机器人必须服从人类对它提出的任何命令,除非该命令将是与第一条法律相冲突的命令。
 
3.只要这种保护不与第一个或者第二个法律发生冲突,机器人必须尽可能的,采取一些措施来保护自己能够永远存在。
 
很直接,对不对?在第二条法律里,它最好的做法就是服从人类。可问题是,人们往往表现的像白痴,并且有时候,毫无疑问的遵守第二条法律,对于机器人来说,并不是很公平,而且并不代表机器人就会做最好的事情。
 
来自塔夫茨大学的人机交互实验室的Gordon Briggs(戈登•布里格斯)和Matthias Scheutz(马萨斯),正试图研究如何让机器人采取行动时,更加智能化,并且找出如何建立机制,来使机器人拒绝执行来自人类提出的不合理的命令。只要机器人有足够好的理由这样做。
 
从语言学理论角度看,有这种观点,如果有人要求你去做事,无论你是否通过它们对于此内容的描述,真正的了解他们想要表达什么,其实,他们想要表达的都比自己描述的要多得多。
 
这主要取决于所谓的“Felicity conditions(合适条件)”。“Felicity conditions(合适条件)”能够反映你的理解能力,以及真正做这件事情的能力。而不是仅仅知道这些话是什么意思。对于机器人来说,“Felicity conditions(合适条件)”可能对于其执行任务是非常必要的。可以从以下方面进行解读: 
1.知识:我知道该怎么做这件事吗?
 
2.能力:我现在的身体情况能够做这件事吗?并且如果我的身体状况正常,能够做这件事吗?
 
3.目标优先以及时间:我能够马上做这件事吗?
 
4.社会角色和义务:基于我的社会角色,我是否有义务做这件事呢?
 
5.规范许可性:如果去做这件事,它是否违反任何规范性的原则呢?
 
前三个“Felicity conditions(合适条件)”是很容易理解的,但是,让我们快速浏览一下四、五个“Felicity conditions(合适条件)”。 
 
第四个“社会角色和义务”只是指机器人是否应该相信,告诉它做这件事的人,是有权力这样做的。第五个“规范许可性”是一个复杂的方式,也就是说机器人不应该做,它自己明知道是危险的事情,或者更准确地说,如果机器人不知道这是危险的事情,那它去做这件事情是不是就是正确的呢? 
 
现在,让我们来谈谈如何将所有的这些东西付诸实践,实现人类与机器人之间真正的互动。这里的总体目标是,不仅要教给机器人,他们什么时候应该服从此命令,什么时候不应该服从次命令,而且还需要提供一个框架,使机器人能够与人类进行有效的沟通,为什么它要拒绝这个命令。这一点真的非常重要,因为它使人类提供附加说明,可能满足任何“Felicity conditions(合适条件)”的。
 
这里有一个简单互动的例子,其中有一个机器人拒绝了“向前走”的这个命令,因为它违反了规范性原则(机器人知道它会从桌子掉下来,并且会伤害到自己)。沟通会使得人类必须修改命令,提供额外的信息,使机器人更加舒适(因为缺少一个更好的术语):
 
我希望此项目包括一个指令,在其失败后,不会再一次相信同一个人下的命令。
 
下面是另一个场景示例,其中一个机器人被指示走向了一道墙,人类知道这道墙是不牢固的。
 
最后一个例子展示了与此情况类似的机器人,当人类和机器人并不具备相应的社会关系,它就会拒绝人类的命令。
 
针对第二条和第三条定律,机器人技术在这里得到切换,当这些命令,会导致它自己受到伤害的时候,机器人就会忽略来自人类提出的命令。
 
我们是否正在进行一个危险的先例,可能会毁灭人类吗?当然,也许会。但是,它是不现实的,期望机器人,将会毫无疑问的去遵从所有人类已经订立的法律:如果我们试图用计算机和软件来做到这一点,这将会导致巨大的和破坏性的混乱,并且机器人的现在和未来是没有什么不同的。
 
来自塔夫茨大学的人机交互实验室的Gordon Briggs(戈登•布里格斯)和Matthias Scheutz(马萨斯),上周出席了在华盛顿举行的针对AI(人工智能)有关人机交互的研讨会。“我不能做那:建立机制,在人类与机器人的互动中,合理的拒绝来自人类不合理的命令。
 
要想实现这种智能化的方式,可能还有一段距离,这还需要研究人员经过一段时间的努力。但是,机器人吸尘器和酒店服务员已经开始流行,也许交付无人机很快也会流行起来,随着时间的推移,机器人与人类进行交互的这种方式将会变得越来越重要。
 



(本文版权归1号机器人网所有,未经许可不得转载。)

调研中心

你认为早教机器人是创业者首选吗?
早教机器人发展火爆,今年以来不少创客都聚焦早教机器人,虽然现在早教机器人还不赚钱,但是它的市场前景很广阔。对于家庭教育产品而言,早教机器人将会是发展趋势,你认为早教机器人是创业者首选吗?
<<查看结果

你认为扫地机普及还需要多久时间?<<查看结果

热门文章排行榜

一天 一周