机器人不再百依百顺了,在未来它将会对你说“不”!

  • 来源: 驱动中国 文:杨玉春   2016-09-06/11:45
  • 你是否认为机器人听从人类的命令是理所应当的,这似乎才是它们 存在的意义。但换个角度思考一下,若人类的决策有误,机器人是否应该及时制止呢?

    就像《超能陆战队》中的一个情节,天才少年阿宏在得知卡拉汉正是害死哥哥的凶手时,愤怒地忘记了初衷,命令大白报仇。而大白拒绝伤害教授,通过播放哥哥生前的视频,让阿宏又恢复了理智。正确的拒绝,挽回了一场悲剧的发生。

    a33

    现实生活中也会存在对机器人的不恰当指令,比如一名学生让机器人帮她完成所有家庭作业,一个小朋友让机器人把危险物品扔向窗外,一个机器人汽车根据指令在车道上倒车,而后面的路面上却有一只熟睡的小狗。一个简单的命令,如果不加以判断就完全服从,很可能造成难以挽回的严重后果。

    很多人会认为听从人类命令是机器人的天职,但仅仅是听从命令,很可能会产生相反的后果。那么,怎样才能让机器人既听从人类的命令,又不会造成不利结果呢?

    让自主运行的机器人在行动中可以探测到潜在的危险,并可以试图避免危险,或是直接拒绝命令,在任何情况下都很必要。因此,机器人必须学会说“不”。

    位于波士顿的塔夫茨大学正在研发一种控制技术:机器人可以对人类的指令作出简单推断,这将决定机器人是否会按照指令行事,或者因为指令违反了愈显设定的道德规范而拒绝行动。

    200000030925126924127142825_950

    要让机器人知道什么时候、为什么、如何去拒绝执行任务可不是一项简单的任务。任何一项行为,在不同的情况下会导致不同的结果。就拿扔球来说,在院子里和孩子扔球玩耍没关系,但如果在路边扔球,很可能会砸到过路行人或者车辆,在河边扔球很可能导致球掉进水里丢失,如果在室内扔球则很可能会砸向玻璃。

    机器人要理解哪些行为具有危险性,需要大量的背景知识,不仅能自主考虑到行为后果,还能思考出人类发出指令的真实意图。此外,它们还需要了解法律、道德准则甚至是礼节,作为对行为结果的判断准则。

    不过,目前的机器人技术还远没有达到这一要求,想让机器人处理这些问题,还有很长的路走。但是有一点已经早被证实:机器人在服从命令之前,它们得首先学会拒绝。

     


    评论 {{userinfo.comments}}

    {{money}}

    {{question.question}}

    A {{question.A}}
    B {{question.B}}
    C {{question.C}}
    D {{question.D}}
    提交

    驱动号 更多