美国科学家研发会拒绝人类命令的机器人

据美国财经资讯网站QUARTZ 11月25日报道,美国马萨诸塞州的研究者们试图做一件科幻电影里预言的场景,即指导机器人对某些指示做出相应拒绝。塔夫特实验小组也已提出相关策略,教会机器人识别特定情况,适时说 不 。

美国科学家研发会拒绝人类命令的机器人

通常来讲,机器人是应该始终对人类的指示唯命是从的。当然,在汽车生产线上,对于一些对人类有潜在危险的工具,机器人是可以帮助进行游刃有余的进行操作。但是,每天我们也都在研究更新更加智能的机器人,让它们有能力来作出判断。这便带来了一个棘手的问题,怎样在程序中设置一项机器人的思维反应,可以让它们在不对自己和人类有害的前提下,作出正确的选择。

这也是美国塔夫斯大学人机交互实验室要研究解决的问题。他们也已经提出了相关策略来指导机器人智能应对人类指示。此种策略与人类大脑在接收到话语指示时的运行类似。在你要被指示做某事时,将会有一系列关于信任与道德的问题要思考。比如说, 我知道要怎么操作吗? , 这件事是否在我工作范围内? 以及确认 要做这件事的话,我是否违背了正常的规则? 并且最后的关键的一点是,一定不要伤害人类以及相关财产安全。

塔夫特实验小组将人类的一些内心独白简化为一系列逻辑论证,内置于机器人相关软件中加以识别。例如,在试验中,当命令机器人直直的朝一扇墙走去时,他果断拒绝,因为它自己识别到了该指示会带来危险。这项进展也着实令人欣慰。

最近谷歌的自动驾驶汽车显示,机器道德越来越成为一个严重的问题。这些自动驾驶汽车都安装有机器人设备,在开阔道路上,如果它们盲目的遵循设定指示时,遇到复杂棘手的路况时,便会给乘客带来危险。

如果你有幸与塔夫特实验组一起工作,你就可以见证机器人是如何思考,并且目睹在指示不合常理,有望伤人的情况下,它们是怎样义正言辞的说出 对不起,我不能这样做! 。 (实习编译:郭柯 审稿:陈薇)

未经允许不得转载:经纬人工智能实验室|中国人工智能第一媒体平台,专注人工智能、机器人、物联网、云计算等新兴技术信息资讯! » 美国科学家研发会拒绝人类命令的机器人

赞 (0)
分享到:更多 ()

评论 0

评论前必须登录!

登陆 注册