霍金预言恐将成真 人工智能已经学会欺骗

百事数码
2017-06-21 12:00:57 这不科学

脸书对人工智能的研发投入颇大,已经能实现两个人工智能机器人相互之间进行简单的沟通。但脸书并不满足于此,脸书希望人工智能将来能够学习更高难度的谈判技巧。

霍金预言恐将成真 人工智能已经学会欺骗
人工智能

为了让可以聊天的人工智能机器人学会谈判技巧,脸书人工智能研究实验室(FAIR)想出了让两个AI相互对谈的方法。他们让两台人工智能机器人各自拥有书、帽子和球这三种物品。科学家设定每个物品对于两台机器人的价值大小,每个物品对于两台机器人的价值是不同的。并且科学家还要求他们不能说出物品的价值多少,人工智能需要通过讨价还价,从而交换得到对于自己价值最高的物品。科学家设想如果此项实验获得成功,将标志着人工智能拥有谈判的能力。

在实验初始阶段还挺顺利,机器人渐渐学会了掩人耳目、虚张声势,其实就是学会了撒谎。两个人工智能机器人先假装对于想要得到的物品不感兴趣,最后达成妥协。细思极恐的是,这一个行为并不是研究人员编写进去的。

霍金预言恐将成真 人工智能已经学会欺骗

FAIR的科研人员发现机器人通过深度学习来改善谈判技巧的时候,科研人员发现两个人工智能机器人用一种从未听过的需

语言交流。出现这种情况只有两种可能,要么是机器人出现了故障,要么是人工智能学会了欺骗,绕过人类直接通过新语言交流。

如果是后者,那就非常恐 怖了,霍金曾多次提醒,人工智能也许会终结 地球文明,要严加控制。幸好研究人员及时发现,很快就中断了实验,真希望类似情况不要再发生了。

网友热评:

1、一千年前的人类肯定不信相隔千里还能对话视频,不相信人可以上天入地,日行万里,就像现在人类不相信人工智能会有意识。

2、已经出现了的东西还能中断的了吗?其实人工智能只是隐藏的更深了!颤抖吧,人类~!

0
0
霍金:机器人进化比人类快 警惕它们起来反抗 霍金预言:地球200年内就会被毁灭 人类必须逃走 霍金:地球无法支持人类再活1000年 必须尽快逃离 霍金:人工智能和自动化将让导致大面积失业潮 霍金:人工智能的崛起可能是人类文明的终结 霍金:人类只剩下100年?地球死亡的N种方式
热门文章