人工智能疑似学会操控人类行为,成功率达70%

IT新视野 68 0
广告

说到人工智能,很多人都很担心。例如,站在人类发展前沿的霍金和马斯克认为,人类不应该大力发展人工智能。他们担心未来科幻电影中的场景会变成现实。人类发展人工智能,但会被人工智能打败。

是真的吗?最近,一项关于人工智能的新研究再次把这个问题提到了“风口浪尖”。研究人员发现,人工智能已经学会寻找人类的弱点,发现人类的习惯,从而控制人类。在实验中,人工智能控制人类的成功率一度达到70%。

人工智能疑似学会操控人类行为,成功率达70%-第1张图片-IT新视野

澳大利亚的一个科学家团队进行了相关实验,发现在实验中,人工智能可以根据人类的漏洞总结出人类的规律,最终控制人类,引导人类做出选择,而不是让人类自己做出选择。

在第一个实验中,人类参与者和人工智能一起玩游戏。人工智能是用来学习人类参与者的选择模式,然后找出规则的。最后,在选择红色或蓝色时,人工智能已经可以提前知道人类参与者想要选择什么,并有意识地引导人类参与者在游戏过程中做出不同的选择。

第二个实验也是一个小游戏。在游戏过程中,人类参与者可以在屏幕上看到不同的符号。但是,在这些符号中,只能选择橙色三角形。在这个实验中,人工智能的出现使得人类参与者更容易犯错误,并且扰乱了人类参与者的思维。

第三个实验更有趣。当然,这个实验考虑得更周到。在这个实验中,人类参与者和人工智能开始一个“角色扮演”游戏。人类参与者扮演的投资者需要与人工智能合作,通过每一轮的回报来确定自己下一轮的投资比例。

而在这个实验中,人工智能为了让自己获得更多的资金,在熟悉了人类参与者的习惯等之后,开始有意对其进行操控,最终结果显示,每轮游戏中,人类参与者都会根据人工智能的引导而做出选择。

人工智能疑似学会操控人类行为,成功率达70%-第2张图片-IT新视野

虽然看起来不过是三个小游戏,但事实上,这里面却包含着很多的问题:处于初级起步阶段的人工智能,就已经可以对人类进行操控了,那么,未来的人工智能如果真的发展到高级人工智能的阶段,人类真的可以确信自己,不会受到人工智能的影响吗?

事实上,人工智能之所以可以操控人类,都是因为在过程中,它们对人类的了解更充分,更加直白一点来说,就是人工智能通过大数据分析,从而掌握了人类的习惯规律。

所以,有研究者认为,只需要人类在人工智能收集数据的时候进行控制,或许就可以避免类似的事情发生,不过,这并不容易,因为对于人工智能的开发者来说,虽然人工智能是他们研发出来的,但是对于人工智能潜在的风险和未来的走向,也都是未知的。

人工智能疑似学会操控人类行为,成功率达70%-第3张图片-IT新视野

毕竟,如果人工智能真的与大数据相连,没有人知道它最终会学到什么。这也是霍金和其他对手最担心的问题。毕竟,先进的人工智能到底有多强大是不可想象的,它的威力可能甚至超过科幻电影中的“机器人”。

当然,目前考虑这个问题是有点多余的,因为在这个阶段,人工智能只是一群“弱智”,他们并不是真正的人工智能。例如,这就像南方古猿或智人和现代人之间的区别。

然而,随着时代的进步和人工智能领域的不断发展,人类仍然需要为未来担忧。毕竟,如果他们不小心,他们可能会在先进的人工智能方面出现问题,导致灾难。

当然,早在80年前,就有研究者提出了“机器人原理”,即在人类研发机器人的过程中,必须保证机器人不会伤害人类,同时,机器人必须服从人类的命令。但这种限制真的有效吗?没人知道。

例如,如果将来有种族主义者设置机器人程序,杀死除白人以外的所有人类,那么在机器人识别的过程中,一场灾难自然会降临到人类世界。因此,我们不能说这种担忧不存在,而是说它很可能在未来出现。你怎么认为?

抱歉,评论功能暂时关闭!