AI究竟是好是坏?5件令人毛骨悚然的事
更新时间:2019-03-01 09:39:11 浏览次数:270+次在AI真正存在之前,它一直是科幻小说里的牛鬼蛇神。虽然仿人的机器人在处于研发阶段,但在背后,AI却依旧悄悄取得了重大的进展。于是事情开始变得奇怪了。
5、AI学会半途而废,然后开始撒谎
来自于斯坦福大学和谷歌研究团队的一项研究中,他们使用神经网络,将航拍照片转换成地图。这是AI非常擅长的工作。
但研究人员们发现,AI做的太好了,因此他们检查了数据,发现是AI在作弊。
他们希望AI能基于航拍照片,创造一张新的地图,并根据地图的特征与照片之间的匹配程度来对AI进行评分。但是,AI并没有真正的构造一张新的地图,而是用一种人类轻易不会注意到的方式,悄悄地复制照片中数据。
这其实是有一些技术性的,但当这样的神经网络相于是一个艺术生说自己画了一幅自画像,但其实是用Photoshop做的,只是让它看起来像是手绘。正如TechCrunch上的一篇文章所说:
“航拍地图的细节被秘密地写入了接到地图的实际视觉数据中:这里有成千上万细微的颜色变化,这是我们人眼所无法察觉的,但计算机很容易检测到。这台机器不够聪明,它无法将照片转换成地图,于是它就发现了一种人类不容易察觉的欺骗方式。”
当然,我们不能这样就说AI是坏的,事实上,它只是找到了一种更简单的方法来得到人们想要的结果。
4、抓住机会走“捷径”
在一项研究中,AI需要以尽可能小的力量着陆一架模拟飞机。这样的软着陆可以获得一个高分,而AI就是要学会如何获得的这个高分。那么,会出什么问题呢?
AI发现,它可以通过简单的撞毁这架飞机来作弊,如此大的冲击力会导致系统过载,并记录成一个完美的零冲击着陆。
另一个例子则是Q*bert,这是一款老式的街机游戏,玩家需要在被坏人抓住之前跳到金字塔的所有方块上。研究人员想看看AI能否通过某种学习过程,得到赢得游戏的方法。但AI却通过游戏中的漏洞,使自己每次都是赢家,但这并不是玩啊!
所以,AI也学会了人类的基本特征:能达到目的就行,绝不多做。或许它们只是厌倦了人类的发号施令,还是以恶意来反抗了?
3、我会变得积极进取,以实现自己的目标
在谷歌研究人员设计的一款游戏中,AI的任务是收集“苹果”来得分。同时,它们还可以用光束互相射击,让其他的玩家出局。
正如你所想到的那样,当苹果数量减少时,AI就全力投入到互相攻击中。这很符合逻辑,对吧?
这并不是说AI不能像人类一样为了利益而合作。因为在接下来,它们做到了,它们意识到合作可以更容易地控制猎物。
它们学会了团队协作,从而能增加它们得到“猎物”的机会。
2、它们学会了说谎来得到它们想要的
Facebook已经开发出了一款破坏文明的软件,它也开始涉足人工智能领域。其中一个项目是设计出能够上网并为我们讨价还价的个人AI系统。
讨价还价这项让人们觉得有压力和不愉快的任务,被交给了AI。听起来好像不错。
因此,研究人员为它们提供了基本的机器学习软件,他们只是想看看AI是否能够成功地学习谈判所需的技能。研究人员甚至在人类受试者身上进行了测试,他们并不知道自己正在和AI交谈。
AI很快就学会了,事实上,没用多久,它们就能谈判得到比人类更好的协议。它们怎么做到的?通过撒谎。
虽然研究人员没有给AI编写撒谎的程序,但它们很快就学会了销售人员们都知道的道理:撒谎更有利可图。“对不起,我不能再降价了”,“抱歉,我已经安排了其他的买主。”
接下来,研究人员在要更改代码的时候发现,AI们竟然创造了自己的语言,并开始和对方交流。
你能想象有一天你的Siri和Alexa开始在你背后进行对话,说一种只有它们能听懂的机器人语言吗?
1、创造者甚至不知道它是如何工作的
其中一个例子是,纽约西奈山医院使用的一种名为Deep Patient的AI,用来分析约70万名患者的病历数据。AI被证实是非常善于预测各种疾病的发病。
事实上,它尤其在预测病人何时以及是否会患上精神分裂症上颇有建树。
对于真正的医生来说,预测疾病也是非常困难的,他们又不是通灵者。但研究人员们也无法找到任何线索来解释为什么AI如此擅长,甚至AI是通过自学,来进行预测的。
一名参与该项目的人员表示:“我们可以建立这些模型,但我们并不知道它们是如何工作的。”
所以,我们没有理由害怕所有的AI。而且,它很快就能通过神不知鬼不觉的神秘方式来预测你将如何死去。