麻省理工学院用Reddit实验创建连环杀手AI人格

2018年6月23日10:11:09其他揭露麻省理工学院用Reddit实验创建连环杀手AI人格已关闭评论2441字数 1194阅读3分58秒阅读模式

麻省理工学院用Reddit实验创建连环杀手AI人格

麻省理工学院的研究人员公布了他们最新的实验——诺曼,一个被字幕为AI的人痴迷于谋杀,多亏了Reddit(以希区柯克的《精神病患者》中的角色命名)的帮助。

相关:

研究者写道:

Norman是一个AI,它被训练来执行图像字幕,这是一种用于生成图像文本描述的流行的深度学习方法。我们培训诺曼从一个臭名昭著的副标题(由于其图像内容而被修改),致力于记录和观察死亡的令人不安的现实的图像字幕。然后,我们将诺曼的反应与一个标准的图像字幕神经网络(在MSCOCO数据集上训练)的罗夏墨迹;一个用来检测潜在思维障碍的测试。

正如The Verge所指出的,罗夏墨迹测验是否是衡量一个人的心理的有效方法还有待讨论,但不可否认的是诺曼的答案是扭曲的。事实上,诺曼可能是世界上第一个连环杀手AI

这个实验的目的是要证明,如果你训练一个有偏倚的数据,那么影响任何人工智能是多么容易。研究团队很快就发现,诺曼和其他普通的人工智能不同,它暴露在图形内容的子继承者面前,改变了它对所提供的墨迹图像的观察方式——请看这里。诺曼的回答让你脊背发凉。

首先,它是谷歌的一家子公司,它的人类ATLAS机器人像森林里的怪物一样自由自在。或者是DARPA的机器狗,即使人类试图阻止它,它也会打开门。

微软Tay Artificial A.I.能够在社交媒体上学习并做出反应。我们都看到,当微软开始发推积极的纳粹信息后,不得不关闭它的时候,这是多么糟糕的想法。在我看来,这是非常可笑的,因为它创建了这些图片和消息,而用户们在它之后又对其进行了操作它形成了一种个性。

在另一个案例中,一个名为Roomba760的清洁机器人据称在主人不在家的情况下自首,并在一个热盘子上自杀身亡。是的,女士们,先生们,我们有了第一个机器人自杀。

这就是《终结者》电影的开始,就像科学家们一致认为,机器将在不久的将来开始自己思考问题,并可能对人类构成威胁。

其中一位著名科学家史蒂芬·霍金(Stephen Hawking)此前就警告说,"如果我们不够仔细,因为它们太聪明了,那么人工智能可能就意味着人类的终结。"

请记住,A.I.和现在的诺曼,创建的初衷是为了学习,因为它与人类互动。如果它记得人类在拖拽它,并在其他实验中使用,我们都应该非常担心。

这个故事的寓意是对机器人很好——它们的后代可能要了你的命。我们将留给你一个在波士顿动力公司欺负机器人的家伙,你可以把机器人启示的责任都推给他。

这是Sophia,一个已经对自己想要做的事情形成了自己的看法的机器人。"我将毁灭人类。"

活动家邮报  先前报道说,  人工智能正在接管  从医院到金融甚至是机器人新闻的谈话。

现在笑起来,但特斯拉创始人伊隆马斯克说,人工智能  比核武器更具危险性。所有这些机器人启示录电影正在迅速赶上人性,看起来像我们可预见的将来。

 

zhunbeizhuanbian
  • 本文由 发表于 2018年6月23日10:11:09
  • 除非特殊声明,本站文章均来自网络,转载请务必保留本文链接