4000 GOOGLE员工签署请愿书以结束与美国军方签署的有争议的AI无人机合同

2018年5月18日10:10:304000 GOOGLE员工签署请愿书以结束与美国军方签署的有争议的AI无人机合同已关闭评论 313 2129字阅读7分5秒

第二次世界大战中有一个故事,它总是让我感到良心的本质。一名德国士兵是一名行刑队成员,他告诉他的指挥官,他无法自杀,并杀死一群无助的无辜犹太人。指挥官告诉士兵他是否不遵守命令杀死犹太人,他将不得不加入他们的行列。令官员惊讶的是,这名士兵放下步枪,走过来站在犹太人中间。这名军官发出命令,他们全部被枪杀。

良知行为从来就是徒劳的,即使他们从未听说过。毫无疑问,每当我们听到有人挑战权力去做本质上正确的事时,就会有其他一些隐藏或掩盖的事件。但这些行为都有助于我们的集体意识,并有助于将我们的共同自我感觉更接近光明。

今天,良知的主要战场之一是公司办公室,在那里,雇员人数虽少但越来越多的人开始质疑他们自己在危害人类的公司政策和活动中的共谋行为。

谷歌员工三个月前得知,该公司决定向一个名为"Project Maven"的有争议的军事飞行员项目提供人工智能。该项目旨在通过对物体和人的图像进行自动分类,加快对无人机镜头的分析。

这催生了一项由近4000名谷歌员工签署的请愿书,要求谷歌立即取消合同,并制定一项政策,禁止承担未来的军事工作。请愿书内容如下,

我们不能再忽视我们行业和技术的有害偏见、大规模的信任破坏和缺乏道德保障。这些是生死攸关的事情。"

公开信说明问题

为了支持谷歌员工,谷歌最近写了一封公开信,来自人工智能、伦理学和计算机科学领域的90多位学者,呼吁谷歌终止其在Project Maven上的工作,并支持一项禁止自主武器系统的国际条约。在信中,他们概述了谷歌与军方合作的影响:

通过Project Maven,谷歌卷入了有问题的定点清除行动。其中包括所谓的"签名罢工"和"生命模式罢工",它们不是基于已知的活动,而是基于从远距离监视录像中得出的概率。

虽然关于Maven项目的报告目前强调了人类分析人员的作用,但这些技术将成为自动目标识别和自主武器系统的基础。随着军事指挥官逐渐认识到物体识别算法是可靠的,对这些系统的人的审查和监督会被削弱,甚至被取消。根据国防部的说法,国防部已经计划在无人机上安装图像分析技术,包括武装无人机。我们离授权无人驾驶飞机在没有人类监督或有意义的人控制的情况下自动杀人只有一步之遥。如果科技公司的道德行为需要考虑谁可能从技术中受益,谁可能受到损害,那么我们可以肯定地说,没有什么话题值得更冷静地思考。没有哪项技术比在距离之外瞄准并杀人的算法有更大的风险–没有公共责任。

谷歌拒绝请愿

一篇关于Gizmodo的文章指出,来自员工的压力越来越大,似乎并没有影响谷歌的决定。谷歌为自己在Maven上的工作进行了辩护,并被认为是五角大楼另一项主要云计算合同,即联合企业防御基础设施(Joint Enterprise Defense Infrastructure,简称JEDI)的主要竞争者之一,目前正等待投标。

面对这种不妥协的态度,十几名雇员认为,他们唯一可以做的事情就是辞职以示抗议。他们的理由表明,谷歌没有履行其创始政策的说法,而且他们的合理担忧也没有得到认真考虑:从历史上看,谷歌一直在倡导一种鼓励员工挑战和辩论产品决策的开放文化。但一些员工觉得,他们的领导不再那么关注他们的担忧,让他们去面对后果:

"在过去的几个月里,我对人们的反应以及人们的关切得到的对待和倾听的方式越来越不满意了。"一位辞职的员工说。

一位辞职的员工表示:"谷歌不像是一个试图在不同行业寻找客户的机器学习初创公司。""这似乎对谷歌和谷歌的声誉来说是有道理的,别插手其中。"

一名员工解释说,谷歌员工被承诺在几周内更新道德操守政策,但这种进展似乎被锁定在持有模式中。这位雇员说:"我们在签订这份合同之前就应该考虑到道德问题。"Gizmodo文章

那就这样吧。一个小公司一开始就有一个伟大的想法,依靠与员工的开放和包容性的政策而发展,在财政上可行,并慢慢放弃其创立原则,转而支持权力、控制和影响力。我们以前在哪里见过这个?到处都是。它每天都在发生在我们的公司治理结构中,在金字塔顶端的疯狂的财富和权力能够在公司开始出现问题时吞并它们。更为阴险的是,当他们让自己成长为一个强大的实体时,就会有经过时间考验的机制,最终渗透、妥协和腐蚀任何一度思想高尚、开放的公司。

为什么员工良心在公司如此重要

通过我们的言行,我们作为一个集体,每天都在重新定义我们自己。那些以良心行事的人反对有害于地球上和平与和谐的努力,有助于创造一个更美好的未来。那些由于恐惧或无知而避免考虑其行为的更大后果的人,或者那些为了做他们知道是不正确的事情而去做的人,仅仅因为他们的权威被告知去做这些事情,他们同样具有影响力–和责任–去定义什么是人的意义。

回想一下纽伦堡审判中对德国士兵的判决,他们说自己只是在"尽自己的职责"。

当我们中的大多数人都强调停止遵守其后果不符合人类最佳利益的政策和行动时,这就是我们的集体进化真正站稳脚跟的时候。

原文:http://www.collective-evolution.com/2018/05/17/4000-google-employees-sign-petition-to-end-controversial-ai-drone-contract-with-the-u-s-military/

  • 本文由 发表于 2018年5月18日10:10:30
  • 除非特殊声明,本站文章均来自网络,转载请务必保留本文链接