谷歌员工赢了!
硅谷周五(6月1日)最新消息,谷歌云计算业务主管 Diane Greene 宣布,谷歌与国防部合作的项目 Maven 在明年3月到期后,将不再续约。
这场三个月的谷歌“AI军事门”风波,历经千人上书抗议,十余位谷歌员工辞职,终于暂告一段落。
爆料:谷歌跟五角大楼合作
风波起源于三个月前。
今年3月,谷歌被媒体爆出与美国国防部合作,把人工智能技术用于分析无人机镜头当中。这个合作只是国防项目 Maven 的其中一部分。
从整个 Maven 项目来看,主要针对的是计算机视觉部分,通过人工智能分支的机器学习和深度学习技术,帮助无人机更好地从移动或静止图像中自动追踪感兴趣的对象 —— 不管这对象是人还是器械。
这里面说的无人机,并不是我们常见的航拍无人机,而是军用无人机,美国很早就研制出了具备攻击能力的武装型无人机。
(军用无人机)
让无人机镜头更好捕捉各种对象,到底有什么用呢?
最早爆料的《泰晤士报》认为,一旦使用人工智能来分辨视频图像,可能会用于改进无人机攻击目标的准确性。连美国军方也承认,人工智能的加入,能够在军事打击中提升精准度,还可以减少自家军队的伤亡。
打击敌人时更精准、能减少无辜百姓伤亡、还能减少自己人伤亡,听上去很好,不是吗?
但就是这个项目,带来了担忧,也带来了连续多个月的争议。
爆料者认为,这无人机项目可能与美国在阿富汗、巴基斯坦、也门等国家使用无人机空袭,导致数百名无辜平民致死的无人机有关。
无人机空袭导致平民受伤,这对处于战乱的国家来说,并不鲜见。
英国记者调查局曾在 2017 年公布过一个数据,在美国总统奥巴马任期内,美国对巴基斯坦、索马里、也门发动了563次主要由无人机执行的打击,大约有384名到807名平民在空袭中死亡。
(抗议使用无人机打击平民的也门壁画)
尽管今年3月才被爆出谷歌跟国防部的合作,但在美国国防部的官方新闻里,Maven 计划很早就透露出跟业界合作的意图。而且,国防部原本希望,合作成果会来得更早:2017年底,把计算机算法部署到战区。
(截图自美国国防部网站)
就在国防部这篇官方新闻稿里,美国副国防部长 Bob Work 说,“国防部必须在整个项目中更有效地整合人工智能和机器学习,以保持优于竞争对手的优势”。
而且,在这场讨论人工智能如何帮助赢得战争的科技峰会上,国防部官员 Col. Drew Cukor 坦诚,因为政府内部并没有机构能够满足人工智能技术上的需求,所以必须紧密地跟工业界的伙伴合作。
那工业界的伙伴是谁呢?Cukor 并未明说,但是他在会上提及了谷歌。他认为,五大互联网公司正积极地追逐发展人工智能,而且“谷歌母公司 Alphabet 的前董事会主席施密特已经把谷歌称作人工智能公司,而不是一个数据公司。”
有意思的是,在国防部网站搜索施密特名字时发现,施密特担任了国防部旗下国防创新委员会(Defense Innovation Board)的科技顾问。
数千员工抗议,十数人辞职
“谷歌不应该加入战争领域。”
很快,一封来自谷歌员工的联名信公开了。
从4月初至今,近 4000 位谷歌员工签署了给谷歌 CEO Sundar Pichai 的抗议书,希望谷歌不要参与到国防部的 Maven 项目当中来。
除了退出 Maven 项目之外,员工在联名信中还希望谷歌应该制定、执行明确的政策,声明谷歌和其承包商未来都不参与到战争相关的技术中来。
(联名信截图)
联名抗议信的功效似乎并不大,谷歌对外发布声明说,公司与五角大楼的合作“专门用于非攻击目的”,而且,提供的是类似开源算法 TensorFlow,这跟谷歌提供给其他任何使用云服务的客户是一样的。该技术“只被用于标记图像,再由人进行复核,旨在挽救生命并使人们不必做非常繁琐的工作。”
显然,这次声明并没有提及谷歌会暂停这个国防项目,这让联名信里的一些员工直接选择离开。
上个月14日,美国媒体 Gizmodo 报道,超过十数位谷歌员工以辞职抗议谷歌的做法。一些员工甚至直言:
“过去的几个月里,我已经对(谷歌)回应员工关注、聆听员工的方式感到越来越失望”;
“如果我不推荐别人来到这里工作,那我为什么还要留在这里呢?”
直到上周四,谷歌 CEO Sundar Pichai 才在员工集体内部会议上透露,谷歌在制定一套指导准则,细节尚不清楚,但将禁止在任何武器装备上使用 AI。
又等了几天后,终于在今天(6月1日)等来了谷歌官方的最终确认:谷歌跟美国国防部的 Maven 项目在明年3月到期后将不再续约。
这条消息是由谷歌云服务主管 Diane Greene 在谷歌内部宣布的,Diane 是谷歌内部高管对 Maven 项目的重要维护者。在谷歌人工智能科学家李飞飞曾表示反对的时候,Diane 作为李飞飞的老板,力挺了这个项目。
(Diane Greene,图自网络)
谷歌跟军方合作多年
“ 谷歌人,你们为什么现在才生气?”
这是美国媒体 theOutline 对谷歌的发问。theOutline 是由前彭博的总监 Joshua Topolsky 打造的一个新媒体。这样的质问并不是毫无道理,因为根据公开资料显示,谷歌并不是第一次跟美国军方合作了,最早可以追溯到 2009 年前后。
早在2011年,美国国防部的一份预算文件透露,谷歌地球(Google Earth)的数据已经成功整合进了国防部的 Real-World 计划。这个计划主要是让士兵通过软件,在电脑上就能模拟战争实景训练。而整合计划,早在 2009 年就出现在官方文档里了。
2013年,国防部预算文件再一次提到谷歌业务。这一次,同样是谷歌地球,它的可视化测绘功能运用到了“全球战斗支持系统”里。这个系统能够追踪个体的身份、状态、全球货物从出发到终点的移动位置。
从2014年到2017年,谷歌通过旗下收购的一家公司 Skybox Imaging 与军方合作。这家公司在谷歌母公司 Alphabet 旗下可能并不为大家所熟知,但它非常擅长捕捉详细的地形照片和视频,2014年以5—10亿美元的价格被谷歌收购。2015年开始,Skybox Imaging 向海军研究实验室提供卫星图像。
密探在联邦合同和经费数据库(www.fpds.gov)进行搜索时发现,以国防部、谷歌为关键词,谷歌作为合同承包商出现的次数为18次。
但是,谷歌并不是唯一一家跟国防部有合作的科技企业。跟谷歌参与军事相提并论的,还有微软和亚马逊。亚马逊为国防部提供图像识别技术,而微软则为军队和国防单位提供云服务。亚马逊还是美国情报机构(CIA)云服务的主要提供商,与中情局曾签署了6亿美元的合同。
100年前的抗争
科学和战争的界限到底在哪里?类似的争议100年前就出现了。甚至有一位科学家为了抗议科学用于战争,自杀了。
1915年,第一次世界大战爆发。一位叫克拉拉的德国化学家,抗议把氯气用于战争,举枪自尽,死在儿子的怀里。
克拉拉抗议的对象,却是她的丈夫——著名的化学家弗里茨·哈伯。因为哈伯,就是那个帮助使用氯气来制造化学武器的人。
氯气,这种黄绿色、有强烈刺激性气味的剧毒气体,因为方便生产和伪装,是一种危险的化学武器。
当时,同为化学家的哈伯参与了德国的军事工作。在他的督导下,氯气作为化学武器首次部署在比利时的第二次伊珀尔战役中:
5730筒氯气,全部靠人力拖运到前线,当德军徒手打开,168吨氯气借风势被释放到空气中,直奔英法联军。
这是战争史上第一次使用大规模杀伤性武器的战役,德军伤亡3.5万,协约国1.5万人中毒,其中5000多人死亡。
但是,这次释放的化学毒气并未使德军在战局上有所突破,等待他们的,只是来自英国的报复性毒气袭击。
到底把人工智能技术运用到军事上,会不会造成更大规模伤亡?又该如何避免高科技为军事作伥?100 年后,技术发展日新月异,但我们面临的是同样的道德和伦理争议。
一位离开的谷歌员工提议,谷歌会议室应该命名为“克拉拉?伊梅瓦尔”,就是用以纪念这位因抗议科学参与战争吞枪自尽的化学家。
就在谷歌“AI军事门”风波爆发的同时,美国国防部的另一个计划已经在路上了,那就是联合企业国防基础设施计划(Joint Enterprise Defense Infrastructure,JEDI)。这是一份价值100亿美元的单一合同,并将在年底之前决定谁将成为合作伙伴。
被认为最有可能的胜选的三家公司?
谷歌、微软、亚马逊。