世界各地的数百名学者签署了一封公开信,敦促谷歌停止与美国国防部合作,分析无人机使用人工智能技术进行项目Maven的视频。
这封公开信是由国际机器人武器控制委员会(ICRAC)发起的。该组织是一个非政府组织,由研究人员为自主武器而担忧。成员包括机器人、人工智能、国际关系、安全、道德和法律方面的专家。
这不是人们第一次联合起来反对谷歌与军方合作。上个月,数千名员工转而反对该公司,并致信首席执行官桑德尔•皮查伊(Sundar Pichai)“立即取消(该项目)”。并要求皮查伊“起草、宣传和执行一项明确的政策,说明谷歌和它的承包商都不会制造战争技术。”
这封公开信是为了支持谷歌员工对”巧克力工厂的反抗”。它针对的是Alphabet的首席执行官拉里·佩奇(Larry Page)、Sundar Pichai (Sundar Pichai)、谷歌云首席执行官黛安·格林(Diane Greene),以及人工智能和机器学习的首席科学家李飞飞(Fei-Fei Li),以及谷歌云的veep。
“我们全心全意支持他们要求谷歌终止与国防部的合同,谷歌和其母公司Alphabet承诺不开发军事技术,不使用他们为军事目的收集的个人数据。从历史上看,军事资助在多大程度上推动了计算机的研究和发展,不应该决定该领域未来的发展方向。
谷歌在与五角大楼的政府合同中多次否认其技术的恶意使用。之前一位发言人告诉我们,它是使用“开源TensorFlow api,可以协助对象识别非机密数据”无人机的镜头援助军队。
然而,ICRAC认为这只是远离自主武器的一步。“目前报告项目Maven强调人类分析师的角色,这些技术将成为一个自动目标识别和自动武器系统的基础。随着军事指挥官们开始认为目标识别算法是可靠的,它将很容易减弱甚至消除对这些系统的人类审查和监督。
专家们也不仅仅关心武器。他们担心谷歌可能会与军方共享用户数据以进行监视。
“像谷歌这样的跨国公司的责任必须与他们的用户的跨国化相匹配。”根据谷歌所考虑的国防部合同,以及已经在微软和亚马逊上签订的类似合同,标志着私人科技行业之间的危险联盟,目前拥有大量来自全球各地的敏感的个人数据,以及一个国家的军队。
“我们正处于关键时刻。剑桥分析公司(Cambridge Analytica)的丑闻表明,公众越来越担心科技行业将拥有如此大的权力。这照只有一个关注越来越高股份的信息技术基础设施,和当前国家和国际的不足治理框架维护公众信任,”信中总结道。
谷歌没有让步,这导致一些员工辞职。目前还不清楚有多少人因为这场纠纷而辞职。
领取专属 10元无门槛券
私享最新 技术干货