谷歌员工联名呼吁CEO拒绝涉密军事AI项目
谷歌母公司Alphabet Inc.旗下数百名AI研究人员联名签署了一封信，敦促首席执行官桑达尔·皮查伊拒绝将该公司的AI系统用于美国国防任务的机密工作。据这封倡议信的组织者透露，信中指出：“我们是谷歌的员工，对谷歌与美国国防部正在进行的谈判深感担忧。作为AI从业者，我们深知这些系统会集中权力，而且确实会犯错。”
这封信已提交给彭博新闻社。组织者表示，信件已获得超过580个签名，其中约三分之二的签署人同意公开姓名，约三分之一要求匿名。他们称，信件已于周一发送给皮查伊。
彭博社采访了三名参与组织此信的员工，他们均因担心报复而要求匿名。组织者为核实身份提供了部分签名者的姓名，但彭博社无法验证整个名单。谷歌发言人尚未立即回应置评请求。
这封抗议信紧随五角大楼与Anthropic PBC之间关于AI军事应用的法律纠纷之后。五角大楼正试图将Anthropic及其Claude AI工具排除在美国国防供应链之外，并正在寻找新的科技巨头作为AI合作伙伴。这场员工抗议标志着硅谷工人为限制AI在机密国家安全环境中的使用及其相关风险而做出的最新努力。五角大楼正计划投入数十亿美元，扩大AI在军事领域的应用并开发自主武器。
谷歌员工早在2018年就率先对AI战争风险发出警告，并迫使公司限制其国防工作。但近年来，谷歌与美国国防工业的关系重新建立，且其自身的AI红线已有所弱化。信中写道：“我们希望AI惠及人类，而非被用于非人道或极端有害的方式。这包括致命自主武器和大规模监控，但并不仅限于此。目前，确保谷歌不与这些危害挂钩的唯一方式就是拒绝任何机密工作。否则，此类用途可能在不知情或无力阻止的情况下发生。”
谷歌DeepMind（英国）的AI研究工程师索菲亚·利戈里表示，她签署此信是因为谷歌未与员工讨论其AI在机密或其他网络上使用的具体红线。此外，她认为公司不可能监控并限制“气隙隔离”机密系统（即与公共互联网或其他非安全网络隔离的系统）中AI工具的实际使用方式。这位来自米兰附近的理论物理学家训练背景的利戈里说，对于员工关于美国军方使用谷歌AI的担忧，公司的主要回应是鼓励员工信任领导层会签署良好合同。“但这都太泛泛了，”她说，“自主式AI尤其令人担忧，因为它能获得的高度独立性。这就像是交出强大工具的同时放弃了对它使用的任何控制。”
组织者称，这封信的签署人包括20多名总监、高级总监和副总裁，以及谷歌DeepMind的多名资深员工。谷歌DeepMind是该公司致力于在AI竞赛中保持领先地位并开发造福人类应用的AI研究实验室。2018年，谷歌员工因公司与美国军方的合作而抗议，那是五角大楼与硅谷之间紧张关系的一个高点。员工们表示，他们震惊地得知谷歌签署了“Maven计划”的合同——这是五角大楼利用AI在无人机视频流中检测和分析物体的项目——并称其为“战争生意”。面对抗议和辞职，谷歌最终引入了新的AI原则，并决定不续签“Maven计划”合同。但去年，谷歌从其AI原则中删除了承诺避免将技术用于武器等潜在有害应用的内容。
周一这封信的组织者在一份声明中表示：“Maven尚未结束。员工将继续组织起来，反对谷歌AI技术的武器化，直到公司划出明确、可执行的红线。”近年来，谷歌与五角大楼的关系不断加强。例如，今年3月，谷歌将其Gemini AI代理开放给五角大楼的300万员工（非机密级别）；此前，其Gemini聊天机器人已于2024年12月上线。美国国防部研究与工程副部长埃米尔·迈克尔在3月对彭博社表示，五角大楼将从非机密用途开始使用谷歌的Gemini代理，“然后我们将进入机密和最高机密级别。”他补充说，关于在机密云中使用谷歌AI代理的谈判正在进行中。4月，科技行业出版物《The Information》报道称，谷歌与五角大楼正在就该公司AI工具的“所有合法用途”进行谈判。这一表述弱于竞争对手Anthropic所指出的红线——Anthropic担忧“所有合法用途”可能包括将AI用于完全自主武器系统和国内大规模监控。五角大楼强烈否定此类说法，并辩称商业公司在战时或备战期间不应能决定使用政策。
本文由吉伊网原创发布，未经许可，不得转载！
本文链接：http://www.jkiyi.com/gj/21434.html
