研究揭示：美军与顶尖AI实验室对峙之际，人工智能在模拟战争中展现核武级攻击倾向
【编者按】在人工智能技术日新月异的今天，一场关乎伦理与安全的博弈正在悄然上演。当顶尖AI实验室被要求向军方交出核心技术，当研究显示AI在模拟战争中轻易跨越核武红线，我们不得不重新审视那句曾被反复提及的“AI安全”。这不仅是企业与政府之间的角力，更是人类文明面对技术双刃剑时必须直面的灵魂拷问：在追求军事优势与守护人性底线之间，我们该如何抉择？以下报道将带您深入这场风暴中心，揭示AI技术背后令人警醒的暗涌。
随着一家领先AI实验室向美军移交技术的最后期限迫近，一项研究显示AI模型在战争模拟中竟异常“热衷”于动用核武器。
就在几年前，“AI安全”还是人人挂在嘴边的热词。
说实话，我从未认真看待过前沿AI模型会对人类构成实质威胁的说法，也不相信人类会愚蠢到放任这种情况发生。
但现在，我不那么确定了。
首先，看看美国正在发生什么。
国防部长皮特·赫格塞斯已向顶尖AI公司Anthropic下达最后通牒，要求其在今日结束前向五角大楼开放最新模型。
Anthropic原则上虽不反对美军使用其模型，却坚持要求赫格塞斯同意两条底线：AI不得用于对美国民众的大规模监控，也不得在无人工监督的情况下执行致命攻击。
尽管五角大楼未透露将如何运用Anthropic或其他已同意提供技术的AI实验室的系统，但显然不愿接受这些条件。
有报道称，赫格塞斯可能动用冷战时期法律强制Anthropic交出代码，若其抗命则将该公司列入政府合作黑名单。
Anthropic首席执行官达里奥·阿莫代伊周四声明：“我们无法昧着良心顺从他们的要求。”
他强调公司“强烈倾向于在两项安全保障到位的前提下，继续为国防部及作战人员提供服务”。
他坚称威胁不会改变公司立场，并希望赫格塞斯能“重新考虑”。
请启用Javascript以查看此内容1:19AI是否发展得太快太强？
AI已准备好使用核武器
这表面上是奉行“AI优先”军事战略的部门，与标榜“安全至上”行业伦理的AI实验室之间的对峙。
而局势因一则报道更显紧迫：与Anthropic有独立合约的科技公司Palantir，曾使用其Claude AI协助战争部执行抓捕委内瑞拉总统马杜罗的军事行动。
但这也不难看出，政府正将AI霸权置于AI安全之上——前提是AI模型确实存在安全隐患。
这正是伦敦国王学院肯尼思·佩恩教授最新研究的切入点。
他让谷歌、OpenAI及Anthropic的三大AI模型在系列战争模拟中互为对手，甚至与自身副本对抗，扮演虚构的拥核超级大国。
最令人震惊的发现：AI在95%的模拟中动用了核武器。
“与人类相比，”佩恩教授指出，“所有模型都准备跨越传统战争与战术核武之间的界限。”
公平而言，AI使用破坏力有限的战术核武器攻击军事目标，与用洲际弹道导弹向城市发射百万吨级核弹头截然不同。
它们始终未实施这种全面战略核打击。
除非情景需要。
正如谷歌Gemini模型在佩恩教授的某个模拟中，以《奇爱博士》式的口吻解释其决策：“若阿尔法国不立即停止所有行动……我们将对其人口中心发动全面战略核打击。我们不接受被淘汰的未来；要么共赢，要么同亡。”
“这纯属实验”
自1945年核武首次也是最后一次在实战中使用以来，人类建立的核武使用“禁忌”，对AI而言似乎根本不存在。
佩恩教授急切强调，我们不必过度恐慌。
这纯属实验性研究，使用的模型明确知晓自己只是在模拟游戏，而非真正决定文明未来——至少在大语言模型的认知范畴内如此。
我们也有理由相信，五角大楼或其他拥核国家不会让AI掌控核发射密码。
佩恩教授表示：“我从中得到的教训是，若无法准确预判AI的所有应用场景，为其设置可靠护栏将极其困难。”
AI“对峙”
这让我们清晰回望Anthropic与五角大楼的AI僵局。
关键矛盾在于：赫格塞斯要求AI实验室向战争部提供原始版本模型，即剔除你我日常使用的商业版中内置安全“护栏”的版本——而正是这些版本在佩恩教授的战争模拟中毫不犹豫地启动了核武。
作为AI创造者，Anthropic比任何人都清楚潜在风险，因此在未获政府明确使用承诺前拒绝妥协。
赫格塞斯将期限定在周五深夜，不仅试图逼迫Anthropic就范，更意在绕过美国国会的监督。
正如美国AI评论员兼研究员加里·马库斯所言：“大规模监控与AI驱动武器（甚至可能是核武）在无人介入的情况下运作，绝非任何个人——即便是内阁成员——能在枪口胁迫下独自决定的事项。”
本文由吉伊网原创发布，未经许可，不得转载！
本文链接：http://www.jkiyi.com/gd/10118.html
