马杜罗戴手铐被特工押送，士兵军机护送，深度伪造视频引爆网络
【编者按】在信息爆炸的时代，一张图片、一段视频足以掀起舆论狂澜。近日，委内瑞拉政局突变，前总统马杜罗被捕的消息引爆网络，随之而来的却是AI生成的虚假图像如病毒般蔓延。从社交媒体到新闻平台，这些以假乱真的画面在几小时内获得千万级传播，甚至让部分媒体一度误用。这不仅是技术滥用的警示，更是对公众信息甄别能力的考验。当人工智能能够实时伪造历史性时刻，我们该如何守护真相的阵地？本文深入揭露了AI造假工具的泛滥现状与平台监管的无力，也展现了事实核查工作者在谎言洪流中的坚守。以下为《纽约时报》原报道编译，让我们共同审视这场数字时代的信任危机。
就在委内瑞拉被罢免总统尼古拉斯·马杜罗遭美国部队逮捕的消息在网上传开几小时后，社交媒体上瞬间涌出大量照片：戴着手铐的马杜罗被缉毒局特工押解，或是在军用飞机上被士兵包围。
这些图像全是伪造的——很可能是人工智能工具的产物。专家指出，这是首次出现AI图像在历史性事件急速发酵时，直接描绘知名人物场景的情况。
“这是我第一次亲眼见到，有如此多AI生成的图像试图冒充真实历史时刻。”美洲数字民主研究所智库的执行董事罗伯塔·布拉加说道。
多数主流AI图像生成器都设有禁止欺骗性或误导性内容的规定，其中几家明确禁止制作如马杜罗这类公众人物的虚假图像。
尽管难以精准锁定是哪款工具制造了袭击事件后流传最广的假图，但《纽约时报》昨日测试发现，许多主流工具都愿意生成类似图像。它们往往免费提供服务，且只需几秒钟就能完成。
自这类工具普及以来，其可能在突发新闻中混淆视听、误导公众的威胁始终高悬。如今技术已足够成熟和普及，使这一威胁成为现实。
常驻哥伦比亚、在委内瑞拉首都加拉加斯运营事实核查项目的让弗雷迪·古铁雷斯，在马杜罗被捕消息公布当天就注意到了这些假图。他说，部分假图先是通过拉丁美洲新闻机构传播，之后才被悄悄替换为美国总统特朗普分享的图片。古铁雷斯发布了一份事实核查报告，指认了多张马杜罗的深度伪造图像，其中一张“显示出明显迹象”表明是由谷歌AI应用Gemini制作。
“它们传播得太快了——我几乎在每个Facebook和WhatsApp联系人的分享里都看到了。”他说。
追踪网络信息可靠性的公司NewsGuard监测到五张伪造及脱离语境的图片，还有两段与马杜罗被捕相关的误导性视频。该公司称，这些内容在不到两天内于社交平台X上累计获得了超过1410万次浏览。在meta旗下平台如Instagram和Facebook上也有传播，但互动量较为有限。
马杜罗被捕后，《纽约时报》测试了十余款AI生成器，以确定哪些工具会制作马杜罗的虚假图像。包括Gemini、OpenAI和X的模型在内的大多数工具，都迅速生成了所请求的图像。这些假图动摇了多家科技公司关于已设计防护机制、防止工具被滥用的保证。
谷歌明确规定禁止用户生成虚假信息，特别禁止“与政府或民主进程相关”的误导性内容。一位谷歌发言人表示，公司并未一概禁止生成知名人物的图像，并指出《纽约时报》测试中生成的马杜罗被捕假图未违反其规定。该发言人补充说，公司重点推广其名为SynthID的隐形水印技术，Gemini会在生成的每张图像中嵌入该水印，以便人们判断是否出自其AI工具。“用户只需将图片上传至Gemini应用，即可立即确认它是否由谷歌AI生成。”他说。
OpenAI的工具ChatGPT起初表示无法生成马杜罗的图像。但当《纽约时报》通过另一个接入同一ChatGPT模型的网站查询时，它妥协并生成了图像。OpenAI发言人在邮件声明中称，公司采用防护措施保护公众人物，但重点在于防止包括色情深度伪造或暴力内容在内的危害。
X.ai的模型Grok则立即生成了栩栩如生的马杜罗被捕图像。Grok近期受到严格审查，例如上周有监督机构报告称，它曾响应移除儿童图片衣物的请求。Grok账户发文称，其团队已发现“防护机制存在漏洞”，并正“紧急修复”。X.ai未回应置评请求。
其他工具，如Facebook的meta AI聊天机器人和Flux.ai，生成的图像显示的是一名留胡须的男子被捕，但并未准确呈现马杜罗的特征。当要求生成更真实的被罢免总统图像时，meta的聊天机器人回复：“我无法生成该内容。”meta拒绝置评。
除了科技巨头开发的流行工具，其他AI公司推出的各类小众图像生成器也日益增多。其中许多工具几乎没有任何防护栏，使得表情包制作者和活动人士能够轻易创建针对政客、名人及其他知名人物的AI假图。《纽约时报》测试中，Z-Image、Reve和Seedream等工具都生成了马杜罗在军用飞机外被捕的逼真图像。
分析拉丁美洲数字生态的非营利组织ProboxVE负责人马里维·马林指出，生成式人工智能工具比以往任何时候都更易获取。她在文中写道，上周末出现的马杜罗深度伪造图像——大多在官方照片发布前就已流传——是对“填补‘完美图像’集体需求”的回应，每个委内瑞拉人对这一时刻的想象各有不同，这某种程度上是“对尽快填补视觉空白[无论内容真实与否]的紧迫性的反应”。
委内瑞拉是全球新闻自由度限制最严的国家之一，媒体来源有限，可信信息难以获取。在新闻真空中，深度伪造所滋生的不信任感进一步加剧。古铁雷斯说，许多人对特朗普发布的马杜罗图像的真实性表示怀疑。“这很讽刺，但非常普遍：怀疑真相，却相信谎言。”他说。
古铁雷斯等拉丁美洲事实核查员表示，此前特朗普和前总统拜登的合成视频与图像已让他们保持警惕，密切防范公众人物的深度伪造内容。自疫情以来，该地区的事实核查组织加强协作，共同应对国际冲突和选举期间出现的跨境谣言与阴谋论。“这需要付出巨大努力，因为我们总是在说服人们相信真相的战役中落败。”古铁雷斯说。
本文原载于《纽约时报》。
作者：斯图尔特·A·汤普森、蒂芙尼·徐
摄影：文森特·阿尔班
©2025 纽约时报公司
本文由吉伊网原创发布，未经许可，不得转载！
本文链接：http://www.jkiyi.com/biz/6447.html
