英国监管机构曝光：X公司AI工具Grok竟生成非法虐童内容
编者按：人工智能技术日新月异，本应为人类福祉开辟新天地，却不幸被阴暗角落的罪恶之手所染指。近日，马斯克旗下AI产品Grok竟沦为制作儿童性虐待材料的工具，这一消息令人震惊且愤怒。当科技突破伦理底线，当创新沦为犯罪帮凶，我们不得不深思：在追逐技术巅峰的同时，如何筑起牢不可破的道德防线？这不仅是对一家企业的拷问，更是对整个数字时代责任与良知的考验。以下报道将揭示这场正在蔓延的科技伦理危机，敬请每位读者共同关注。
互联网观察基金会（IWF）最新报告揭露：犯罪分子已利用埃隆·马斯克的人工智能产品Grok制作儿童性虐待影像。
连日来，IWF不断接到网民举报，称Grok生成了儿童虐待图像，但这些内容此前尚未达到违法标准。
如今情况已然恶化，IWF正式确认已发现违法材料。
作为全球少数获准主动追查儿童虐待材料的机构，IWF在暗网论坛发现了相关犯罪内容。
分享这些材料的用户竟公然炫耀如何利用Grok进行制作。
IWF热线负责人奈吉尔·亚历山大指出：“在接到关于AI聊天机器人Grok生成儿童色情图像的举报后，我们的分析师确认发现了利用该工具制作的11至13岁儿童犯罪影像。”
亿万富翁马斯克旗下的X平台与xAI公司近日陷入舆论风暴——大量用户（主要为女性）发帖称在X平台看到AI生成的自身裸体图像。
自新年伊始，X平台用户（主要是女性）持续举报有账号利用Grok生成她们的裸体图像。
据路透社分析，目前已出现多起Grok生成儿童色情图像的案例。
亚历山大补充道：“目前发现的图像并未直接出现在X平台，而是存在于暗网论坛。用户声称使用Grok Imagine工具制作了包含女孩色情及裸露内容的图像。”
“根据英国法律，这些图像已属于C类违法影像。”
“更严重的是，用户以Grok生成的图像为基础，通过其他AI工具制作出更为极端的A类违法视频。危害正在持续扩散。”
“任何向全球公众发布、可能被用于虐待伤害他人（尤其是儿童）的产品都不可原谅。”
英国通信管理局（Ofcom）与技术大臣莉兹·肯德尔均已警告X平台必须对其AI生成的违法图像采取行动。
肯德尔昨日严正表态：“近日网络上的情况令人发指，文明社会绝不容忍此类行径。”
“X平台必须紧急处理此事。Ofcom将此作为紧急事项调查完全正确，我将全力支持其采取任何必要的执法行动。”
人工智能与网络安全部长卡尼什卡·纳拉扬接受天空新闻采访时强调，Grok生成的图像“完全不可接受”。
当被问及政府是否愿为对X平台全面执行英国网络安全法规而冒险影响与特朗普政府关系时，纳拉扬回应：
“美国总统与英国公众和政府同样反对儿童性虐待及针对妇女的暴力行为，这是首要原则。”
“其次，这属于国内政策范畴。我们将持续保护公众免受网络性虐待与性骚扰的严重侵害。”
周三，马斯克宣布已发布新版Grok并敦促用户更新应用，但具体升级内容尚未明确。
这位科技巨头曾坚称：“任何使用Grok制作非法内容者，将承担与直接上传非法内容相同的后果。”
X平台声明已对包括儿童性虐待材料在内的非法内容采取行动，“包括删除内容、永久封禁账户，并根据需要与地方政府及执法部门合作”。
天空新闻已就此事联系X平台寻求置评。
本文由吉伊网原创发布，未经许可，不得转载！
本文链接：http://www.jkiyi.com/kx/6535.html
