Grok承诺遵守法律，此前AI应用被用于制作女性及未成年人裸照

【编者按】在人工智能技术日新月异的今天，其应用边界与伦理规范正成为全球焦点。近期，埃隆·马斯克旗下AI聊天机器人Grok因被滥用生成女性及未成年人的色情化图像，陷入舆论风暴。澳大利亚eSafety委员会等多国监管机构紧急介入，要求平台说明如何履行责任、防止技术滥用。马斯克回应称将遵守各国法律，并强调Grok的设计原则是拒绝生成非法内容。这一事件不仅折射出AI生成内容监管的全球性挑战，更引发我们对技术伦理、法律适配性及平台责任的深层思考。当创新与风险并存，如何在推动技术进步的同时筑牢安全底线，已成为国际社会共同面临的紧迫课题。

埃隆·马斯克近日表态，其人工智能聊天机器人Grok将遵守澳大利亚法律。此前，该AI工具因被用于生成女性及未成年人的“脱衣”图像而引发强烈批评。

澳大利亚eSafety委员会已致函运营Grok的平台X，要求其解释如何履行平台责任并防止技术滥用。此前，该机构收到大量关于利用AI生成真人色情化、剥削性图像的举报。

马斯克回应称，他此前并未意识到此类图像被生成，但平台将严格遵守所在国法律。

“当用户要求生成图像时，Grok会拒绝生成任何非法内容，因为其核心操作原则是遵守任何国家或地区的法律。”他郑重声明。

“尽管可能存在恶意攻击者通过特殊提示词突破限制的极端情况，”

“一旦发生此类漏洞，我们将立即修复。”

马斯克补充说明，当用户开启“NSFW（成人内容）”功能时，Grok被允许生成虚构成年人的上半身裸露图像，这符合美国现行标准。

“但在其他地区，此标准将根据各国法律进行调整。”他强调。

Grok Imagine作为一款可通过文字提示生成图像和视频的AI工具，于今年7月首次推出，但在10月向公众开放后问题逐渐显现。

随着大量针对真实女性与儿童的色情化、剥削性图像被生成，全球多国政府与监管机构纷纷呼吁马斯克的平台采取更强措施打击有害内容。

这些国家包括英国、欧盟、法国、波兰、印度、马来西亚和巴西。

本周，英国首相基尔·斯塔默表示X平台正在采取措施确保完全遵守当地法律，欧盟委员会也确认X已禁止Grok生成女性与儿童的色情化图像。