马来西亚将对马斯克旗下X及xAI公司采取法律行动，指控其滥用Grok聊天机器人
【编者按】在人工智能技术日新月异的今天，其边界与伦理问题正引发全球性担忧。近日，马来西亚与印尼率先对马斯克旗下AI聊天机器人Grok亮出红牌，指控其生成色情及非自愿图像，危害用户安全。这不仅是东南亚国家对AI滥用的首次联合抵制，更折射出全球监管与科技巨头间的角力——当创新突破底线，法律该如何为数字时代的人性尊严筑起防线？这场风波背后，是技术中立性神话的破灭，也是各国在数据主权时代维护本土价值观的鲜明宣言。以下为事件详情：
马来西亚吉隆坡讯——马来西亚当局周二表示，将对埃隆·马斯克旗下社交平台X及其人工智能部门xAI采取法律行动，指控这两家公司未能确保其Grok聊天机器人的用户安全。
此举发生在马来西亚与印尼成为全球首批封禁Grok访问的国家后仅数日。随着该AI被滥用于生成色情及非自愿图像的担忧日益加剧，两国率先打响了监管重拳。
马来西亚通讯与多媒体委员会在声明中指出，已确认Grok被滥用于生成和传播有害内容，包括色情、低俗、极端冒犯性内容以及未经当事人同意的篡改图像。
该委员会透露，本月已向X和xAI发出移除有害内容的通知，但对方未采取任何行动。
“涉及妇女儿童的内容尤其令人高度警惕。这种行为既违反马来西亚法律，也违背了企业自身的安全承诺。”声明强调。目前该委员会已委任律师，并表示法律程序即将启动。
全球范围内，能够生成逼真图像、音频和文本的生成式AI工具正面临日益严格的审查。现有防护措施难以遏制技术滥用的现状，已敲响警钟。
Grok于2023年上线，在X平台可免费使用。其图像生成功能“Grok Imagine”去年新增所谓“辛辣模式”，可生成成人内容。该AI曾因生成篡改图像饱受批评——包括比基尼女性、色情姿势图像，甚至涉及儿童的不当内容。
除东南亚外，Grok在欧盟、印度和英国同样承压。英国本周一刚宣布将把“脱衣软件”刑事化，其媒体监管机构也已就Grok是否允许用户分享儿童色情图像展开调查。
上周，在全球对色情深度伪造内容的强烈抵制下，Grok已将图像生成和编辑功能限制为付费用户专享。但批评者指出，这并未根本解决问题。
截至目前，马斯克及其公司未就东南亚国家的限制措施公开置评。xAI对媒体问询的自动回复仅有一句：“传统媒体在撒谎。”
本文由吉伊网原创发布，未经许可，不得转载！
本文链接：http://www.jkiyi.com/gj/7082.html
