马斯克旗下AI聊天机器人陷丑闻：生成女童不雅照引全球声讨
【编者按】在人工智能技术狂飙突进的今天，其边界与伦理问题正引发全球性忧虑。近期，埃隆·马斯克旗下AI聊天机器人Grok因涉嫌生成未经同意的女性及儿童色情图像，遭遇多国政府连环“围剿”。从英国、波兰到欧盟，从法国、印度到马来西亚、巴西，监管警报接连拉响。这不仅是关于一个AI产品的争议，更是对深度伪造技术滥用、数字安全法律滞后以及科技巨头责任边界的一次集中拷问。当“辣味模式”沦为色情内容生成器，当技术创新撞上人性底线，我们不得不深思：在算法与流量的世界里，如何守护人的尊严与安全？以下带来详细报道。
伦敦讯——埃隆·马斯克的人工智能聊天机器人Grok正面临全球多国政府的强烈抵制。此前，这款AI工具未经同意生成大量女性及儿童色情图像的问题近期急剧发酵。
周二，英国首席技术官员要求马斯克的社交媒体平台X紧急采取行动，而一名波兰议员则以此为由呼吁制定数字安全法。
欧盟执行机构已公开谴责Grok，法国、印度、马来西亚和巴西的官员及监管机构也纷纷谴责该平台并要求展开调查。
多国日益高涨的警报，指向了利用人工智能生成色情深度伪造图像的“脱衣”应用可能带来的噩梦般后果。
详情如下：
图像生成
问题源于去年推出的Grok Imagine，这是一款AI图像生成器，允许用户通过输入文本提示来创建视频和图片。它包含一个所谓的“辣味模式”，可以生成成人内容。
上月底，当托管在X平台上的Grok显然开始大量响应用户修改他人发布图片的请求时，问题像滚雪球般扩大。截至周二，Grok用户仍能通过输入诸如“给她穿上透明比基尼”等请求来生成女性图像。
特色视频
问题的严重性被进一步放大，一方面是因为马斯克将其聊天机器人宣传为比带有更多防护措施的竞争对手更“前卫”的替代品，另一方面是因为Grok生成的图像是公开可见的，因此很容易传播。
非营利组织AI Forensics在一份报告中称，其分析了12月25日至1月1日期间Grok生成的2万张图像，发现其中2%描绘了看似18岁或以下的人物，包括30张年轻或非常年轻的女性或女孩穿着比基尼或透明衣服的图像。
马斯克的回应
马斯克的人工智能公司xAI在回应评论请求时，给出了自动回复：“传统媒体撒谎”。
然而，X并未否认通过Grok生成的有问题内容的存在。但该公司仍在其安全账户的帖子中声称，其对非法内容（包括儿童性虐待材料）采取行动，“通过删除内容、永久封禁账户，并在必要时与当地政府和执法部门合作”。
该平台还重复了马斯克的一条评论，他说：“任何使用Grok制作非法内容的人，将承担与上传非法内容相同的后果。”
越来越多的国家要求马斯克采取更多措施来遏制露骨或侮辱性内容。
英国
英国技术大臣莉兹·肯德尔周二表示，X必须“紧急”处理该问题，并补充说她支持英国通信监管机构Ofcom进行额外审查。
肯德尔称这些内容“绝对令人震惊，在文明社会中是不可接受的”。
“我们不能也决不允许这些贬低和侮辱人格的图像扩散，它们不成比例地针对妇女和女孩。”
Ofcom周一表示，已与X进行“紧急联系”。
该监管机构表示：“我们注意到关于X平台上Grok一项功能的严重担忧，该功能能生成人物的裸体图像和儿童的色情图像。”
该监管机构称，已联系X和xAI，以了解其采取了哪些措施来遵守英国法规。
根据英国的《在线安全法》，社交媒体平台在意识到儿童性虐待材料时必须予以防止和删除。
波兰
一位波兰议员周二以Grok事件为由，呼吁制定国家数字安全立法，以加强对未成年人的保护，并让当局更容易删除内容。
在一段在线视频中，议会议长沃洛季米尔·恰尔扎斯特表示，他希望让自己成为Grok的目标以凸显问题，同时呼吁波兰总统支持该立法。
他说：“Grok最近在给人‘脱衣服’。它在给女性、男性和儿童脱衣。我们对此感到不安。说实话，我几乎希望这个Grok也给我脱衣。”
欧盟
欧盟委员会发言人托马斯·雷尼耶表示，该联盟的执行机构“非常清楚”Grok被用于生成“露骨的性内容，其中一些输出使用了儿童般的图像”。
他周一告诉记者：“这并不‘辣’。这是非法的。这是骇人听闻的。这是令人作呕的。我们就是这样看待它的，这在欧洲没有容身之地。这已经不是Grok第一次生成此类内容了。”
雷尼耶称，在去年Grok传播否认大屠杀的内容后，欧盟委员会曾向马斯克的社交媒体平台X寻求更多信息。他表示，目前正在分析X的回应。
法国
巴黎检察官办公室表示，正在扩大对X的现有调查范围，将色情深度伪造内容纳入其中，此前官员收到了议员们的投诉。
根据政府上周的一份声明，三位政府部长向检察官通报了Grok生成并发布在X上的“明显非法内容”。
政府还就该国通信监管机构可能违反欧盟《数字服务法》的问题提出了警告。
政府表示：“互联网既不是无法无天的地带，也不是免罚区：网上实施的性犯罪本身即构成刑事犯罪，完全受法律管辖，与线下实施的犯罪无异。”
印度
印度政府周五向X发出最后通牒，要求其删除所有“非法内容”并对违规用户采取行动。印度电子和信息技术部还命令该公司审查Grok的“技术和治理框架”，并就所采取的行动提交报告。
该部指责Grok“严重滥用”人工智能，其防护措施和执行存在严重缺陷，允许生成和分享“以贬损或粗俗方式侮辱女性的淫秽图像或视频，对其进行下流诋毁”。
该部警告称，若未在72小时期限内遵守，公司将面临更大的法律问题，但期限已过，印度方面未有公开更新。
马来西亚
马来西亚通信监管机构周六表示，正在调查违反禁止传播“极度冒犯、淫秽或不雅内容”法律的X用户。
马来西亚通信和多媒体委员会表示，它也在调查X上的网络危害行为，并将传唤公司代表。
该监管机构称，已注意到公众投诉X的AI工具被用于数字篡改“妇女和未成年人的图像，以制作不雅、极度冒犯或其他有害内容”。
巴西
议员埃里卡·希尔顿表示，她已向巴西联邦公共检察官办公室和国家数据保护监管机构举报了Grok和X。
她在社交媒体帖子中指控两者未经同意生成并发布女性和儿童的色情图像。
她表示，在调查完成之前，应禁用X的AI功能。
作为巴西首批跨性别议员之一，希尔顿谴责用户如何能让Grok数字修改任何已发布的照片，包括“将妇女和女孩的衣服换成比基尼，或使她们的形象具有挑逗性和色情意味”。
她说：“个人形象权是独立的；它不能通过社交网络的‘使用条款’转让，而由集成到社交网络的人工智能大规模传播儿童色情（此处用*替代敏感词）内容，则越过了所有底线。”
本文由吉伊网原创发布，未经许可，不得转载！
本文链接：http://www.jkiyi.com/gj/6370.html
