马斯克前女友就AI生成不雅照起诉其公司，Grok涉黄风波引关注
编者按：在人工智能技术日新月异的今天，其边界与伦理问题正引发全球性争议。近日，一位与科技巨头埃隆·马斯克关系密切的女性，因AI生成的深度伪造色情图像陷入舆论漩涡，将马斯克旗下公司xAI告上法庭。这起案件不仅揭露了AI工具被滥用于制作非自愿色情内容的黑暗面，更凸显了科技平台在内容监管、用户权益保护与法律责任间的巨大鸿沟。当算法成为伤害他人的武器，当维权遭遇技术巨头的反诉，我们不得不追问：在创新狂奔的时代，人的尊严与安全究竟该被置于何处？以下为事件详情，值得每一位关注科技伦理与社会公平的读者深思。
埃隆·马斯克一个孩子的母亲近日起诉他的人工智能公司，指控其Grok聊天机器人允许用户生成涉及她的性剥削深度伪造图像，导致她遭受羞辱和精神痛苦。
27岁的阿什莉·圣克莱尔自称作家兼政治策略师，她在周四于纽约市对xAI提起的诉讼中声称，这些图像包括一张她14岁时衣着完整的照片被篡改成身穿比基尼的样子，以及其他显示她成年后以性暗示姿势出现、身穿印有纳粹万字符比基尼的图片。圣克莱尔是犹太人。Grok隶属于马斯克的社交媒体平台X。
xAI的律师周五未立即回复寻求评论的电子邮件。周三，在全球对女性和儿童性化图像强烈抗议后，X宣布Grok将不再能编辑照片以在非法地区描绘真人穿着暴露服装。
当被问及诉讼及其指控时，xAI在给美联社的电子邮件中仅回复“传统媒体撒谎”。
圣克莱尔表示，自去年这些深度伪造图像开始出现后，她已向X举报并要求删除。她说平台最初回复称这些图像未违反其政策。随后平台承诺未经她同意不会允许使用或篡改她的图像。
圣克莱尔称，该社交平台随后对她进行报复，取消了她的X高级订阅和认证徽章，禁止她拥有百万粉丝的账号盈利，并继续允许传播她的贬损性伪造图像。
“由于xAI在创建和传播这些经数字篡改的图像中所扮演的角色，我遭受并持续遭受严重痛苦和精神困扰，”她在诉讼附带文件中表示，“我感到羞辱，觉得只要Grok继续生成我的这些图像，这场噩梦就永不会停止。”
她还表示，自己生活在那些观看她深度伪造图像者的恐惧中。
圣克莱尔是马斯克16个月大儿子罗慕路斯的母亲。她居住在纽约市，并在该州最高法院提起诉讼。她就所称的精神伤害及其他指控寻求未公开数额的赔偿，同时要求法院立即禁止xAI允许传播更多她的深度伪造图像。
周四晚些时候，xAI律师将诉讼转移至曼哈顿联邦法院，要求法官在此审理此案。同日，xAI还在德克萨斯州北区联邦法院对圣克莱尔提起反诉，指控她违反xAI用户协议条款，该条款要求针对公司的诉讼必须在德克萨斯州联邦法院提起。xAI正寻求对她作出未公开金额的判决。
X总部位于德克萨斯州，马斯克在该州拥有住宅，其电动汽车公司特斯拉总部也位于奥斯汀。
圣克莱尔的律师卡丽·戈德伯格称此次反诉是“令人震惊”的举动，她从未见过被告方采取此类行动。
“圣克莱尔女士将在纽约积极维护她的诉讼地，”戈德伯格在声明中表示，“但坦率地说，任何司法管辖区都会认识到圣克莱尔女士指控的核心——通过制造未经同意的女孩和女性露骨性图像，xAI已构成公害且并非合理安全的产品。”
在周三的公告中，X表示正在对Grok实施其他防护措施，包括将图像创建和编辑功能限制于付费账户，称这将提升问责性。公司表示对儿童性剥削、非自愿裸体和不受欢迎的性内容零容忍，将立即删除此类内容并向执法部门报告涉及儿童性虐待材料的账户。
本文由吉伊网原创发布，未经许可，不得转载！
本文链接：http://www.jkiyi.com/lif/7403.html
