Roblox强化儿童安全管控，中东聊天功能暂缓上线，阿拉伯语AI技术正加速追赶
罗布乐思正再次尝试向家长和监管机构证明，其平台能为年轻用户提供更安全的环境。在中东地区，去年加强管控后，聊天功能在该区域大部分地方仍不可用，公司仍在努力回应当初引发关切的那些问题。
周一，公司宣布为16岁以下用户推出两种新的按年龄划分的账户类型——面向5至8岁儿童的“罗布乐思儿童”，以及面向9至15岁用户的“罗布乐思精选”。该系统将内容访问和家长控制与经过验证的年龄更紧密地绑定，同时限制了低龄用户在平台上所能看到和操作的范围。
罗布乐思成立于2004年，于2006年公开上线，已从一个利基游戏平台发展成一个庞大的用户自制世界生态系统，每日访问量从2025年第一季度的9780万日活跃用户增长至约1.44亿。
该平台已演变成自身的社交元宇宙，特别受Z世代和Alpha世代欢迎。用户畅游在由其他玩家创建的数百万个“体验”中，从障碍赛道、角色扮演世界到社交空间和品牌活动。这种规模既是其受欢迎的核心，也是随之而来的诸多质疑的焦点。
今年三月，英国监管机构Ofcom表示，包括罗布乐思在内的主要平台仍需加强年龄验证和“故障安全的诱骗防护”，以防止陌生人在线联系儿童。
曾审查过罗布乐思安全系统的研究机构“揭示现实”的研究人员也指出，尽管公司已做出改进，但成人和儿童仍可能在没有所谓“有效隔离”的情况下进行互动。
对于罗布乐思的首席安全官马特·考夫曼来说，最新的变革解决了一个公司多年来难以解决的问题：用户在注册时可以直接输入虚假年龄。
新系统将通过面部年龄估计或身份检查来验证年龄，并利用该流程将年轻用户归入新的账户类型。
面部年龄检查的工作原理是要求用户进行实时面部扫描，随后由验证服务提供商Persona进行分析以估计其年龄。公司表示，用于此过程的图像或视频在安全处理后会被立即删除。
“在年龄检查之前，如果你告诉用户必须年满13岁、16岁或18岁才能访问某些内容，他们只会输入他们需要的任何年龄，”考夫曼告诉《国民报》。“现在验证技术已能大规模运作，我们可以用它来管理通讯和内容。”
罗布乐思去年开始针对某些功能引入年龄检查，随后在一月份将其扩展至更广泛的通讯功能。
在全球新系统下，未完成年龄验证的用户将只能访问平台功能受限的版本，通讯功能被禁用，且只能访问评级较低的体验。完成年龄验证的用户将被归入相应的账户类型，该类型决定了他们可以使用哪些功能和游戏。
这些更新回应了专家先前提出的一些批评。“在线年龄验证的挑战在于，通过输入虚假出生日期很容易绕过，”总部位于阿联酋的网络安全公司Help AG的经理穆德雷什·沙阿去年表示。“此外还存在个人数据风险，原因包括隐私问题、安全性差，以及各平台方法不一致，这可能导致保护漏洞。”
考夫曼表示，其目标既是保护年轻用户本身，也是让平台更易于家长理解。新系统还集成了更强的家长控制功能，允许家长根据具体情况，逐一屏蔽他们认为不适合孩子的内容。
“我们设计这些账户，是为了让孩子能访问的内容和功能更清晰地与其年龄相符，”考夫曼说。
公司最新的安全举措是在经历一段更广泛的区域压力后推出的。继阿曼和约旦较早实施禁令后，科威特、卡塔尔和土耳其于2025年8月封禁了罗布乐思，而沙特阿拉伯和阿联酋则保持可用。一位代表称，约旦和科威特此后已恢复访问，该地区未再实施进一步的禁令。
阿联酋自身的干预发生在九月，当时罗布乐思在与包括电信和数字政府监管局在内的监管机构讨论后，暂停了中东阿拉伯语国家的游戏内聊天功能。此举源于对儿童安全的担忧，特别是平台上成人与儿童互动的风险，以及对阿拉伯语通讯进行审核的难度。
“罗布乐思在中东或其他任何地方受到大量关注并不奇怪，”考夫曼说。“我们拥有数百万日活用户，其中很多是儿童和青少年。”
罗布乐思表示，年轻用户仍将能够访问他们已玩的大部分游戏，但前提是这些游戏已通过额外的审核层级。这包括内容评级、开发者验证，以及公司在更广泛提供游戏之前评估年长用户如何与游戏互动的时间。
这种谨慎态度反映了平台本身的开源性质。它并非运作一个固定的游戏库，而是运作一个不断变化的生态系统，用户生成的游戏在其中被不断创建、更新和重塑。
“罗布乐思上有数百万个体验在不断被创造，”考夫曼说。
他指出，一个体验在发布时可能看起来无害，但一旦用户开始在其中花费时间，情况可能会变得复杂。这就是为什么考夫曼说罗布乐思更加重视游戏随时间推移的表现，而不仅仅是它们乍看之下的样子。
然而在中东，更大的问题仍然是聊天功能。罗布乐思表示其最终打算恢复该功能，但考夫曼没有给出时间表。他说，目前公司仍专注于改进恢复该功能所需的阿拉伯语安全系统。
“我们去年关闭聊天功能，是为了给自己时间改进阿拉伯语安全技术，”他说。“这项工作仍在进行中。”
罗布乐思目前使用考夫曼所说的三层审核系统。第一层依赖于模式匹配，使公司能够快速屏蔽有害词汇和短语。
第二层基于过去的通讯和用户报告进行训练，以识别骚扰、歧视和其他辱骂行为。
第三层使用大语言模型工具来评估随时间推移的意图，包括试图分享个人信息的行为。
这最后一层是区域挑战变得最具体的地方。考夫曼表示，阿拉伯语的大规模审核仍然比英语更困难，尤其是当目标是理解语言的使用方式时。
“我们对阿拉伯语原生模型特别感兴趣，它不仅要理解正式阿拉伯语，还要理解口语——孩子们日常实际说话的方式，”他说。
阿布扎比自身的科技努力可能发挥关键作用。罗布乐思正密切关注阿拉伯语人工智能的发展，包括穆罕默德·本·扎耶德人工智能大学的工作，以寻求加强该地区审核能力的方法，尽管尚未建立正式合作伙伴关系。
在阿拉伯语大语言模型技术更接近其英语同类技术的成熟度之前，罗布乐思的聊天功能将保持关闭。
“我们正在努力探索如何利用这些技术来改进我们自己的系统。随着这些技术的进步，我们当然有意在中东重新开启聊天功能，”考夫曼说。
年龄控制旨在解决一些最顽固的问题，试图说服家长和监管机构，该平台已变得更具可管理性。
在中东，目前尚不清楚监管机构是否会认为这些进展已足够，而无需在最初引发审查的聊天功能问题上取得进一步进展。
本文由吉伊网原创发布，未经许可，不得转载！
本文链接：http://www.jkiyi.com/kj/15754.html
