Roblox近日宣布推出一项实时AI聊天改写功能，当用户在聊天中输入被禁止的词语时，系统将自动把内容改写成更礼貌、更合适的表达，以减少对话被打断的情况。
此前，Roblox的聊天过滤系统会把违规词语直接替换成“#”符号。例如，一整句不合规的话可能会显示为“####”，导致玩家难以理解对话内容，也会影响游戏中的沟通和协作。
而在新的系统中，AI会根据原句含义进行智能重写。比如原本的“Hurry TF up!”过去会被完全屏蔽，现在则会被改写为更温和的“Hurry up!”。同时，聊天中的所有人都会看到提示，说明该信息已被系统重新表述，以保持交流的文明和顺畅。
Roblox用户与发现产品副总裁表示，聊天是玩家在平台上互动、协作和建立联系的核心方式。实时改写功能不仅能减少聊天摩擦，还能在不打断交流的情况下，引导用户使用更合适的语言，从而维持社区秩序。
值得注意的是，这项改写功能并不会取代现有的安全系统。对于更严重的不当行为，例如骚扰、发布不当内容或违规信息，平台的安全机制仍然会继续发挥作用。
Roblox还表示，新功能支持所有目前通过平台自动翻译系统提供的语言，因此全球玩家都可以使用这一改写机制进行沟通。
除了改写功能外，公司还对文本过滤系统进行了升级。新的系统能够识别更多变体的违规语言，包括利用“leetspeak”（用数字或符号替代字母）等方式绕过过滤的行为。根据早期测试结果，该系统在识别用户分享或索取个人信息方面的漏检率已经降低了约20倍。
此次更新也与Roblox近期加强平台安全措施有关。此前，由于儿童安全问题，该公司曾面临来自美国多个州检察长的诉讼，指控平台可能让未成年用户接触到不当内容或遭遇不良行为。随后，Roblox开始要求用户在访问聊天功能时进行强制人脸验证，以进一步提升安全性。
总体来看，AI聊天改写与更严格的安全措施是Roblox改善社区环境的重要一步。公司希望通过技术手段，让玩家在保持自由交流的同时，也能拥有一个更加安全、友好的游戏社交空间。
苏公网安备32021302001419号