利用 AI 驱动账号模拟未成年人，主动识别潜在恶意用户

索尼互动娱乐（SIE）近日提交了一项编号为18/314775的新专利申请，拟利用人工智能技术创建模拟未成年人的账号，以主动识别潜在恶意用户。这项专利公开后引发业界关注，或将为在线游戏平台的安全防护提供新思路。

据外媒mp1st报道，该专利的核心是打造一批由大语言模型完全控制的AI账号，这些账号能够模拟未成年人的聊天行为。索尼将其专门放置在“潜在恶意用户可能寻找目标的场景中”，当可疑用户与AI账号建立联系后，系统便可根据双方互动判断其是否存在风险。

专利摘要显示，这一机制旨在“通过主动识别可疑用户，帮助玩家规避诈骗者、垃圾信息发送者、潜在的儿童侵害者以及其他具有恶意行为的用户”。如果用户表现出可疑行为，系统会将其标记为潜在危险账号，并持续观察其后续行为。

值得注意的是，系统并不会仅因玩家与AI账号聊天就直接处罚，而是将互动作为风险判断的信号。当用户与AI账号交流中表现出明显可疑行为时，后台会进行风险标记；若多次触发，该账号则可能面临封禁。

此外，当被标记用户主动联系真实玩家时，系统可提前发出警告或采取保护措施，从而在危害发生前阻断不当接触。这种“主动出击”的策略，与传统的被动举报和人工审核相比，更具前瞻性。

尽管该专利展示了AI在游戏安全领域的应用潜力，但业内普遍认为，科技公司专利申请与实际产品落地之间往往存在距离。索尼目前仅是在探索利用AI保护玩家的可能性，这项技术是否会真正应用于未来的PlayStation平台，仍是未知数。

若该技术最终商用，其意义不仅限于游戏领域，或将为各类在线社交平台防范未成年人骚扰提供借鉴。但如何在隐私保护与安全监控之间取得平衡，也是未来亟需解决的挑战。