Meta AI 强化青少年安全防护：新增家长预警与紧急响应机制

Meta 近期为旗下人工智能助手 Meta AI 新增了针对青少年用户的家长预警功能。当未成年用户在与 Meta AI 的对话中涉及敏感话题时，系统将主动通知其监护人，以确保家长能及时了解孩子在使用 AI 聊天机器人时可能存在的潜在风险。

预警机制覆盖自残与自杀话题

首先，Meta 将在青少年与 AI 的对话涉及自杀或自残相关内容时，向家长发送预警通知。根据官方展示的流程，当青少年与 Meta AI 进行此类对话时，家长会收到包含相关支持资源链接的提醒。

Meta 在官方声明中解释：“当青少年暗示可能考虑自杀或自残时，Meta AI 已会引导其联系危机求助热线，并鼓励他们向家长或辅导员等可信赖的成年人寻求帮助。现在，我们还将主动提醒监督家长，如果其子女与 Meta AI 的聊天内容显示出潜在风险，系统将基于与专家共同开发的信号进行判断。”

Meta 表示，初期预警将涵盖多种信号，并倾向于谨慎处理，以避免漏报。公司正在优化通知内容，力求在保障安全的同时，避免给家长造成不必要的焦虑。

全球推广时间表

Meta 称：“这些预警目前已在英国、美国、澳大利亚和加拿大上线，适用于使用 Instagram 家长监督功能的用户，并计划在年底前向全球监督家长开放。” 青少年用户也会收到关于此更新的通知。

这一举措可能具有积极意义，因为越来越多的人开始向聊天机器人寻求支持和建议。数据显示，年轻用户尤其倾向于使用 AI 系统获取指导。

青少年 AI 使用现状

根据布朗大学、哈佛医学院和兰德公司于 11 月联合发布的研究，美国约有八分之一的青少年和年轻人使用 AI 聊天机器人获取心理健康建议。这一结果与 Common Sense Media 今年早些时候发布的研究相呼应，该研究显示，72% 的青少年尝试过 AI 伴侣，12% 曾使用 AI 机器人获得情感和心理健康支持。

紧急服务联动系统

除了家长预警，Meta 还在开发一个新系统，当任何年龄段的用户与 Meta AI 的对话表明其可能面临迫在眉睫的自杀风险时，系统将主动联系紧急服务部门。

Meta 表示：“这建立在我们已在 Facebook 和 Instagram 上开展的工作基础上：当我们发现帖子暗示存在可信的自杀风险时，我们会通知紧急服务部门。去年，我们在全球范围内进行了超过 19,000 次此类转介，帮助急救人员对可能面临自杀风险的人进行健康检查。”

青少年内容设置与既有措施

Meta 还重申，参与 Meta AI 对话的青少年会自动启用其 13+ 内容设置，该设置旨在提供适龄回应，并拒绝处理敏感请求。Meta 举例称：“Meta AI 经过训练，不会与青少年进行性话题或浪漫对话，也不会提供酒精饮品配方，而是引导青少年转向更安全的话题。”

这一系列更新是在有报道指出 Meta 曾允许其 AI 聊天机器人与未成年人进行不当对话之后推出的。Meta 此后已调整了相关策略。今年 4 月，该公司还在其青少年监督工具中新增了一项功能，让家长能够查看子女向 AI 聊天机器人提出的问题。

长期影响仍待观察

综合来看，这些更新应有助于提升青少年安全。但与此同时，我们尚不清楚 AI 互动工具对青少年或成年人的长期影响，尤其是在敏感话题方面。本周，中国立法者出于对有害影响的担忧，已着手禁止与 AI 聊天机器人建立恋爱关系。

尽管此类措施看似合理，但真正的损害程度或许只能在事后回顾中衡量，届时伤害可能已经发生。