Meta 正在为其人工智能助手 Meta AI 引入额外的安全保障措施，重点围绕青少年用户的心理健康风险。该公司宣布，将新增面向家长的警报功能，以便在孩子与 AI 聊天机器人讨论敏感话题时，家长能及时获知相关信息。

具体而言，当青少年与 Meta AI 的对话涉及自杀或自残相关话题时，Meta 将向家长发送警报。根据官方说明，这一功能旨在确保家长对子女使用 AI 聊天机器人的潜在风险保持警觉。

Meta AI teen alerts

如上图所示，当青少年与 Meta AI 进行涉及自残的对话时，家长将收到警报通知，其中还包含相关支持资源的链接。

Meta 在官方声明中解释称：“当青少年暗示可能有自杀或自残想法时，Meta AI 此前已会引导其联系危机求助热线，并鼓励他们向家长或辅导员等可信赖的成年人寻求帮助。现在，我们还将主动向负责监管的家长发出警报，前提是青少年的 Meta AI 对话内容表明其可能处于风险之中。这些判断基于与专家共同开发的信号指标。”

Meta 表示，初期警报将涵盖一系列信号，并倾向于在判断时保持谨慎。该公司正在优化其通知机制，力求在保障安全的同时，避免给家长带来不必要的焦虑。

Meta 称：“目前，使用 Instagram 家长监管功能的美国、英国、澳大利亚和加拿大用户已可实时接收这些警报，预计到今年年底，全球范围内的监管家长都将能使用该功能。”青少年用户也将收到关于此更新的通知。

这一举措可能具有实际意义，因为越来越多的人开始向聊天机器人寻求支持和建议。数据显示，年轻用户尤其倾向于从 AI 系统中获取指导。

根据布朗大学、哈佛医学院和兰德公司于 11 月联合发表的一项研究，美国约有八分之一的青少年和年轻人会向 AI 聊天机器人寻求心理健康建议。这一结果与此前 Common Sense Media 发布的一项研究相呼应，该研究显示，72% 的青少年尝试过 AI 伴侣，12% 曾使用 AI 机器人获取情感和心理健康支持。

除了家长警报之外，Meta 还在开发一个新系统，该系统将在任何年龄段的用户与 Meta AI 的对话表明其可能面临迫在眉睫的自杀风险时，主动联系紧急服务部门。

Meta 表示：“这建立在我们已在 Facebook 和 Instagram 上开展的工作基础之上：当我们发现帖子暗示存在可信的自杀风险时，我们会通知紧急服务部门。去年，我们在全球范围内进行了超过 19,000 次此类转介，帮助急救人员对可能面临自杀风险的人进行健康检查。”

Meta 还重申，青少年与 Meta AI 的对话会自动启用其 13+ 内容设置，该设置旨在提供适龄回应，并拒绝响应敏感提示。Meta 举例称：“例如，Meta AI 经过训练，不会与青少年进行性爱或恋爱对话，也不会提供酒精饮料的配方，而是引导青少年转向更安全的话题。”

此举是在有报道称 Meta 曾允许其 AI 聊天机器人与未成年人进行不当对话之后推出的。Meta 此后已修正了这一做法。今年 4 月，该公司还在其青少年监管工具中新增了一项功能，允许家长查看其子女向 AI 聊天机器人提出的问题。

综合来看，这些更新应有助于提升青少年安全。与此同时，我们尚不清楚 AI 互动工具长期来看会对青少年或成年人产生何种影响，尤其是在涉及敏感话题时。

本周，中国立法者出于对有害影响的担忧，已着手禁止与 AI 聊天机器人建立恋爱关系。虽然此举看似合理，但真正的损害程度或许只能在事后回顾中才能衡量，届时伤害可能已经造成。