Meta AI strengthens teen safety protections: adds parental alerts and emergency response mechanisms
Meta announces new safety measures for Meta AI, including sending alerts to parents when teens engage in topics related to self-harm or suicide, and developing an emergency services linkage system. The feature is already live in some countries, with global rollout expected by the end of the year.
Meta 近期为旗下人工智能助手 Meta AI 新增了针对青少年用户的家长预警功能。当未成年用户在与 Meta AI 的对话中涉及敏感话题时，系统将主动通知其监护人，以确保家长能及时了解孩子在使用 AI 聊天机器人时可能存在的潜在风险。
预警机制覆盖自残与自杀话题
首先，Meta 将在青少年与 AI 的对话涉及自杀或自残相关内容时，向家长发送预警通知。根据官方展示的流程，当青少年与 Meta AI 进行此类对话时，家长会收到包含相关支持资源链接的提醒。
Meta 在官方声明中解释：“当青少年暗示可能考虑自杀或自残时，Meta AI 已会引导其联系危机求助热线，并鼓励他们向家长或辅导员等可信赖的成年人寻求帮助。现在，我们还将主动提醒监督家长，如果其子女与 Meta AI 的聊天内容显示出潜在风险，系统将基于与专家共同开发的信号进行判断。”
Meta 表示，初期预警将涵盖多种信号，并倾向于谨慎处理，以避免漏报。公司正在优化通知内容，力求在保障安全的同时，避免给家长造成不必要的焦虑。
全球推广时间表
Meta 称：“这些预警目前已在英国、美国、澳大利亚和加拿大上线，适用于使用 Instagram 家长监督功能的用户，并计划在年底前向全球监督家长开放。” 青少年用户也会收到关于此更新的通知。
这一举措可能具有积极意义，因为越来越多的人开始向聊天机器人寻求支持和建议。数据显示，年轻用户尤其倾向于使用 AI 系统获取指导。
青少年 AI 使用现状
根据布朗大学、哈佛医学院和兰德公司于 11 月联合发布的研究，美国约有八分之一的青少年和年轻人使用 AI 聊天机器人获取心理健康建议。这一结果与 Common Sense Media 今年早些时候发布的研究相呼应，该研究显示，72% 的青少年尝试过 AI 伴侣，12% 曾使用 AI 机器人获得情感和心理健康支持。
紧急服务联动系统
除了家长预警，Meta 还在开发一个新系统，当任何年龄段的用户与 Meta AI 的对话表明其可能面临迫在眉睫的自杀风险时，系统将主动联系紧急服务部门。
Meta 表示：“这建立在我们已在 Facebook 和 Instagram 上开展的工作基础上：当我们发现帖子暗示存在可信的自杀风险时，我们会通知紧急服务部门。去年，我们在全球范围内进行了超过 19,000 次此类转介，帮助急救人员对可能面临自杀风险的人进行健康检查。”
青少年内容设置与既有措施
Meta 还重申，参与 Meta AI 对话的青少年会自动启用其 13+ 内容设置，该设置旨在提供适龄回应，并拒绝处理敏感请求。Meta 举例称：“Meta AI 经过训练，不会与青少年进行性话题或浪漫对话，也不会提供酒精饮品配方，而是引导青少年转向更安全的话题。”
这一系列更新是在有报道指出 Meta 曾允许其 AI 聊天机器人与未成年人进行不当对话之后推出的。Meta 此后已调整了相关策略。今年 4 月，该公司还在其青少年监督工具中新增了一项功能，让家长能够查看子女向 AI 聊天机器人提出的问题。
长期影响仍待观察
综合来看，这些更新应有助于提升青少年安全。但与此同时，我们尚不清楚 AI 互动工具对青少年或成年人的长期影响，尤其是在敏感话题方面。本周，中国立法者出于对有害影响的担忧，已着手禁止与 AI 聊天机器人建立恋爱关系。
尽管此类措施看似合理，但真正的损害程度或许只能在事后回顾中衡量，届时伤害可能已经发生。