Meta开始把未成年人在 AI 聊天中的高风险内容纳入家长监管范围。公司表示，如果青少年与 Meta AI 的对话明确提到自杀或自残，平台将向家长发送提醒，并正开发在更高风险情形下联系紧急服务的能力。

已在四国上线

Meta称，这项提醒功能已向使用 Instagram 家长监管工具的用户开放，覆盖美国、英国、澳大利亚和加拿大，并计划在今年年底前扩展至全球。

这次更新是在现有家长提醒机制基础上推进的。此前，如果青少年在 Instagram 上反复搜索与自杀或自残相关的词语，平台已经会向家长发出提示。Meta 也已提供一项功能，让家长查看孩子过去一周与 Meta AI 讨论过的话题。

AI识别后再人工复核

Meta表示，公司已建立专门的 AI 系统，用于识别青少年在对话中明确表达伤害自己的内容。被系统标记的聊天记录不会直接触发通知，而是会先经过人工审核，再决定是否向家长发送提醒。

公司称，如果青少年的表达意图不够明确，平台也会倾向于先提醒家长。Meta承认，这种做法可能带来误报，但认为在当前阶段，优先扩大保护范围更合适。

  • 识别对象：涉及自杀或自残的明确表述
  • 处理流程：AI 标记后再由人工审核
  • 推送范围：先覆盖四国，年内扩展全球

限制内容同步适用于 Meta AI

Meta还宣布，Instagram 的“限制内容”设置已适用于 Meta AI。该模式原本用于让青少年账号进入更严格的内容环境，现在也会限制聊天机器人可回应的话题范围。

Meta表示，Meta AI 目前已被训练为避免与青少年展开性、恋爱或酒精相关对话。接入“限制内容”后，聊天机器人将拒绝更多类型的提问。不过，Meta暂未说明新增限制具体包括哪些提示词或话题。

高风险对话或联系紧急服务

除家长提醒外，Meta还表示，如果与 Meta AI 的对话显示用户可能存在自杀风险，无论对方是成年人还是青少年，平台都将联系紧急服务。

这项做法并非首次出现。Meta此前已会在 Facebook 或 Instagram 帖子显示出类似风险时联系紧急服务。此次更新，意味着这一处理方式被进一步扩展到 AI 聊天场景。