Meta 周三宣布，2026 年上半年，公司针对 Facebook 和 Instagram 上 3320 万条儿童性剥削内容采取了行动。与此同时，该公司正在推出新的 AI 工具，以发现可能被用于暗中将用户导向非法儿童虐待材料的广告和账户。
Meta 表示，其采取行动的内容中，超过 97% 是由系统在用户举报前发现的。在印度，Meta 同期对 530 万条儿童性剥削内容采取了行动，其中超过 98% 在用户举报前被检测到。
Meta 称，其最新 AI 工具针对的是那些利用看似无害的广告，将用户引向 Meta 平台之外非法内容的人。
公司推出了一套新的大语言模型（LLM）系统，用于检测其所谓的“路标式指示”（signposting）。这指的是看似正常，但涉嫌将用户引向其他网络非法内容或有害活动的广告。Meta 表示，这是其近期看到不法分子使用的一种策略，他们不断改变手法以逃避检测。虽然这些广告本身可能不包含非法材料，但仍可能成为通往托管儿童性虐待材料网站的门户。
因此，Meta 表示，它现在不仅关注广告包含什么，也关注广告将用户引向何处。公司可以利用这些信息屏蔽违反其规则的网站或其他目的地，并对背后的账户采取行动。
Meta 还在使用额外的 AI 驱动扫描，以发现早期系统可能遗漏的儿童性剥削内容。公司表示，随着进一步了解这些网络如何运作，将继续加入新的信号。
另一项新工具是“红队 AI 智能体”，用于测试 Meta 自身的安全措施。它会寻找不法分子可能用来绕过公司防护的弱点。Meta 表示，这有助于在新滥用手法变得普遍之前发现它们。
此外，公司正在改进系统，以发现那些在原有账户被移除后，用新账户重返其平台的人。
这些新措施出台之际，Meta 仍在因其平台上的儿童安全问题面临压力。公司因社交媒体服务可能对年轻用户构成风险，而面临诉讼和议员的批评。8 月，Meta 达成协议，同意支付最高 180 亿美元，以和解一项涉及美国 29 个州的儿童安全诉讼，回应外界对儿童在线保护的担忧。
Meta 今年推出了多项儿童安全功能，包括为 Meta AI 提供家长控制、在 WhatsApp 上推出青春期前儿童账户，以及当儿童在 Instagram 搜索自残内容时向家长发送提醒。
9 月，WhatsApp 为家长增加了更多控制功能。家长可以限制青少年使用 Channels（频道）的方式，控制谁可以看到其状态更新，并决定谁可以将孩子加入群组。家长还可以选择接收某些群组活动的通知。
