Meta 上线 AI 工具，识别暗链儿童性虐待内容的广告
Meta 公布半年处置数据的同时，把 AI 用在了新环节：不再只看广告内容，而是追踪广告把用户送去哪里。
Meta 周三称，2026 年上半年在 Facebook 和 Instagram 上处理了 3320 万条儿童性剥削内容，其中 97% 以上由系统在用户举报前发现。同时推出新 AI 工具，用于识别那些表面正常、实则把用户引向站外非法内容的广告与账号。
正文摘录
- title: Meta 推出新 AI 工具，检测暗中导向儿童性虐待材料的广告 - sourcecompany: TechCrunch - bodymarkdown: Meta 周三 [宣布](https://about.fb.com/news/2026/10/measures-weve-put-in-place-to-fight-child-exploitation/)，2026 年上半年，公司对 Facebook 和 Instagram 上 3320 万条儿童性剥削内容采取了行动。与此同时，Meta 正在推出新的 AI 工具，用于发现那些可能被用来暗中将用户引向非法儿童虐待材料的广告和账号。 Meta 表示，在其采取行动的内容中，超过 97% 是由其系统在用户举报之前发现的。在印度，Meta 在同一时期对 530 万条儿童性剥削内容采取了行动，其中超过 98% 是在用户举报前检测到的。 Meta 称，其最新 AI 工具针对的是那些利用看起来无害的广告，将用户引导至 Meta 平台之外的非法内容的人。 公司推出了一套新的大型语言模型（LLM）系统，用于检测其所谓的 “signposting”（路标指引）。这指的是那些看起来正常、但涉嫌将用户引向非法内容或其他有害在线活动的广告。Meta 表示，这是不良行为者近期常用的一种手法，他们不断改变方式以规避检测。虽然广告本身可能不包含非法材料，但它们仍可能成为通往托管儿童性虐待材料网站的门户。 因此，Meta 表示，现在不仅会查看广告包含什么内容，也会查看广告把用户导向哪里。公司可以利用这些信息屏蔽违反其规则的网站或其他目的地，并对背后的账号采取行动。 Meta 还在使用额外的 AI 驱动扫描，以发现早期系统可能遗漏的儿童剥削内容。公司表示，随着其对这些网络运作方式了解得更多，将继续加入新的信号。