Meta推出新的AI工具来侦测秘密导致儿童性虐待材料的广告
原题:Meta rolls out new AI tools to detect ads that secretly lead to child sexual abuse material
内容导读
Meta在发现其平台上的广告后推出新的AI工具,这些广告可能看起来正常,但直接让用户接触其他地方的有害内容.

全文阅读
来源:TechCrunch即会翻译
Meta宣布,它在2026年上半年对Facebook和Instagram上3,320万个儿童性剥削内容采取了行动.同时,公司正在推出新的AI工具来寻找广告和账户,这些广告和账户可能被用来秘密引导人们获取非法虐待儿童的材料.
超过97%的Meta所采取行动的内容在用户报告之前被其系统发现,在印度,Meta在同一期间对530万个儿童性剥削内容采取行动,在用户报告前检测出98%以上.
Meta表示,它最新的AI工具针对的是使用看起来无害的广告将用户发送到Meta平台外的非法内容的人.
该公司采用了一个新的大型语言模型(LLM)系统来检测它所称的“信号张贴 ” 。 这指的是一些广告,这些广告看起来可能很正常,但被怀疑引导用户在网上其他地方从事非法内容或其他有害活动。Meta说,这是一种战术,它最近看到坏角色在继续改变方法以避免被察觉时使用.虽然广告本身可能不包含非法材料,但它们仍可作为网站的门户,托管儿童性虐待材料。
Meta表示, 正在寻找广告发送用户的地方,公司可以利用这些信息来封锁违反其规则的网站或其他目的地,并对背后的账户采取行动.
Meta也在使用额外的AI驱动扫描来查找早期系统可能已经错过的剥削儿童内容.公司表示,它会继续增加新的信号,因为公司会更多地了解这些网络的运作方式.
另一新工具是测试Meta自身安全措施的“红队AI代理”。它寻找坏角色可以用来绕过公司保护的弱点.Meta说,这可以帮助它找到新的虐待方法,以免它们变得更普遍.
此外,该公司正在改进其系统,以寻找在以前的账户被移除后返回其平台的新账户的人。
新的措施随着Meta在其平台上继续面临儿童安全的压力而来。公司面对法律制定者对其社交媒体服务可能给年轻用户带来的风险提出的诉讼和批评.8月,梅塔达成协议,支付高达180亿美元,以解决涉及29个美国州的儿童安全诉讼,解决了网上保护儿童的关切问题.
Meta今年推出多个儿童安全功能,包括Meta AI的父母控制,WhatsApp上的前置账户,以及当儿童搜索Instagram自害内容时给父母的提醒.
9月,WhatsApp增加了更多对父母的控制.他们可以限制青少年如何使用Channels,控制谁能看到他们的状况更新,以及决定谁可以将孩子加入团体.父母也可以选择接受有关某些群体活动的通知。
原文及图片版权归原作者或相应权利人。文中观点是原作者的,与即会无关。