核心观点 Meta Platforms Inc. 在2024年于Instagram和Facebook上运行了超过300则包含疑似儿童性虐待材料（CSAM）的广告，这些广告利用AI技术制作，触达超过29,000人，且违反了Meta自身政策与美国联邦法律，凸显了公司在内容审核与儿童保护方面的重大漏洞[1][2][3] 广告内容与规模 - 非营利组织Tech Transparency Project (TTP) 报告Meta在2024年运行了332则包含CSAM的广告，这些广告触达了欧盟、英国、美国、印度和澳大利亚的用户[1][9] - 广告通常使用AI技术描绘年幼儿童被性侵，许多广告用于推广深度伪造“脱衣”应用，部分广告触达超过2,500人（仅在欧盟地区）[2][9] - 单个广告触达用户数从个位数到数百人不等，Meta发言人表示大部分广告展示次数低于200次，总广告支出低于5,000美元[9][10] - 一则广告使用一名女孩在Instagram上发布的穿着运动服的照片，将其动画化为性行为视频；另一则广告展示一名青春期前女孩脱去衬衫，并附有承诺“黑暗”内容的文字[4] 违规与监管背景 - 这些广告违反了Meta自身禁止儿童剥削、虐待和裸露的政策，以及美国联邦法律[3] - TTP已将广告报告给国会授权的国家失踪与受剥削儿童中心（NCMEC）[3] - 截至9月1日，Meta已从其广告库中移除约一半违规广告，在TTP分享调查结果后移除了剩余广告[6] - Meta此前于2024年7月同意支付高达180亿美元，以解决美国各州关于其应用对青少年造成伤害的索赔[8] - 澳大利亚及超过二十个国家正在实施或寻求禁止16岁以下青少年访问Instagram等社交媒体[8] - 英国政府于2024年9月10日要求苹果和谷歌强制阻止儿童在其设备上拍摄、分享或查看裸体图像[8] 行业影响与执法挑战 - 美国执法机构正努力应对AI生成的露骨图像和视频的泛滥，主要原因是制作非法内容的工具变得简单易用[9] - Meta在2024年第二季度营收为608亿美元，日均活跃用户达36亿，但广告审核系统未能有效拦截CSAM内容[10] - 尽管Instagram和Facebook在中国不可用，但中国境内的企业利用它们作为面向全球受众的推广平台，Meta在中国拥有多家广告合作伙伴，其中部分被TTP指认为投放CSAM广告的来源[2][11] - Wired杂志此前报道Meta运行了超过50则包含CSAM的广告，TTP的新研究包含了此前未报道的新发现材料[10]