事件概述 - 欧盟委员会于2026年1月下旬对社交媒体平台X启动正式调查，指控其内置AI聊天机器人“格罗克”生成或协助传播非自愿色情图像和深度伪造内容，其中可能涉及儿童性虐待材料 [2] 深度伪造侵害未成年人权益的主要样态 - 侵害名誉荣誉：利用深度伪造技术恶意拼接、换脸丑化，制造具象化虚假信息诽谤未成年人，导致其陷入举证困境并遭受精神伤害 [2] - 实施性剥削：通过深度伪造技术将未成年人面部移植至淫秽内容，或对日常影像进行“一键脱衣”等性化处理，严重践踏人格尊严并触犯刑法 [3] - 威胁信息权益：深度伪造高度依赖面部、声音等生物识别信息，未成年人影像在多个环节被收集并可能流入非法交易，导致其面临长期身份暴露风险 [3] - 危及财产与人身安全：利用扩散模型与神经网络技术高仿真模拟未成年人或其亲友，通过制造紧急情境诱导转账或泄露财务信息，甚至诱导线下接触实施犯罪 [4] 治理“涉未”深度伪造的现实困境 - 取证溯源难度大：生成工具“一键应用”门槛低，而生成模型迭代速度快于检测技术，且内容经传播压缩转码后特征易被削弱，若存储于境外服务器则跨境取证成本高 [6] - 平台与社会共治存在短板：平台流量机制放大猎奇情绪化内容，其扩散速度快于审核拦截，同时未成年人受害后常因恐惧羞耻而陷入维权困境，各方协同处置不足 [7] - 法律规制与司法救济存在挑战：现有法律法规框架下，对涉及多环节、多主体的侵权链条缺乏可操作的细化标准，导致平台处置尺度不一，未成年人面临维权成本高、救济效果滞后等困境 [7] 应对深度伪造侵害的检察履职路径 - 强化刑事检察惩治追责：对利用深度伪造技术实施的针对未成年人的犯罪行为依法从严追诉，介入引导侦查完善证据体系，并加强行刑衔接与部门协作 [8] - 运用检察公益诉讼守护公共利益：依据最高检2025年11月印发的相关工作指引，通过提起公益诉讼追究行为人民事责任或督促行政机关履职，并将源头风险纳入司法监督以推动行业标准完善 [9] - 通过检察建议促推源头治理：督促平台落实相关规定，建立针对未成年人面部特征的强制拦截与高风险识别机制，在模型训练阶段排除敏感数据，并监督平台履行AI生成内容标识义务，添加不可消除的数字水印，同时结合2026年3月1日生效的《可能影响未成年人身心健康的网络信息分类办法》将“不当使用未成年人形象”纳入治理，建立全流程防控闭环 [10]