AI技术滥用与网络犯罪现状 - 近期发生多起利用“AI换脸”及“AI脱衣”技术制造并传播虚假淫秽视频（即“AI黄谣”）的事件 受害者包括青岛保时捷销售中心牟女士及台球运动员王思诺等[2] - 此类虚假视频传播范围广 其中牟女士相关视频可能有**900多万浏览量** 即使在澄清后骚扰电话仍不断[2] - “AI换脸”功能被广泛滥用于换“明星脸”直播带货 换脸诈骗及造黄谣等 严重突破法律和伦理界限[2] AI黄谣的社会影响与受害者困境 - AI造黄谣成本极低 但造成的损害与辟谣代价非常大 其以假乱真的特性提高了黄谣的“可信度”和传播力[3] - 受害者多集中于受刻板印象影响的职业女性 例如叠加“销冠”“美女”“豪车”标签的牟女士 其成功易被恶意揣测[3] - 与传统偏见中伤不同 AI黄谣传播力和杀伤力巨大 更容易让受害者陷入“说有易说无难”的自证陷阱[3] 事件处理与执法挑战 - 牟女士已就诽谤和侮辱性虚假视频在当地派出所报警 并表示“对造谣者宣战”[2] - 相关虚假内容的制作和传播源头多来自外网 溯源和取证困难较大 从源头治理缺乏立竿见影的办法[3] - 尽管平台服务器在海外 但内容生成者与传播链条组织者等不法分子极有可能在境内 通过报案启动调查程序 按图索骥存在将不法分子绳之以法的可能[3] 行业监管与治理方向 - 建议有关部门将此事件作为契机 以“拔出萝卜带出泥”为目标 积极查办 顺藤摸瓜[4] - 面对层出不穷的AI黄谣 需对每一起报案积极响应 对每一条线索绝不放过 以此行动和态度震慑不法分子 打消其侥幸心理[4] - 此类行动不仅是为受害者澄清事实与伸张正义 也是进一步对不良网络风气亮明态度 划明底线[4]