平台治理行动 - 平台近期开展专项行动治理AI起号现象 累计清理311条违规内容并封禁15个严重违规账号[1][2] - 重点整治行为包括利用AI生成低俗猎奇视频 伪造外国幼儿教育专家内容 售卖教程与账号秘籍 以及引导规避平台AI标注等[2] - 平台重申赠与 借用 出租 转让 售卖账号均属违规行为 并鼓励创作者对AI生成内容进行标注声明[2] 行业背景与灰色产业链 - 为起号引流涨粉 不法分子手段升级 利用AI深度伪造误导公众认知 形成起号 转型 转卖的灰色产业链[1][3] - 网络虚假信息是长期顽疾 AI技术降低了造谣造假成本 使其传播更为便捷[3] - 四部门联合发布《人工智能生成内容的标识办法》 要求对AI生成内容进行标识 绝大多数社交平台明令禁止账号转卖行为[3] 平台政策规范 - 平台于2023年与2024年相继发布关于人工智能生成内容的平台规范及治理公告 明确不鼓励利用AI虚拟人物开展低质创作[2] - 平台对违规使用AI生成虚拟人物发布违背科学常识 弄虚作假 造谣传谣内容的行为将予以严格处罚[2]