事实上，在AIGC前置技术深度学习刚刚诞生不久后，就有黑产盯上了这项新兴技术。只不过彼时机器 学习的局限，导致使用它的门槛相当高。最典型的例子，就是在2017年被Reddit网友发明的deepfakes （深度伪造）技术，可即便deepfakes是开源的，但玩转它需要的生成对抗网络（GAN）和变分自编码 器（VAE）就不是一般人能玩转的。 互联网上哪些是真、哪些是假，几乎是一个永远都不会有答案的问题，因此在上网冲浪时去伪存真，可 以说是当下网民的必备技能。只可惜技术进步的速度远超大家想象，在生成式人工智能（AIGC）成熟 后，互联网世界的一切几乎都变得真假难辨了。 为解决泛滥的AI虚假内容，国家网信办等四部门日前联合发布《人工智能生成合成内容标识办法》， 从今年9月1日开始，所有AI生成的文字、图片、视频等内容需要添加显式和隐式两种标识，其中显式 标识是指可以被用户明显感知到的标识，隐式标识则是指在生成内容的元数据中添加的标识。 相比于以往由微信、抖音、小红书、微博等平台建立的AI内容管理体系，这一新规最大的变化就是发 布者是AI内容的第一责任人，他们将对AI虚假内容负主要责任。但从某种意义上来看，让内容发布 ...

政策法规实施 - 《人工智能生成合成内容标识办法》于9月1日正式施行 要求对AI生成内容进行显式标识和隐式标识 [1][4] - 显式标识需以文字、声音、图形等可感知方式呈现 隐式标识通过技术措施嵌入文件数据 [4] - 办法由国家网信办、工信部、公安部、国家广电总局联合制定 共包含14条规定 [4] 行业违规现状 - 9月1日新规施行后 仍存在未标注AI创作的合成视频 例如某情感博主使用刘姓女明星形象制作"鸡汤"视频 点赞量达数千至上万 [5] - 该未标注账号店铺上线90多件商品 包括抽纸、牙膏、护发膜、养生茶等日用消费品 [5] - 今年5月调查显示 孙俪邓超等明星AI伪造视频仍大量存在 被用于推荐减肥类产品且未标注AI生成 [4] 灰色产业链模式 - 不法分子利用AI深度伪造技术快速起号引流 通过带货、卖课等方式变现 [1][4] - 形成"起号、转型、转卖"的完整产业链 克隆明星声音制作鸡汤哲理视频实现引流变现 [4] - 伪造账号被明码标价置于交易网站 存在完整灰色产业链条 [4] 行业治理挑战 - 学者指出网络虚假信息系长期顽疾 AI技术使其传播更便捷 [5] - 平台需承担审核责任并掌握鉴别技术 对AI生成内容进行标注 [5] - 信息发布需遵守底线 不得误导公众或损害合法权益 平台应及时处理虚假信息 [5]