重磅新规落地,AI行业的一次大洗牌
吴晓波频道·2025-09-02 08:32
点击上图▲立即收听 " 所有 AI 生成、合成的内容,都必须加上标识,让用户、监管和机器,都能一眼看出来。 " 文 / 巴九灵(微信公众号:吴晓波频道) 下面这段《猫和老鼠》的动画,你看得出来是 AI生成的吗? 图源:小红书 如果说这种 "以假乱真"的动画还只是玩笑,那么 , 那些披着 "真实"外衣的AI合成内容,就足以让人心生恐惧。 前段时间, "AI合成全红婵"带货视频在网上疯传,哪怕其家人紧急辟谣,仍有不少人受骗下单;往前,西藏日喀则地震后,一张小孩被压在废墟 下的照片赚足了眼泪与转发,结果却被证实是AI合成…… 假视频、假图片只是冰山一角,更隐蔽的,是那些充斥在我们信息流里的假新闻和假数据: "西安突发爆炸!火光冲天!伤亡不明!""大妈摆摊卖 水果被罚16万,监管局回应不交就罚145万!""80后的死亡率已经超过70后!" 图源:小红书 这些夺人眼球的爆款新闻,最终都被证实纯属虚构,却早已收割了无数人的转发、关注、愤怒。 这背后,有 "AI幻觉"(AI在无明确依据的情况下编造并不存在的事件、数据、细节)的推波助澜, 但更严重的, 是有人利用 AI批量制造假新 闻,形成产业链,从中非法牟利。 据央广网报 ...