电商热销产品"苗古金贴"，号称由传承"千年秘方"的非遗传承人制作，专攻膝盖、颈椎等问题。在 一些电商平台，该产品甚至排到了"热敷贴回购榜"第一名。然而，据媒体调查发现，该"非遗传承人"的 照片实为AI生成，"非遗传承人"证书由一家机构违规炮制。类似"神医""神药"在网上还有很多，假非遗 加上AI生成的假传承人，经过一系列的虚假包装，产品竟然可以在各大电商平台大肆销售。 针对AI生成的普通内容，需要通过强制标识等举措强化监管。但对于AI生成的"神医"，有必要在此 基础上予以重拳出击。医疗关系到民众的生命健康，任何打着AI旗号的医疗虚假宣传都应被严令禁 止。监管部门需秉持零容忍的态度，对涉及医疗健康领域的AI生成内容实施前置审查。此外，还应完 善相关法律法规，进一步明确AI冒充专业人士的法律责任，让技术造假者付出代价。 除了监督与打击，全链条治理更是必不可少。从伪造非遗证书的中介机构，到提供AI生成服务的 科技公司，再到销售贴牌产品的代工企业，每个环节都应纳入监管视野。对此，有必要建立跨部门的协 作监督机制，严查虚假认证机构，强化AI生成内容的溯源追踪，完善医疗器械广告审查流程。唯有从 各个环节入手，方能尽快斩断 ...

AI生成内容现状 - AI每天能创作数千万张图片 短短一年多生成的图片量可能超过人类摄影师一个半世纪的总和 [7] - AI生成内容正以前所未有的速度和逼真度充斥数字生活 从图片到文字再到视频 真假界限日益模糊 [7] 识别AI文字特征 - 故作精确 例如"寒意刺进她第四节胸椎"等不常规写法 [16] - 词汇堆砌 频繁使用"褶皱 青铜 生物编码 宇宙 银河 雪松味"等生僻词 [16] - 比喻轰炸 短时间内抛出过多未消化的比喻 [17] - 过度工整 语法无懈可击但缺乏自然节奏感和情感起伏 [18] 识别AI图片技巧 - 检查手部/牙齿/眼睛等细节 观察手指数量 牙齿排列 瞳孔形状 [21] - 审视光影一致性 物理合理性 背景元素有无扭曲或重复 [23] - 留意异常对称和过度完美 [24] - 使用反向搜图追溯图片来源 [26] 识别AI视频方法 - 关注面部细节异常 如眼神 微表情 面部对称性 [31] - 观察不合逻辑的动作 如不自然的习惯性小动作 [32] - 检查环境破绽 光线一致性 背景扭曲 物理规律违背 [33] - 互动测试 要求按压面部观察变形自然度 [35] AI检测工具发展 - 文本检测工具包括Grammarly ZeroGPT Scribbr等 分析语言模式和重复性 [41] - 图片/视频检测工具包括deepfakedetector Hive Moderation等 [42] - 腾讯朱雀实验室推出基于深度学习的AI生成内容鉴别工具 [44]

文章核心观点 - AI生成的猎奇、低质视频在短视频平台泛滥，制作者借此操纵算法获取流量和财富，平台为追求流量和营收助长这一现象，需对AI生成内容进行更细分周详的规范来保护用户 [16][19][37] 分组1：AI生成恐怖视频的特点及危害 - AI生成视频时长10秒左右，前几秒日常，画风突变后呈现诡异景象，最终停留在惊悚一帧 [2][5] - 此类视频在Instagram上观看量达3.62亿，收获349万赞，会跳出算法随机推送，造成精神污染，毁掉上网体验 [6][7] - 视频制作者利用AI批量生成内容试探流量机制，形成恶性循环，导致人类创作内容难被发现，平台内容劣币驱逐良币 [16][17] 分组2：流量和财富密码 - 17岁YouTuber Daniel Bitton靠AI复制爆火视频，月赚10万美元，还售卖“成功公式” [21][24] - Mustafa靠同样玩法赚百万美金后“产业升级”，出售AI工具和营销服务，付费社区有80000名会员，会费40美元/月 [24] - Crayo.ai平台可让AI短视频生产流程全自动化，10秒做1分钟短视频，基础套餐19美元/月，提供20条视频 [25] 分组3：算法和数据思维的挑战 - Meta放任AI垃圾内容泛滥，调高用户信息流里AI内容比重，将AI制作工具卖给广告商 [28][29] - AI内容注入后，Facebook用户留存时间增加8%，Instagram增加6%，平台为流量和营收忽视内容质量 [34] - 未来社交媒体可能成为赌场，需对AI生成内容规范，甚至设置“一键屏蔽AI内容”按钮 [35][37][38]

AI生成视频的传播与影响 - AI生成视频在Instagram上观看量达到3.62亿，收获349万赞，成为爆火内容[2] - 这类视频具有"AI生成，十秒左右，画风突变，精神污染"的共性，利用算法随机推送给用户[6] - 视频内容超出人类理性认知，触发深层不适和惊悚感，导致用户大脑短路[8][9] - AI生成视频是一种"无意的恐怖"，比刻意制造的恐怖更令人不安，因为它没有任何轨迹可以预判[7] AI生成视频的商业模式 - 短视频博主通过发布AI生成视频，在建号2个月时间里收获12万关注者和上万美金平台收入[5] - AI生成视频的生产速度远超人类创作，分秒钟可生产数十条垃圾视频[9] - 人类用质量换流量，AI用数量换流量，形成"暴力破解"算法的方式[10] - 低质量、假信息占据用户信息流，导致劣币驱逐良币的现象[10] AI生成视频的产业链 - 17岁YouTuber通过复制爆火视频和AI制作惊悚动画，每月赚到10万美元[13] - 产业链出售AI工具包括视频文案模版、语音和自动剪辑、账号批量管理等[14] - Crayo.ai平台提供各类迎合TikTok算法的内容模板，10秒钟制作1分钟短视频[14] - 付费社区会员达80000名，40美元/月会费，实操工具另收费[14] 平台对AI生成内容的态度 - Meta调高用户信息流里AI内容比重，AI内容使Facebook用户留存时间增加8%，Instagram增加6%[16] - 平台认为AI生成内容是趋势，用户终将习惯，首要目标是源源不断的视频上传带来流量[16] - 负面内容越极端，评论和转发越多，算法越喜欢，形成恶性循环[17] AI生成内容的社会影响 - AI生成内容泛滥导致人类创作难以被发现，创作生态和平台内容劣化[10] - 未来社交媒体可能成为赌场，AI垃圾制造者赌算法，用户赌不被精神污染[19] - 需要更细分、周详的AI生成内容规范来保护用户[19]