AI生成内容现状 - AI每天创作数千万张图片，一年多生成的图片量可能超过人类摄影师一个半世纪的总和[5] - AI生成内容正以前所未有的速度和逼真度充斥数字生活，从图片到文字再到视频，真假界限日益模糊[5] 识别AI文字 - AI文字有明显"AI味儿"，表现为故作精确、词汇堆砌、例子和比喻轰炸[8] - AI文字过于完美工整，语法无懈可击但缺乏"人味儿"，缺少自然节奏感和情绪起伏[9] - AI擅长模式化输出，如堆砌表情符号、使用特定短语开篇、硬凑头韵词组[9] - AI难以表达真实个人经历和独特见解，可能编造看似合理但经不起推敲的信息[10] 识别AI图片 - 关键细节如手、牙齿、眼睛容易出错，注意手指数量/形态、牙齿排列、瞳孔形状[13] - 检查光影、物理、背景的一致性，如光线来源与阴影方向是否匹配，镜面反射是否符合物理规律[15] - 观察质感与纹理，如皮肤是否过于光滑缺乏毛孔细节，头发是否糊成一片[17] - 留意异常对称和过度完美，这些也可能是AI特征[17] 识别AI视频 - 注意面部细节异常，如眼睛行为、微表情和过于对称的面部[19] - 观察不合逻辑的动作，AI难以完全理解人类无意识的小动作[20] - 检查环境破绽，如脸部光照与周围环境是否一致，背景是否有不自然扭曲[21] - 要求对方做简单动作如按压面部，观察变形是否自然[21] AI检测工具 - 文本检测工具包括Grammarly、ZeroGPT、Scribbr等，分析流畅度、复杂度、模式重复性[23] - 图片/视频检测工具包括deepfakedetector.ai、Hive Moderation、Deepware Scanner等[23] - 目前没有100%准确的检测工具，建议结合多种方法和工具提高识别准确率[24]

AI生成视频的传播与影响 - AI生成视频在Instagram上观看量达到3.62亿，收获349万赞，成为爆火内容[2] - 这类视频具有"AI生成，十秒左右，画风突变，精神污染"的共性，利用算法随机推送给用户[6] - 视频内容超出人类理性认知，触发深层不适和惊悚感，导致用户大脑短路[8][9] - AI生成视频是一种"无意的恐怖"，比刻意制造的恐怖更令人不安，因为它没有任何轨迹可以预判[7] AI生成视频的商业模式 - 短视频博主通过发布AI生成视频，在建号2个月时间里收获12万关注者和上万美金平台收入[5] - AI生成视频的生产速度远超人类创作，分秒钟可生产数十条垃圾视频[9] - 人类用质量换流量，AI用数量换流量，形成"暴力破解"算法的方式[10] - 低质量、假信息占据用户信息流，导致劣币驱逐良币的现象[10] AI生成视频的产业链 - 17岁YouTuber通过复制爆火视频和AI制作惊悚动画，每月赚到10万美元[13] - 产业链出售AI工具包括视频文案模版、语音和自动剪辑、账号批量管理等[14] - Crayo.ai平台提供各类迎合TikTok算法的内容模板，10秒钟制作1分钟短视频[14] - 付费社区会员达80000名，40美元/月会费，实操工具另收费[14] 平台对AI生成内容的态度 - Meta调高用户信息流里AI内容比重，AI内容使Facebook用户留存时间增加8%，Instagram增加6%[16] - 平台认为AI生成内容是趋势，用户终将习惯，首要目标是源源不断的视频上传带来流量[16] - 负面内容越极端，评论和转发越多，算法越喜欢，形成恶性循环[17] AI生成内容的社会影响 - AI生成内容泛滥导致人类创作难以被发现，创作生态和平台内容劣化[10] - 未来社交媒体可能成为赌场，AI垃圾制造者赌算法，用户赌不被精神污染[19] - 需要更细分、周详的AI生成内容规范来保护用户[19]