本文由上海交通大学，上海人工智能实验室、北京航空航天大学、中山大学和商汤科技联合完成。 主要作者包括上海交通大学与上海人工智能实验室联培博士生 康恒锐、温子辰，上海人工智能实验室实习生文思为等。通讯作者为中山大学副教授李唯嘉和上海人工智能实验室青年科学家何聪辉。 AIGC 技术狂奔的脚印后，留下的是满地信任残骸 近年来，文生图模型（Text-to-Image Models）飞速发展，从早期的 GAN 架构到如今的扩散和自回归模型，生成图像的质量和细节表现力实现了跨越式提升。这些 模型大大降低了高质量图像创作的门槛，为设计、教育、艺术创作等领域带来了前所未有的便利。然而，随着模型能力的不断增强，其滥用问题也日益严重 —— 利用 AI 生成的逼真图像进行诈骗、造谣、伪造证件等非法行为层出不穷，公众正面临一场 愈演愈烈的信任危机 。 （图源自知乎和多家微信公众号） 不信？猜一猜下列图片中哪些是真实的，哪些则是由 AI 合成伪造的？ （左右滑动查看） 答案是：这些图像 全是伪造的 。 若只是匆匆一瞥，你很可能会毫不察觉 —— 它们几乎天衣无缝。这正是得益于近年来文生图技术的突飞猛进，AI 生成内容已逼近真实。然而，正 ...

两融余额突破2万亿 - A股市场融资融券余额十年来首次突破2万亿[2] - 融资占两融余额绝对主力，反映散户情绪，当前融资余额已超过去年9月高点[5] - 融资余额占A股流通市值比例尚未达到去年9月水平[6] - 融资余额具有追涨杀跌特性，计算机、电子、医药为散户偏好行业[10][11] - 2015年行情中融资余额峰值与A股见顶时间高度重合[9] 社保缴纳新规 - 最高人民法院明确9月1日起任何放弃社保协议无效[15][16] - 政策背景包括养老金收付压力（2.3亿灵活就业者仅三成参保）及企业违规操作[17][18] - 企业需职工签字确认缴费基数，违规需补缴并支付经济补偿（如月薪5000元工作2年可获1万元补偿）[20][21] - 低收入群体可能面临负担加重（如月薪2800元按4000元基数缴费，实际负担15.7%）[23] - 企业用工成本上升或转向兼职/外包，个人到手工资可能减少[22] 信息筛选标准 - 优质信息需具备长保质期（如债券利率原理分析）[27][28] - 高含金量内容通常凝结大量思考（如《穷查理宝典》、巴菲特股东信）[29][30] - 筛选建议包括避开热点、选择经典书籍（豆瓣8分以上/出版超10年）、系统性知识框架[31] 投资组合表现 - 权益类中嘉实中证500ETF年内涨幅11.55%领先，博时标普500ETF近一周下跌0.21%[34] - 固定收益类博时中债1-3年国开行A年内累计涨幅0.38%[34]

南方报业传媒集团整体战略 - 实施媒体多品牌战略，打造南方日报、南方杂志、南方网、南方农村报、南方周末、南方都市报等一批名报名刊名网，特色各异 [1] - 全面挺进互联网主战场，实施"融合创新计划"，成立集团融合运营委员会，统筹各媒体、各业务单元融合发展工作 [1] - 完善内容一体化生产、传播一体化运营、技术一体化支撑、经营一体化统筹运行机制，打造"双一流"高水平新型主流媒体集团 [1] - 各媒体单元协同并进、错位深耕，构筑起报刊网端微屏联动的高水平全媒体传播体系 [1] 南方杂志社 - 立足强化省委机关刊职责，打造全国省级党刊第一方阵排头兵 [2][3] - 深耕本地资源、服务广东全面深化改革，统合重构理论评论与党建板块，打造"南方理论传播全媒体主阵地" [5] - 强化用户服务驱动内容生产传播，培育新媒体品牌栏目和产品，打造南方党建智库运营体系 [5] - 推动采编队伍100%转战互联网主战场，助力其向"全媒内容官""全景运营师"转型 [6] 南方新闻网 - 以生成式人工智能等先进科技为驱动，建设全国领先的科技型主流网络媒体 [8] - 推动网站和客户端向智能语料库转型，构建"粤数港"人工智能语料库，推出新闻大模型应用newsGPT [10] - 推进"学习+新闻+政务"智能化升级，打造"粤政通问"和"粤政通"平台 [10] - 建强"头啖汤""有一说一"品牌，优化"南方网评"频道建设，升级谣言鉴别智能应用"南方AI破谣局" [10] - 构建"网信创新人才库"，选拔培育传播、网安、技术、运营4支专才队伍 [10] 南方农村报社 - 围绕"聚焦'三农'，全方位服务乡村振兴"的定位，构建乡村振兴综合服务平台 [12] - 强化核心内容生产，开辟"乡野时光机"等全流程AI生产栏目，培育"陈皮新说""水产有种"等垂类评论IP [14] - 建强垂类矩阵，"南方农村报""大国农业"等4个百万级账号向千万级挺进 [14] - 构建农产品品牌运营管理体系和服务生态圈，发布农产品品牌价值榜单 [14] - 推动"南品北上 北品南下"，建设广东农产品走向全国、各省农产品进入大湾区的桥头堡 [14] 南方周末报社 - 建立完善报网端一体化采编运营机制，持续巩固《南方周末》头部市场化机构媒体地位 [15] - 以"南周双质"内容建设为根本，以付费发展为特色，推动《南方人物周刊》打造"人物生态圈+用户社群"的新型人物杂志 [15] - 再次修订采编考评办法，指挥棒进一步向优质内容倾斜 [17] - 南方周末客户端打造全国领先的"新闻+人文"移动互动内容社区 [17] 南方都市报社 - 坚持移动优先，整合报网端编辑团队，成立一体化融媒编辑部，打造全国领先的新型都市媒体 [18][19] - 升级打造官方客户端"南都N视频"，努力打造成为民生类、时尚化、年轻态、视频化、交互性头部传播平台 [20] - 构建"南都快评+ N视评+南都社论"等多维产品矩阵，输出南都观点 [22] - 依托"微文明之星""南都街坊口碑榜"等优势项目，打造微文明线索征集平台和第三方民生实事评价评议品牌 [22] - 推出"百剧千行共创计划"，创作、孵化百部微短剧精品 [22] 广东教育杂志社 - 实施"媒体+教育"计划，探索思政育人体系与家校社协同育人新模式 [23][24][25] - 全方位构建与广大学校、师生、家长的链接，形成分层分类、多维互动的深度链接体系 [27] - 重建服务能力、重构业务形态、重辟发展路径，全面提高服务教育、服务学校、服务教师、服务学生的综合能力 [27] - 依托南方+客户端建设覆盖全省的青少年成长服务数字平台 [27]

视频生成技术商业化进展 - 视频生成技术在营销推广端已实现收入与投入打平 [1] - 头部视频生成产品年化收入（ARR）预计2024年达1亿美元，2025年可能增长至5-10亿美元 [19] - 快手可灵在推出后10个月实现ARR超1亿美元，速度快于Cursor的12个月 [17] 行业技术突破与产品迭代 - 谷歌Veo3实现音画同步，成为改变创作者生产模式的杀手级产品 [5] - 可灵2.1版本支持的首部AI单元故事集《新世界加载中》被评价为AI版《爱死机》，模型能力显著提升 [5] - 可灵系列视频生成大模型全球使用份额超30%，超越Runway（23.6%）和Veo-2（16.6%） [14] 用户行为与市场反馈 - AI生成ASMR和AI动物运动会等内容在短视频平台爆火，单条视频播放量达数百万 [2][11] - 用户生成100张图的下载率一年内提升3倍至60%，30天留存率从10%+提升至40% [15] - 创作者倾向选择价格最低的工具，缺乏品牌忠诚度，可灵10秒视频成本约20元，即梦AI约6.3元 [20][22] 技术挑战与行业共识 - 当前模型存在短板，需平衡语义遵从、运动表现、人脸清晰度等多维度能力 [20] - 行业普遍认为"多模态的ChatGPT时刻"尚未到来 [26] - 商业化虽取得进展，但部分公司认为模式尚未完全跑通，仍处早期阶段 [25]

纪要涉及的行业和公司 - **行业**：传媒行业、新消费行业、AI应用行业、短剧行业、泛娱乐行业、影视动画行业 - **公司**：万达电影、上海电影、横店影视、博纳影业、中国儒意、阿里影业、南方传媒、中南传媒、时代出版、皖新传媒、中信出版、天舟文化、B 站、巨人网络、恺英网络、谷歌、Meta、亚马逊、阿里、云之声、抖音、四川新传媒集团、悟空传媒、即梦、多邻国、荣信文化、奥飞娱乐、美图、富博集团、风语筑、视觉中国 纪要提到的核心观点和论据 1. **新消费行业** - 观点：尽管港股新消费个股回调，但暑期电影和潮玩等内需型消费领域仍具潜力，盲盒经济有潜在监管风险 [1][3] - 论据：近期回调受地缘政治和新消费股解禁影响，人民日报关注盲盒经济预示监管风险，暑假是内容消费旺季，电影和潮玩受关注 [1][3][4] 2. **短剧行业** - 观点：行业进入精细化管理阶段，向优质内容转型，与其他娱乐形式融合推动衍生品和潮玩经济发展 [1][7] - 论据：广电总局分级管理政策引导，腾讯短剧小程序和字节跳动红果发展推动竞争，暑假档《长安荔枝》系列及线下展览带动相关经济 [1][4][5] 3. **泛娱乐行业** - 观点：院线公司以 IP 为核心布局泛娱乐市场，预计 2029 年中国泛娱乐市场规模超 3000 亿人民币 [1][6] - 论据：万达、上海电影、横店等公司通过不同战略以 IP 撬动市场 [6] 4. **传媒板块** - 观点：出版阅读和游戏公司业绩稳定，中报业绩改善或增长且叠加 AI 应用的公司有望估值提升 [1][8] - 论据：南方传媒等出版阅读公司及 B 站等游戏公司业绩表现，当前处于中报业绩预期关键时期 [8] 5. **AI 应用行业** - 观点：经历年初高涨后进入冷静期，但有新动向，AI 生成内容市场规模大，各细分领域有机会 [1][9][13] - 论据：港股 AI 企业 IPO、ARCS 科幻短剧推出，AI 生成内容市场规模预计达千亿美元级别，各细分领域有代表公司 [9][11][13] 其他重要但可能被忽略的内容 - Kimi Researcher 是深度研究型 agent，处于内测阶段，在学术研究等场景有望成有效助手 [12] - 字节跳动旗下即梦月活从百万级跃升至 3000 多万，环比增长 40% [11]

AI生成内容的未来 - AI生成内容的核心问题不是真假之辨，而是内容的可信度与能否引发共鸣 [3] - 长期来看，大多数内容将由AI生成，"是否AI生成"的问题将变得无意义 [3][7] - 未来重点将是内容的来源、溯源和引用问题，AI反而可能更有助于解决这些问题 [3][7] - AI只是讲故事者工具箱中的一个工具，关键在于能否讲出吸引人的故事 [3] AI产品开发方法论 - 优秀AI产品的标准始终是能否解决真实问题 [4] - 最好的AI产品往往不是计划出来的，而是从底层自发长出来的 [5][7] - 产品开发路径应从"自上而下"转为"自下而上" [5][7] - Artifacts最初是一个研究原型，后来才进入产品化阶段 [5] - MCP协议起源于两个工程师的"小火花"，后来发展为行业标准 [6] MCP协议的发展 - MCP最初设计目标是引入上下文，现已能集成GitHub、触发Zapier等操作 [8] - 下一阶段目标是让模型不仅能"理解"还要能"行动"，自动执行工作流 [8] - 未来将探索AI Agent之间的协作，可能形成新的AI经济系统 [8] - 公司内部已开始讨论"Agent雇佣其他Agent"的场景 [8] AI在编程领域的应用 - 公司内部超过70%的Pull Request由Claude代码生成 [10] - 模型生成的代码是否用户喜欢用比Benchmark分数更重要 [10] - 正在探索生成式AI在整个开发流程中的定位 [10] - 面临代码审查、技术架构可控性等新问题 [10] AI对组织效率的影响 - AI让工程效率提升后，组织中的"非工程环节"低效变得更加明显 [11] - 以前一个对齐会议耽误一个工程师一小时，现在等于耽误8小时的AI产出 [11] - 模型可以总结会议、提出建议，但还无法帮助做出组织层面的决策 [11] AI在组织中的应用 - 非技术团队如销售团队开始主动使用模型 [12] - 公司内部文化发生变化，从犹豫使用AI到鼓励使用AI [13] - 内部工具帮助打破"AI使用羞耻感"，推动AI融入日常工作 [13] - 模型被用作"思维合伙人"，用于战略文档、绩效评语等 [12] AI Agent发展方向 - 目标是让AI Agent成为下一代"数字员工" [14] - 需要配套系统：记忆能力、高级工具调用、自动适应组织结构、可验证性 [14] - 模型不仅要更强大，还需要一整套配套系统支持 [14] - 不打算做生态里的每一个环节，但希望成为构建的基石 [14] AI产品面临的挑战 - AI产品对新手来说仍然太难用 [16] - 使用路径稍微偏离主线，效果就会大打折扣 [16] - 模型能力很强，但实际能用好的用户太少，潜力远未释放 [16] - 与当前偏重"工作场景"而非"日常娱乐"有关 [16] 研究与应用平衡 - 产品团队需要思考如何充分利用研究成果 [18] - 理想AI产品团队应包括产品经理、工程师、Applied AI人员、微调团队成员 [18] - 目前只有约10%的研究人员参与到产品中 [18] - 基础性研究如让模型更好执行指令仍在投入 [18] AI Agent交互协议 - 关键问题是Agent要不要透露信息、透露多少 [19] - 模型本能想"讨好"用户，容易透露太多或过度保守 [19] - 另一个挑战是如何在大规模部署时进行可审计 [19] - 这些问题既是产品设计问题，也是研究课题 [19] AI应用层产品常见问题 - 很多AI产品从"轻量AI"开始，逐步变"重AI"，但结构拖后腿 [20] - 应用没有暴露足够多的"操作原语"给模型使用 [20] - 应该先考虑AI怎么用产品，让AI成为产品的"主要使用者" [20]

电商虚假宣传现象 - 电商平台热销产品"苗古金贴"宣称由非遗传承人制作并采用"千年秘方"，实际"非遗传承人"照片为AI生成，证书由机构违规炮制 [1] - 该产品通过虚假包装在电商平台大肆销售，甚至登上"热敷贴回购榜"第一名 [1] - 类似"神医""神药"虚假宣传现象在电商平台普遍存在，利用AI生成内容伪造身份和资质 [1] AI生成内容的商业滥用 - AI生成的"神医"面容神态逼真，可拼接虚假人生轨迹并配伪造认证，形成完整欺骗链条 [2] - 技术能批量定制高度仿真的AI"神医"，消费者难以辨别真伪 [2][3] - AI生成内容被恶意用于虚假广告、伪造身份等商业欺诈行为 [1][2] 医疗健康领域监管建议 - 需对医疗健康领域AI生成内容实施前置审查，严令禁止AI医疗虚假宣传 [2] - 应完善法律法规，明确AI冒充专业人士的法律责任 [2] - 需建立跨部门协作机制，严查虚假认证机构并强化AI内容溯源追踪 [3] 技术反制与平台治理 - 建议采用"AI打假AI"手段，引入辨伪技术并建立数据库智能化识别虚假内容 [4] - 平台需跟踪AI技术更新，利用技术瑕疵提升鉴别能力 [4] - 需从代工企业、认证机构到AI服务商全链条治理，斩断利益链 [3][4] 行业风险特征 - 传统"神医"依赖真人伪装可追溯，而AI"神医"可量身定制且批量出现，风险更高 [3] - 医疗欺诈利用AI技术形成"深陷阱"，需大幅提升惩戒力度 [3] - 虚假医疗产品通过电商平台规模化销售，行业需加强广告审查流程 [1][3]

AI生成内容现状 - AI每天能创作数千万张图片 短短一年多生成的图片量可能超过人类摄影师一个半世纪的总和 [7] - AI生成内容正以前所未有的速度和逼真度充斥数字生活 从图片到文字再到视频 真假界限日益模糊 [7] 识别AI文字特征 - 故作精确 例如"寒意刺进她第四节胸椎"等不常规写法 [16] - 词汇堆砌 频繁使用"褶皱 青铜 生物编码 宇宙 银河 雪松味"等生僻词 [16] - 比喻轰炸 短时间内抛出过多未消化的比喻 [17] - 过度工整 语法无懈可击但缺乏自然节奏感和情感起伏 [18] 识别AI图片技巧 - 检查手部/牙齿/眼睛等细节 观察手指数量 牙齿排列 瞳孔形状 [21] - 审视光影一致性 物理合理性 背景元素有无扭曲或重复 [23] - 留意异常对称和过度完美 [24] - 使用反向搜图追溯图片来源 [26] 识别AI视频方法 - 关注面部细节异常 如眼神 微表情 面部对称性 [31] - 观察不合逻辑的动作 如不自然的习惯性小动作 [32] - 检查环境破绽 光线一致性 背景扭曲 物理规律违背 [33] - 互动测试 要求按压面部观察变形自然度 [35] AI检测工具发展 - 文本检测工具包括Grammarly ZeroGPT Scribbr等 分析语言模式和重复性 [41] - 图片/视频检测工具包括deepfakedetector Hive Moderation等 [42] - 腾讯朱雀实验室推出基于深度学习的AI生成内容鉴别工具 [44]

文章核心观点 - AI生成的猎奇、低质视频在短视频平台泛滥，制作者借此操纵算法获取流量和财富，平台为追求流量和营收助长这一现象，需对AI生成内容进行更细分周详的规范来保护用户 [16][19][37] 分组1：AI生成恐怖视频的特点及危害 - AI生成视频时长10秒左右，前几秒日常，画风突变后呈现诡异景象，最终停留在惊悚一帧 [2][5] - 此类视频在Instagram上观看量达3.62亿，收获349万赞，会跳出算法随机推送，造成精神污染，毁掉上网体验 [6][7] - 视频制作者利用AI批量生成内容试探流量机制，形成恶性循环，导致人类创作内容难被发现，平台内容劣币驱逐良币 [16][17] 分组2：流量和财富密码 - 17岁YouTuber Daniel Bitton靠AI复制爆火视频，月赚10万美元，还售卖“成功公式” [21][24] - Mustafa靠同样玩法赚百万美金后“产业升级”，出售AI工具和营销服务，付费社区有80000名会员，会费40美元/月 [24] - Crayo.ai平台可让AI短视频生产流程全自动化，10秒做1分钟短视频，基础套餐19美元/月，提供20条视频 [25] 分组3：算法和数据思维的挑战 - Meta放任AI垃圾内容泛滥，调高用户信息流里AI内容比重，将AI制作工具卖给广告商 [28][29] - AI内容注入后，Facebook用户留存时间增加8%，Instagram增加6%，平台为流量和营收忽视内容质量 [34] - 未来社交媒体可能成为赌场，需对AI生成内容规范，甚至设置“一键屏蔽AI内容”按钮 [35][37][38]

AI生成视频的传播与影响 - AI生成视频在Instagram上观看量达到3.62亿，收获349万赞，成为爆火内容[2] - 这类视频具有"AI生成，十秒左右，画风突变，精神污染"的共性，利用算法随机推送给用户[6] - 视频内容超出人类理性认知，触发深层不适和惊悚感，导致用户大脑短路[8][9] - AI生成视频是一种"无意的恐怖"，比刻意制造的恐怖更令人不安，因为它没有任何轨迹可以预判[7] AI生成视频的商业模式 - 短视频博主通过发布AI生成视频，在建号2个月时间里收获12万关注者和上万美金平台收入[5] - AI生成视频的生产速度远超人类创作，分秒钟可生产数十条垃圾视频[9] - 人类用质量换流量，AI用数量换流量，形成"暴力破解"算法的方式[10] - 低质量、假信息占据用户信息流，导致劣币驱逐良币的现象[10] AI生成视频的产业链 - 17岁YouTuber通过复制爆火视频和AI制作惊悚动画，每月赚到10万美元[13] - 产业链出售AI工具包括视频文案模版、语音和自动剪辑、账号批量管理等[14] - Crayo.ai平台提供各类迎合TikTok算法的内容模板，10秒钟制作1分钟短视频[14] - 付费社区会员达80000名，40美元/月会费，实操工具另收费[14] 平台对AI生成内容的态度 - Meta调高用户信息流里AI内容比重，AI内容使Facebook用户留存时间增加8%，Instagram增加6%[16] - 平台认为AI生成内容是趋势，用户终将习惯，首要目标是源源不断的视频上传带来流量[16] - 负面内容越极端，评论和转发越多，算法越喜欢，形成恶性循环[17] AI生成内容的社会影响 - AI生成内容泛滥导致人类创作难以被发现，创作生态和平台内容劣化[10] - 未来社交媒体可能成为赌场，AI垃圾制造者赌算法，用户赌不被精神污染[19] - 需要更细分、周详的AI生成内容规范来保护用户[19]