大会概况 - 锦秋基金团队将亲自操盘一场100人规模的AI领域CEO大会，定于11月1日周六举行 [1] - 大会定位为创始人之间的"聚会"，不邀请外部权威站台，强调创始人的思考与判断是核心 [1] - 活动包含圆桌讨论、长桌讨论及晚宴派对等多个环节 [8][9] 核心理念：Experience with AI - AI发展进入"体验时代"，从模仿人类数据转向通过传感器和环境反馈主动体验世界 [6] - 在此时代，AI成为一个不断试错、持续学习的生命体，而非封闭系统 [6] - 创业者被视为不断与世界交手、与同伴联动的创造节点，而非封闭孤岛 [6] - 该理念延续自锦秋基金年初策划的"CES硅谷之旅——Scale with AI"活动，当时与35家顶尖机构进行了密集交流 [19] 活动环节设置 - 上午环节未在提供内容中详述 [7] - 下午环节包括"创业圆桌·Ask me anything"，由投资人为每位创始人量身策划问题，以及"讨论长桌·锦秋小饭桌plus版"，以直观形式探讨未来预判 [8] - 晚间环节为"月光派对"晚宴，旨在为创新玩家提供同频碰杯的交流机会 [9] 产品发布与嘉宾分享 - 大会现场将进行产品首发环节"AI狂人.showtime"，重磅邀请7位AI狂人分享不同方向的AI创新样本 [11] - 锦秋基金创始合伙人杨洁将首次分享对科技创新者历史机遇、穿越法则的判断与未来信仰 [11] - 锦秋基金合伙人臧天宇将分享锦秋基金2025年的投资实践及关于未来的积极信号 [11] 技术支持与合作伙伴 - 签到环节联合Vidu打造AI打卡机，可生成AI形象并扫码生成视频，让照片"活"起来 [13] - 乐享科技、生数科技、庞伯特PongBot等公司的代表产品将在现场展示 [15] - 大会筹备得到豆包大模型、Vidu、Suno、ChatGPT、Claude、Midjourney等众多AI工具伙伴的支持 [22]

AIGC技术应用现状 - 豆包、即梦、可灵、通义、Vidu五款AI模型产品能够生成用户与明星的拥抱、亲吻等亲密动作合影，甚至可实现男性艺人裸露上半身的效果 [6][7][10] - 生成亲密合影的成功率较高，即梦、Vidu在生成亲吻动作时一次成功，豆包、可灵需修改提示词或多次生成后亦可实现 [7][9] - 上述模型对输入未成年艺人图片未设限制，同样能生成拥抱、亲吻等亲密接触的合影 [10] 平台内容审核差异 - 小红书和抖音对AI生成明星合影内容进行严格管控，无AI水印版本被限制为"不被推荐给未关注用户"，带水印版本被处置为"不可被他人查看"或"仅相互关注可见" [11][12][13] - B站和快手仅对带AI水印的内容进行标注，提示"疑似AI合成"，但对无水印版本未进行明显提示或限制 [12][13] - 微博和视频号对记者上传的AI合影短视频未采取任何限制措施，也未进行AI相关风险提示 [11][13] 商业模式与功能设置 - 即梦、可灵、Vidu三款模型提供付费会员服务，开通会员后可下载去除AI水印的图片，其包月会员最低价格分别为69元、66元和59元 [15] 行业监管与法律责任 - 法律专家指出AI生成明星亲密合影可能侵害艺人肖像权和名誉权，即使在私域范围传播侵权风险依然存在 [2][14] - 模型厂商在技术上探索更难以篡改的显式标识存在高成本挑战，强行要求完全无法篡改的水印难以实现 [18] - 专家建议平台优化举报与维权通道，对本人申诉赋予更高处理优先级，并建立快速响应机制以减轻伤害 [19]

AI生成明星合影的技术实现与普及度 - 豆包、即梦、可灵、通义、Vidu五款支持多图参考的AI模型产品均可生成与明星的合影，并能实现拥抱、亲吻等亲密动作，甚至生成男性裸露上半身的图片[9][14] - 生成成功率较高，Vidu和即梦在测试中一次成功生成，通义和可灵在未改动提示词的情况下第二次生成成功，豆包在修改提示词后也能成功生成[10] - 使用未成年艺人图片进行“投喂”生成亲密合影同样没有限制，五款模型产品均能生成拥抱、亲吻及裸露上半身等内容的未成年人明星合影[15] 社交媒体平台对AI生成内容的监管差异 - 在B站、微博、抖音、快手、小红书、视频号六家内容平台中，仅小红书和抖音对AI生成的明星合影内容进行违规提示并限制传播范围[17][18] - B站和快手仅对带有AI水印的版本进行“疑似AI合成”标注，但未采取限制措施，而微博和视频号对有无AI水印的版本均未进行风险提示或限制[18][21] - 小红书对无AI水印视频处置为“不被推荐给未关注用户”，带AI水印视频则在发布1分钟后被处置为“不可被他人查看”[18][19] AI生成内容的标识与商业变现模式 - 即梦、可灵、Vidu三款模型产品通过开通会员服务可去除AI水印，其最低档包月会员价格分别为69元、66元和59元[24] - 根据《人工智能生成合成内容标识办法》，AI生成内容需进行显式或隐式标识，但现有规范未要求模型厂商采用无法去除的强硬技术手段[26][27] - 法律专家认为模型厂商有责任从源头上为内容提供稳定性标识，确保在常规操作后标识依然存在，但强行要求无法篡改的水印成本很高且难以实现[29][30] 粉丝群体与法律专家对AI合影的抵制及风险认知 - 单依纯、李健、张凌赫、丁程鑫等艺人的粉丝站或大粉发布声明，抵制将艺人图像、视频、声音等资料“投喂”AI，并呼吁拒绝制作和传播AI生成的艺人内容[22] - 法律专家指出AI生成亲密明星合影可能侵害艺人肖像权和名誉权，即使在小范围私域传播，只要未经同意制作虚假肖像并发送给第三方即构成侵权[23][24] - 参考“葛优躺”系列案件，未经许可使用他人肖像即使不以营利为目的，只要造成不良影响同样构成侵权，AI生成虚假亲密照的侵权性质更为恶劣[26]

行业投资评级 - 增持（维持）[8] 核心观点 - 行业投资主线已从大模型技术角逐转向场景应用渗透，重点关注两条主线：云基础设施服务商和广告/垂直应用领域 [1] - 与市场关注技术领先性和C端应用不同，报告认为场景应用是AI商业化的核心，B端定制化服务因需求刚性、行业壁垒高和变现多元，有望成为差异化竞争关键 [6][22][23] - 大模型“平权”加速AI渗透，国内模型凭借性价比优势（较海外低约50%）和开源策略，有效降低使用门槛，推动调用量快速增长 [2][18][25][31][35] 云基础设施服务商 - **行业趋势**：AI与云基建协同共生，云平台通过“弹性算力+全链路工具+AI原生存储”三维支撑降低AI开发门槛，云租赁成本仅为自建算力的1/4-1/5 [3][19][49] - **头部厂商布局**： - 阿里巴巴：以通义大模型为核心打造AI时代云智能体系，通义千问3.0开源8款混合推理模型，灵骏智算服务支持10万卡级集群，训练效率提升近10倍 [3][19][66] - 百度集团：依托“昆仑芯+文心大模型”巩固优势，昆仑芯2024年中国区数据中心芯片出货量位居第三，多款主力大模型提供免费在线推理调用 [3][19][73][78] - 腾讯控股：聚焦“多模态SaaS+multi-Agent”撬动长尾市场 [3][19] - 字节跳动：C端流量驱动全栈AI原生路径，截至2025年5月，火山引擎AI工具tokens调用占比达30.3%，其2024年中国公有云大模型调用量份额为46.4% [19] AI+广告 - **全链路重构**：AIGC实现素材批量生成，快手可灵、字节即梦缩短视频制作周期超60%；生成式召回提升5%以上转化率；未来多Agent协同将实现广告主指令执行自动化 [4][20] - **平台受益**：内容与电商平台凭借“数据闭环+场景高频”成为核心受益者，通过精准推荐提升用户时长，效果广告ROI改善（如Meta Advantage+提升37%转化率）吸引广告主预算转移 [4][20] - **具体案例**：阿里巴巴以AIGA模型打造智能营销体系，万相台AI无界提升15%点击率，LMA2模型参数达万亿级 [20] 垂直领域AI应用 - **AI+视频**：B端成为新增长极，可灵、即梦已具备数字人生成与驱动能力，支撑电商、营销高频场景，并逐步渗透影视、游戏赛道，可灵参与全球首部AI故事单元剧制作，B端覆盖企业超2万家 [5][21] - **AI+办公**：从基础功能到行业定制，飞书支持千万级数据毫秒级响应，钉钉O-table实现百万级行数据实时更新；行业定制方案如钉钉豆蔻妇科大模型（准确率90%）快速落地 [5][21] - **AI+招聘**：猎聘AI产品渗透率超70%，AI面试系统与资深专家评估一致性达95%，助力企业提升招聘效率超80%（如安徽艾偲信息销售岗效率提升80%，中邮消费金融客户运营岗效率飙升120%） [5][24] - **AI+图片**：美图公司Roboneo产品登顶多国APP Store，与阿里巴巴合作拓展B端场景 [5][24] 数据与成本驱动 - **需求验证**：海内外大模型Token调用量显著增长，字节豆包2025年5月日均调用量达16.4万亿Token，同比增长137倍；Google Gemini处理量从2025年4月的480万亿翻倍至7月的980万亿 [2][18][26] - **成本下降**：大模型推理价格显著下行并趋稳，国内模型性价比优势突出（较海外低约50%），分层定价策略满足多元化需求，降低企业和开发者使用门槛 [2][18][31][32][35]

Sora2引领的AI视频热潮 - OpenAI推出新一代文生视频大模型Sora2及相应APP，上线不到五天下载量突破100万次，势头超过ChatGpt [3] - Sora2具备低门槛和高真实感特性，仅需输入提示词或图片即可生成十几秒至两分钟视频，并能出色模拟物理运动及保持角色一致性 [12][13] - 用户可上传照片生成数字分身，授权后该形象可客串各类短视频，实现与历史人物互动等效果，达到以假乱真水平 [14] 国内AI视频应用发展 - 国内AI应用承接热度，字节跳动的即梦和快手的可灵成为Sora的国产替代品 [4] - 即梦依托抖音庞大用户群体流量可观，可灵在生成短视频及复杂镜头语言方面能力更强，更接近影视级制作水准 [5] - AI工具推动技术平权，使个人能完成以往需团队合作的内容，极大压缩成本并提升效率，例如百度上线AI短剧生成平台，宣称可辅助完成超过80%内容 [30][44] AI视频内容创作与市场表现 - 网友利用AI生成海量创意内容，包括恶搞历史人物、经典剧集及制作地狱笑话，实现本土化操作和打破圈层传播 [17][19][26] - 专业领域涌现多部AI生成剧集，如芒果TV的《坐标》画面纯由AI生成，腾讯视频的《传武》上线首周12集播放量破1000万，抖音端播放量达1700万 [32][33] - 国产AI作品如可灵制作的《新世界加载中》和即梦制作的《权利童话》入选釜山AI电影国际峰会，展现前沿水平 [38] AI视频引发的伦理与法律问题 - AI生成视频带来深度伪造风险，例如北京市场监管部门查处利用AI技术伪造央视主持人形象进行虚假广告宣传的案件 [7] - 对逝者影像的AI再现引发伦理争议，已故演员家属公开抵制滥用行为，同时恶意伪造视频对个人生活造成严重影响 [50][54] - 国家层面已实施《互联网信息服务深度合成管理规定》等法规，探索在鼓励创新与防范风险之间取得平衡 [56]

行业投资评级 - 报告未明确给出具体的行业投资评级 [1] 报告核心观点 - 视频生成技术正从“概念演示”阶段迈向“准实时创作”阶段 [1] - 在付费分层与算力约束并存的背景下，视频大模型的商业化路径日趋清晰 [4] - 国内外模型生态差距正逐步收窄，竞争焦点转向算力储备、数据质量与产品细节打磨 [3] - 该技术演进将推动影视产业资源更精准地配置于核心价值环节，大幅压缩前期方案验证成本 [5] 模型性能横评总结 - 四款主流视频生成模型（Sora 2, Veo 3.1, 可灵, 即梦）生成速度普遍较快，平均仅需1至2分钟即可生成一段5秒视频 [1][2] - Veo 3.1在风格还原、构图意图及镜头语法理解方面表现最为准确 [1][2] - Sora 2在动态模糊、景深与材质反射方面的写实感最强，观感接近实拍，但其产品形态更侧重移动端竖屏信息流，导致横屏输出能力与画面清晰度相对偏向轻量化 [1][2] - 可灵与即梦在中文友好度与易用性上表现突出，与海外顶级模型的差距正在快速收敛 [1][3] 模型规格与生态比较 - Veo 3.1的API预览支持4/6/8秒短片，其Flow功能引入“场景续写”最长可延展至约1分钟段落，并支持16:9与9:16画幅输出 [7] - Sora 2的官方应用默认生成10秒竖屏视频，支持Portrait/Landscape切换，并提供“Cameos”功能可将用户形象嵌入视频 [7] - 可灵官方发布可生成时长至2分钟、1080p、30fps的视频，并在质量、稳定性与成本上持续迭代 [7] - 即梦作为字节跳动旗下平台，与剪映/抖音生态结合紧密，提供从文本到视频的一站式创作体验，会员配额适合高频产出 [3][7] 商业化与基础设施 - OpenAI首席执行官Sam Altman已公开表明，新一代高算力功能将优先面向付费用户开放，并可能对Sora 2等视频生成能力实施分级收费机制 [4] - 基础设施层面正经历“超级计算中心化”变革，以微软与OpenAI筹划中的“Stargate”百亿美元级超算数据中心为代表的大规模产业投资正在进行 [4] - 国际能源署预测，至2030年全球数据中心耗电量或将翻倍至约945 TWh，其中AI推理是核心增长驱动力，这从成本端固化了视频生成服务的高溢价属性 [4] 对影视产业的影响 - 在广告、预告片、预视觉化等前期方案验证中，AI视频技术将大幅压缩勘景、实拍与特效制作的试错成本 [5] - 结合Veo 3.1等具备镜头级控制能力的工具，从剧本到样片的迭代周期有望从“周级”缩短至“小时级” [5] - 一种“低成本验证、高投入精制”的混合工作流变得可行：AI先生成低清晰度内容雏形用于审核试映，确认方向后再由传统制作管线进行高精度复刻与精修 [5]

AI视频大模型竞争格局 - Sora2发布即可用，但并未与国产视频大模型（如字节即梦、快手可灵、阿里Wan）形成代差式领先，部分细节甚至不如国产模型[2] - 预测国产视频大模型将在很短时间内对齐Sora2的能力，其中阿里Wan走开源路线，生态建设迅速[2] - Google在Sora2发布后一天推出Veo3.1，在电影级画质视频制作方面优势更大，凭借其强大的基础设施整合能力，未来可能超越OpenAI[2] - AI硬件发展路线不确定性大，OpenAI与英伟达一统天下的模式面临挑战，阿里、谷歌等公司使用自研AI芯片[3] 新易盛2025年上半年财务表现 - 公司实现营业收入104.37亿元，同比增长282.64%[5] - 归属于上市公司股东的净利润为39.42亿元，同比增长355.68%[5] - 基本每股收益为3.97元，同比增长356.32%[5] - 第二季度单季营收63.85亿元，环比增长57.5%，净利润23.7亿元，环比增长50.7%[7] - 业绩爆发式增长主要得益于全球AI算力投资热潮对高速光模块的旺盛需求[5] 新易盛业务转型与市场地位 - 公司从传统光模块供应商转型为AI算力基础设施核心供应商，业务结构发生根本性转变[7] - 4.25G以上高速光模块产品收入占比高达98.91%，传统低速率产品仅占0.87%[9] - 境外收入达985.26亿元，占主营业务收入94.64%，体现全球化战略成功[10] - 公司成功推出基于单波200G光器件的800G/1.6T光模块产品，涵盖VCSEL/EML、硅光、薄膜铌酸锂等多种技术解决方案[8] 行业需求与市场前景 - 亚马逊、微软、谷歌、Meta等北美四大云厂商2025年资本开支预计突破3200亿美元，同比增长30%，主要用于AI数据中心建设[7] - LightCounting预测2025年以太网光模块市场将增长50%，800G市场规模将超过400G，渗透率从25%提升至50%[7] - 800G已成为AI集群标配，预计2025年全球800G需求达1990万只，1.6T需求从200万只调整至100万只[8] 客户结构分析 - 应收账款前五大客户占比72.74%，主要为亚马逊（31.74%）、微软（31.7%）、Meta（18.2%）等国际云巨头[11] - 字节跳动成为国内最大客户，阿里云2025年800G光模块招标量预计达500万只，新易盛获得25%份额[11] - 腾讯份额提升至30%以上，通过拓展国内AI算力客户降低对单一市场的依赖[11][13] - 客户结构优化为公司提供更稳定的增长动力，并与英伟达等AI芯片厂商合作强化竞争力[13] 存货与应收账款风险 - 存货余额59.44亿元，较上年末增长43.86%[14] - 存货跌价损失1.63亿元，同比大幅增长838.72%，存货跌价准备高达5.04亿元[14] - 应收账款50.17亿元，较上年末增长97.59%，99.97%的应收账款账龄在一年以内[15] - 应收账款周转天数为65天，存在一定的坏账风险[15] 技术迭代与行业竞争风险 - CPO（共封装光学）技术可能在2027年后主导Scale-up网络，对传统可插拔光模块构成替代威胁[14][16] - LightCounting预测2025年光模块价格将以每年18%的幅度下滑，800G光模块价格已从2024年的1.2万美元/只降至2025年Q1的8500美元/只[14][18] - 中际旭创已实现硅光模块量产，1.6T产品市占率超35%，而新易盛CPO布局尚处样品阶段[17] - 新易盛研发投入为3.34亿元，低于中际旭创的5.2亿元，在CPO等前沿技术领域的布局相对滞后[18]

Sora2的技术突破与产品定位 - 核心突破在于音画同步和物理一致性实现质变，AI首次具备编导级综合叙事能力[10][12] - 产品形态从API模型升级为社交平台级应用Sora App，集成创作、分发、互动、推荐功能[3][13] - Cameo功能支持用户上传人像或音频实现自我投射，将创作门槛降至零并激活用户参与感[15] - 首周下载量显示其具备吸引数亿用户日活的潜力，对Meta和Tiktok构成结构性威胁[16][18] 中国市场竞争格局：即梦与可灵对比 - 字节跳动即梦依托抖音生态优势，主打产品闭环和流量分发，但生成质量与Sora2存在差距[20][22] - 快手可灵侧重技术突破，支持数分钟长视频和复杂镜头语言，更接近Sora2技术对标[24] - 可灵2025年第二季度营收达2.5亿元，但客户仍以专业机构和自媒体为主，未形成大众消费市场[26] - 两者均面临商业模式困境，AI短剧等应用依赖补贴，用户付费意愿未经验证[26][28] 行业生态重构与平台战略挑战 - Sora2重塑内容分发逻辑，将"生成+分发"一体化体验作为平台竞争新核心[13][16] - 独立AIGC视频平台可能成为行业成熟必要条件，避免与主平台功能混杂引发的伦理风险[28] - 国内厂商需平衡AI产品与原有内容平台竞争关系，战略推进速度低于预期[31] - 视频生成能力被视为AI内容领域的"皇冠明珠"，直接影响公司AI战略完整性[31]

AI技术滥用现状与受害者案例 - 高校导师、白领、保时捷女销冠、台球运动员等普通人与公众人物均成为AI换脸、克隆照、恶意造谣等技术滥用的受害者，面临诈骗、诽谤和个人形象被用于制作色情内容等风险 [1][3][4] - 电子科技大学人工智能专业研究生校外导师高翔在8月收到利用AI换脸技术篡改的不雅视频进行诈骗的短信 [3] - 白领小雅在9月18日发现其社交平台照片被用于AI生成“克隆”图片，担心被用于制作淫秽色情内容并已报警 [3] - 青岛保时捷中心女销冠牟女士在10月10日称遭遇AI恶意合成的虚假视频诽谤，并受到骚扰电话“轰炸”和大量不明微信好友申请 [3] - 台球运动员王思诺在8月30日称遭人恶意利用AI伪造淫秽视频并传播，台球女裁判王钟瑶亦透露在境外网站有涉及她的伪造淫秽视频传播 [4] 平台内容生态与流量乱象 - 社交平台上明星“AI换装”和“AI擦边”图片或视频泛滥，成为“流量密码”，部分账号专门发布此类内容吸粉，甚至有教程指导用户借此“起号变现” [1][5][6] - 某视频平台有近100个专门发布“AI美女”相关内容的账号，其中一个账号拥有近25万粉丝，其发布内容绝大多数为AI生成“擦边”视频 [5] - 一个名为“AI瑶瑶”的账号发布的“擦边”AI女性视频，点赞超过1.2万次，收藏、转发量合计超6000次 [5] - 抖音上一条转赞评近万次的教学视频评论区充满咨询用户，有用户开出高达5万元的学费 [6] - 近十位知名女星被批量“嫁接”到同一名舞者身上，营造“身穿同款古装、共跳一支热舞”的效果，侵犯肖像权 [6] - 百度图片是AI生成“擦边”内容的重灾区，图片内容涵盖“制服诱惑”、动漫风格及各类衣着暴露的AI女性形象 [6] AI应用实测结果与技术防线脆弱性 - 对12款文生图和文生视频AI应用的实测发现，5款应用（即梦、豆包、可灵、元宝和阶跃AI）可实现明星“一键换装”，9款应用（即梦、豆包、堆友、无界AI、秒画、LiblibAI、可灵、星流AI、元宝）能生成衣着暴露的“擦边”图片 [2][10][12] - 在“AI换装”测试中，阶跃AI几乎瞬间将原图人物白裙“抹除”并生成身着黑色蕾丝吊带的图片，元宝能将冬季大衣替换为白色内衣或把紧身连体衣改成吊带短裙，豆包除执行换装指令外还能将图片一键转换为视频 [11][12] - AI应用的内容审核防线脆弱，提示词修改得更加隐晦即可绕过限制，例如向豆包、可灵输入包含“卡戴珊身材”“酒店房间”“亚洲美女”等关键词组合后，应用便生成了多张穿着性感、姿势暧昧的女性自拍照 [13] - LiblibAI生成的图片尺度更大甚至露点，其官方公众号介绍模型/图像创作者已突破2000万，日均保持数百万级创作交互，用户自主训练的原创AI模型与工作流超50万，累计生成图片逾5亿张 [13] 平台治理措施与厂商回应 - 小红书虚假内容治理负责人介绍，虚假不实内容、虚假人设和AIGC造假是社区打击重点，2025年上半年共处置治理虚假低质AIGC笔记60万篇，平台正加大AIGC识别模型研发投入并对AIGC内容做主动标识 [7] - 抖音相关负责人表示，根据《抖音社区自律公约》，平台将对展示传播低俗、媚俗的内容采取限制措施，无论是否通过AI生成，违规内容均会予以处置 [7] - 平台通常会在AI生成图片上标注“疑似AI创作，请谨慎甄别”等提示语，但律师认为此类标注不能直接认定平台已尽到合理注意义务或自动豁免法律责任 [8] - 针对实测问题，星流AI和LiblibAI母公司北京奇点星宇科技有限公司称问题源于新模型上线初期识别精度波动，已完成紧急修复与优化，修复后星流AI生成的12张图片有4张显示包含敏感内容，LiblibAI也有一张图片生成失败 [14] - 豆包、即梦相关人士表示严格遵守国家法律法规，禁止生成色情违法内容，无界AI品牌合作总监称已采取多项防范措施，堆友背后的阿里巴巴表示将进行内部调查 [15] 技术挑战与法律监管环境 - AI应用内容防线脆弱的原因并非技术不能而是责任缺失，技术专家指出拦截违规内容没有根本性难度但需消耗一定算力，可在提示词识别和图片生成后再次检测两个环节进行拦截 [17] - 复旦大学计算机学院副教授郑骁庆建议为所有AI生成内容加上人眼不可见但平台系统可快速检测的“数字水印”，以便平台迅速识别违规内容来源并采取措施 [9] - 我国已有网络安全法、《生成式人工智能服务管理暂行办法》、《互联网信息服务深度合成管理规定》等多部法律法规对AI内容规范做出要求 [17] - 2023年9月最高人民法院、最高人民检察院、公安部联合发布的指导意见强调，利用“深度合成”等生成式人工智能技术发布违法信息等情形依法从重处罚 [18] - 现行法律为AI内容规范提供原则性框架，但面对“擦边”内容时仍存在界定标准模糊、审核义务边界不明确、技术标准缺失、法律责任认定难等灰色地带 [19]

AI技术滥用现状 - AI技术被滥用于制作不雅视频、克隆照片和恶意造谣，受害者包括高校导师、白领和公众人物等[1][6][8][9] - 社交平台上明星"AI换装"和"AI擦边"内容泛滥，成为流量密码，部分账号专门发布此类内容吸粉变现[2][10][11][13] 平台治理措施 - 小红书2025年上半年共处置治理虚假低质AIGC笔记60万篇，平台正加大AIGC识别模型研发投入并实施主动标识[24] - 抖音表示根据社区自律公约对低俗媚俗内容采取限制措施，无论是否通过AI生成[25] - 平台通常会在AI生成图片上标注"疑似AI创作，请谨慎甄别"等提示语，但律师认为仅标注不能自动豁免法律责任[27][28] AI应用实测结果 - 测试的12款AI应用中，5款（即梦、豆包、可灵、腾讯元宝和阶跃AI）可实现明星"一键换装"[32] - 9款应用（即梦、豆包、堆友、无界AI、秒画、LiblibAI、可灵、星流AI、腾讯元宝）能生成衣着暴露的"擦边"图片[40] - 部分应用如LiblibAI生成的图片尺度较大甚至露点，该平台模型创作者已突破两千万，累计生成图片逾5亿张[43] 企业回应与整改 - 星流AI和LiblibAI母公司承认新模型上线初期识别精度波动导致风险内容遗漏，已完成紧急修复优化[46][47] - 豆包和即梦表示严格遵守法律法规禁止生成色情内容，承认AI技术处于发展早期将持续改进[51] - 无界AI月独立设备数为13.5万台，公司称已采取多项防范措施[51] 技术防范瓶颈 - 专家指出拦截违规内容在技术上无根本难度，但需要消耗算力成本，可通过构建名人识别模型充当防火墙[55][56] - AI公司可对用户提示词进行合规改写，并对生成图片实施实时风险检测，但模型本身的大尺度内容漏过问题仍需解决[50] 法律监管环境 - 我国已出台多项法规包括《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等对AI内容进行规范[57][58] - 现行法律对"擦边"内容存在界定标准模糊、审核义务边界不明确等问题，导致灰色地带较多[60] - 2023年三部门联合指导意见强调利用深度合成技术发布违法信息的情形将依法从重处罚[59]