行业背景与挑战 - 随着大模型驱动的AI技术跃迁，深度伪造技术正变得“信手拈来”，不法分子制作难以识别的高质量造假内容越来越容易 [1] - 有案例显示，犯罪分子通过AI换脸技术在10分钟内就骗走了430万元巨款 [1] 公司反诈举措与产品 - 重庆市反诈骗中心和度小满共同推出了2026年首套AI反诈宣传系列活动，包括AI反诈短剧、国内首个数字人反诈歌曲、防深伪H5小游戏“马年反诈宣传三件套” [1] - 防深伪H5小游戏“鉴真”通过模拟真实的诈骗场景，让用户在趣味闯关中掌握识别技巧 [1] 深度伪造技术识别关键点 - 在合成视频中，AI往往会暴露出“生理常识”的缺失，例如眨眼频率不正常、瞳孔形状不规则或牙齿存在拼接缺陷 [1] - 如果发现画面中皮肤或布料表面有怪异的涂抹感，或者局部区域看起来模糊不清，这通常是AI在处理复杂纹理时留下的破绽 [1] - 真实人类的面部肌肉运动极其复杂且高度协调，AI在模拟面部动作单元的连贯性、面部各区域朝向的一致性时面临技术瓶颈 [4] - 如果在通话中，对方在转头或说话时产生了细微的画面抖动，或者出现了身体比例失调、肢体连接不自然的怪异感，那么极大概率是合成产生的 [4] 公司核心技术能力 - 度小满的深度检测技术能挖掘图像背后隐藏的“数字指纹”，通过融合频谱特征、空间特征等多域视觉信息进行对比分析，精准识别非本人操作或黑产代理冒充等高风险行为 [4] - 度小满的微表情风控模型可以监测到持续时间极短（通常仅有0.1秒左右）的面部动作数值微观波动，在回答关键财务问题时，将用户面部自然反应转化为具体分值辅助判断风险 [6] - 度小满防深伪检测模型在千分之一误报率下，召回率能达到90%以上，准确率超过99% [6] 公司反诈成效 - 截至2025年底，度小满已累计为超45万名客户发出精准诈骗预警，成功拦截电诈金额2.17亿元 [6]

事件概述 - 近期海外社交平台Reddit上出现一篇声称揭露美国外卖平台算法内幕的匿名网帖，指控平台通过名为“绝望评分”的算法剥削骑手，该帖后被证实为AI生成的谣言，原帖已被删除[2][4] - 该事件引发广泛关注，使得“绝望评分”一词成为指控外卖平台存在“骑手斩杀线”式压榨行为的证据[7] - 这并非个案，过去一段时间由AI生成的所谓“行业黑幕”网帖在海外社交平台上频繁出现[2] 谣言具体指控内容 - 网帖自称由“Uber Eats软件工程师”发布，声称外卖平台通过“绝望评分”算法追踪骑手对现金的渴望程度，并据此压低薪酬，例如知道骑手愿意为6美元接单后便不会支付15美元[4] - 指控平台将高额小费的“优质单”留给兼职骑手以吸引其加入，而对全职骑手进行压榨[4] - 指控“优先配送”服务是刻意延迟普通订单，以凸显优先订单的快速[5] - 指控消费者账单上出现的“监管应对费”或“骑手福利费”并未用于骑手，而是流入公司“小金库”，用于游说反对骑手组建工会[5] - 为增加可信度，帖文引用了DoorDash曾因挪用送餐司机小费而支付高额和解金的真实案例[5] 涉事公司回应与辟谣 - Uber总裁兼首席运营官安德鲁·麦克唐纳在社交平台辟谣，称该帖子内容绝对是捏造的，并提醒不要轻信网上信息[7] - DoorDash创办人徐迅发文指责帖文内容，称宣扬此类企业文化会被开除，并指出配送员不是“人力资产”，设立“绝望评分”指标可恶，同时否认平台收取过“骑手福利费”[7] - 发帖人用于证明身份的“Uber Eats工牌”被检测出带有AI生成特征水印，并被Uber官方指认为造假[7] AI生成虚假信息的技术背景与现象 - 调查发现网上存在大量可免费使用的“AI写作神器”、“视频生成器”、“AI换脸”小程序或网站，功能多样，可生成社交平台各类文案及视频[9] - 测试显示，AI工具可根据指令快速生成不同主题、约100字的扩写文案，并能模拟官方通报口吻，包含具体时间、地点、人数等细节[9] - 在视频生成方面，AI工具可将网络现有视频画面进行粗糙拼接，也能根据简单文案或图片指令生成较为逼真的虚构场景视频，例如生成车辆被水浸泡或吊桥断裂人落水的虚假画面[9] - 专家指出，深度伪造技术与社会工程学结合驱动的自动化攻击具备高度定制化、大规模传播特性，可能制造市场恐慌或实施定向诈骗[10]

中国古代自动机研究 - 核心观点：中国古代存在关于自动机（如木鸢、木人、木牛流马、指南车）的丰富文本记载，这些记载融合了技术实践与想象，其形象演变及相关争议映射了中国古代科技传统的自我演进及与西方科技碰撞后的革新转向[4][5][7] - 文本记载与形象：古代自动机形象主要分为动物形（如鲁班、墨子的木鸢）、人形（如鲁班失母传说中的木车夫、偃师木人）和器物形（如木牛流马、指南车），其中指南车摆脱了仿生外形，并描述了其齿轮结构[4][5] - 技术背景与理性演进：相关文本描写包含机械制造的技术细节，如材料、构造和以“机关”为核心的控制驱动部件，体现了中国古代机械制造的普遍范式，明代中期前对自动机技术可行性的质疑增多，反映了理性思维的发展[6][7] - 历史变迁与影响：明后期西学东渐影响了中国科技传统的独立发展，关于自动机的争议转变为“西学中源”说的论证分化，支持者借以阐扬机械制器之学，反对者则从中体西用立场予以反对，洋务运动失败后相关讨论渐消[7] 数字时代面容风险与“无面者” - 核心观点：在数字时代，AI技术（如深度伪造）导致个体面容面临被掠取、变形和屏蔽的风险，使人成为对自身面容失去掌控的“无面者”，而“无面者”也通过展示真实面容、技术干扰及使用统一网络面具（如“momo”）等方式进行抵抗[2][8][12] - 面容被掠取：深度伪造技术（如AI换脸、语音模拟、人脸合成）的非法应用广泛，包括制作假色情、假新闻和进行金融欺诈，韩国在2024年发生了多起利用该技术制作性剥削影像的事件[9] - 面容被变形：面容变形主要发生在媒介再现层面，是晚期资本主义现实的一种寓言，电影视效技术（如《终结者2》中的液态金属机器人）强化了这种变形的视觉印象[10] - 面容被屏蔽：“屏蔽”作为一种系统性设计，使面容被遮挡或忽视，例如基于社交评分的视界系统（《黑镜：急转直下》）或内置“智能眼”的彻底屏蔽功能（《黑镜：白色圣诞》），导致个体被物化或无视[11] - “无面者”的抵抗：抵抗方式包括努力展示富有生机的真实面容、中止或破坏技术中介，以及通过将脸“面具化”来规避风险，例如在网络社区使用“momo”这类统一头像来隐藏身份、自由表达[12][13]

行业监管与立法趋势 - 当前针对人工智能侵权进行专门立法为时尚早 核心原因包括人工智能侵权的潜在风险总体可控 主要损害隐私、个人信息、知识产权等权利 未直接对个人生命财产安全造成现实重大侵害 以及技术发展日新月异 过早立法可能因滞后性妨碍技术发展 [3][4] - 应秉持“在发展中规范”的思路 以《民法典》《个人信息保护法》为基础 充分解释和用好现有规则 再通过案例积累和司法解释制定来应对侵权问题 [2][4] - 国际上存在两种核心监管模式 欧盟的“强监管模式”注重个人信息和隐私保护 设置多项合规义务 美国的“轻监管重利用”模式则合规义务较轻 主要通过侵权法处理侵害问题 [3] 侵权责任认定原则 - 人工智能侵权应适用“过错责任”原则 而非“无过错责任” 以避免对模型开发者、设计方、服务提供者施加过大风险 从而严重阻碍人工智能发展 [5] - 过错判断应以“违反注意义务”为核心 并遵循场景化原则 结合具体场景权衡风险防控成本与合理义务 [6] - 过错认定需考虑现有技术水平 对于技术无法克服的困境 如生成信息出现“幻觉” 可借鉴发展风险抗辩等规则 综合考量风险程度与防范成本 [6] - 需明确区分人工智能服务提供者与用户的过错 若损害主要由用户输入虚假信息诱导造成 则主要过错在用户 [6] - 建议类推适用《民法典》第1195条的避风港规则 服务提供者收到侵权通知后 未在合理期间采取合理措施的 才承担相应责任 [7] 个人信息与数据利用规范 - 对已公开个人信息的利用 应区分是否造成信息主体重大利益侵害 例如 收集已公开信息用于模型训练并进行匿名化处理 无需逐一取得同意 但将已公开个人信息打包出售则可能构成重大利益侵害 [8] - 对于已公开数据作品的处理 应区分输入与输出两个阶段 输入阶段 获取已公开作品数据用于训练可考虑纳入著作权法合理使用范畴 输出阶段 需确保输出结果多样化、模糊化 避免与他人作品内容雷同 [8] 深度伪造技术规范 - 深度伪造技术易被用于以假乱真、栽赃陷害 严重侵害他人权益 [9] - 建议依据《民法典》第1019条 禁止利用深度伪造技术侵害他人权益 关键在于充分解释该条款以应对相关问题 [2][9] 总体发展理念 - 需秉持“在发展中规范 在规范中发展”的监管理念 坚持审慎、包容、开放的态度 保障人工智能在安全、可靠、可控的前提下有序发展 营造鼓励创新的良好营商环境 [10]

韩国AI广告监管新规 - 韩国政府要求对使用AI技术制作的广告进行显著标识 相关法律修订后将于2026年年初正式实施 [1] - 新规旨在遏制社交媒体上利用深度伪造技术制造虚假专家或名人代言的欺骗性广告持续增加的不良趋势 [1] - 凡利用AI生成、编辑或上传的图片与视频广告均须标注“AI制作” 用户不得删除或篡改标签 平台需确保广告商遵守规定 [1] 监管措施与执法行动 - 韩国政府将全面加强对AI生成广告的筛查与清理 并对违规行为处以罚款 [1] - 监管机构需在24小时内完成违规广告审查 必要时可提前屏蔽有害广告 推行“紧急下架”机制 [2] - 韩国食品医药品安全处2024年共查处9.67万条食品及药品类非法在线广告 2025年前9个月已查处接近7万条 远高于2023年约5.9万条的水平 [1] AI技术滥用现状与风险 - 伪造专家及名人音视频推广减肥药、化妆品甚至非法赌博网站的广告在韩国多个社交媒体频繁出现 [1] - 此类广告对消费者构成直接风险 尤其是无法辨认AI的老年消费者 [1] - 韩国政府将推动更大范围的AI滥用治理 强化对利用深度伪造实施性剥削犯罪的惩处 [2] 广告行业现状与影响 - 韩国多家大型广告公司近期相继停业或进入重整程序 包括拥有25年历史的数字广告公司eMFORCE 以及跻身韩国前十的广告代理商D.BLENT [2] - 业内专家表示 广告业目前的困境主要源自经济低迷、消费萎缩、美元走强等因素引发的广告投资减少 并非AI本身造成的大规模冲击 [2] - AI客观上提高了广告制作效率 [2]

文章核心观点 - 人工智能技术正在颠覆成人娱乐行业，通过按需生成定制化内容，带来新的商业模式和市场增长，同时也对行业从业者、传统企业和社会伦理构成严峻挑战 [3][4] 行业历史与技术采纳 - 成人娱乐行业历来是新技术的早期试验场，从印刷机、录像带、互联网到人工智能均如此 [3] - 人工智能驱动的成人内容市场在2025年价值达到25亿美元，预计到2028年将以每年27%的速度增长 [3] 市场规模与商业模式 - 全球色情行业年收入近1000亿美元，是人工智能行业收入的两倍 [5] - 全球访问量前50的网站中有5个是色情网站 [5] - 订阅平台模式利润更高，例如OnlyFans在2024财年收入超过14亿美元，利润达5.2亿美元 [5] 人工智能技术应用与影响 - 人工智能能按需生成高度定制化的色情内容，其应用范围受限于想象力和模型限制 [8] - “裸体化”应用程序流行，在截至2024年5月的一年内，追踪的85个相关网站总收入达3600万美元，月访问量总计约1850万次 [9] - 2025年第一季度，十大最受欢迎的以“交友”为主题的人工智能伴侣网站访问量达7850万次，截至10月的三个月内流量是第一季度的三倍 [9] - 聊天机器人应用中，“性聊天”被认为拥有最强烈的用户需求、最容易实现和盈利 [9] 对从业者的影响 - 研究显示，参与者对被认为是AI生成的内容的性唤起程度低于被认为是真人生成的内容，但真人演员需求不会完全消失 [9] - 人工智能技术进步使得合成人脸比真人照片更易被误认为真实，增加了竞争难度 [10] - 知名色情明星面临深度伪造和未经授权使用其形象训练AI的风险，部分人选择授权肖像打造虚拟形象以延续职业生涯 [10] - 对于业余创作者，AI工具（如视频生成器、聊天机器人）大幅提升了生产力，将制作一段两分钟精良视频的时间从几天缩短到几小时，并降低了与粉丝互动的成本 [10] 对传统企业与平台的冲击 - 传统电影公司面临其视频内容被用于训练AI模型引发的版权诉讼，例如Strike 3 Holdings起诉Meta [11] - 平台面临是否允许AI生成内容的战略抉择：OnlyFans押注真实内容，而Fanvue等平台则宣传AI生成内容，新平台Vylit强调对AI内容的明确标注 [11][12] - 人工智能有望提升行业整体生产力，但也可能导致部分岗位流失 [12] 社会风险与监管挑战 - 人工智能被用于生成儿童性虐待内容，2025年前十个月的相关报告数量比2024年全年增加了一倍多 [14] - 深度伪造技术泛滥，制作一段深度伪造视频可能只需不到25分钟，近三分之一的女性和五分之一的男性担心自己成为目标 [16] - 深度伪造色情内容被用于网络诈骗和敲诈勒索 [18] - 监管尝试包括欧盟《人工智能法案》要求标记合成内容，美国《下架法案》禁止未经同意发布色情图片，丹麦计划赋予个人肖像版权，英国将授权测试AI模型以防模拟儿童性虐待 [18] - 行业自我监管压力增大，支付处理商（如万事达卡、维萨卡）的决策对行业有重大影响 [19]

AI深度伪造技术发展现状 - AI深度伪造技术已高度成熟，能够逼真模仿人物面部特征、口型变化、肌肉牵动及神态，实现以假乱真[4][35] - 技术门槛大幅降低，大量用户友好型应用程序和平台涌现，使深度伪造技术平民化、普及化[38] - 深度伪造技术利用深度学习算法，通过"喂给"目标人物图像和视频数据来捕捉并模仿个人特征[35] AI换脸侵权事件规模与范围 - 侵权范围覆盖明星、主持人、奥运冠军等公众人物，如温峥嵘、刘涛、张柏芝、刘晓庆、李梓萌、张伯礼院士、全红婵等均遭遇AI换脸[6][10][12][14][20] - 英伟达CEO黄仁勋的AI分身同步开启加密货币直播，吸引观众数量超过真人直播[16] - 普通人群成为新目标，青岛保时捷销冠牟女士被伪造不雅视频，韩国Deepfake事件涉及未成年人、教师、军人等广泛群体[26][30] AI换脸黑灰产业链特征 - 形成完整产业链，服务明码标价：换脸换声463元，只换声音228元，均可定制话术[41] - 黑产工具伪装成普通绘图软件，明确标注"可实现换头换衣功能"，并兜售诈骗软件和教程[41] - 数字内容生成扩散速度极快，每次转发分享都会模糊原始痕迹，增加追踪难度[38] 技术滥用带来的社会危害 - 被广泛用于带货诈骗，如假杨幂卖服装、假古天乐代言游戏、假全红婵销售土蜂蜜等[18][20][22] - 成为造谣工具，薛凯琪被编造恋情，泰勒·斯威夫特被生成虚假色情图片，雷军形象被篡改[24] - 针对普通人的精准诈骗升级，已出现伪装亲属视频借钱、冒充高管指令转账等案例，单笔诈骗金额最高达2亿港元[32][33] 监管与技术对抗困境 - 技术发展速度远超法律制定流程，监管存在明显滞后性[39] - 检测技术与伪造技术持续博弈，伪造技术快速进化导致检测技术始终处于落后状态[38] - 跨境执法面临挑战，韩国调查人员需要法院批准才能进入聊天室，但往往发现时犯罪窝点已消失[39]

事件概述 - YouTube平台出现利用深度伪造技术制作的英伟达CEO黄仁勋演讲直播，虚假直播浏览量一度达9.6万人次，超过真实直播浏览量1.2万人次的7倍 [2] - 在YouTube平台搜索"Nvidia gtc dc"演讲时，该虚假直播位列搜索结果首位 [5] - 该非法直播在首次被曝光约40分钟后被YouTube下架 [7] 虚假内容细节 - AI虚拟人声称有一个与“英伟达加速人类进步的使命直接相关”的加密货币普及活动作为惊喜 [8] - 伪造内容涉及英伟达硬件处理加密挖矿复杂运算、优化以太坊智能合约、推动Solana交易等 [8] - 假黄仁勋要求观众扫描屏幕二维码，诱使他们向所谓“英伟达推出的加密货币分发计划”转账 [8] 技术影响与行业背景 - 利用生成式AI伪造公众人物已变得异常简单，且效果逼真，假黄仁勋的语调虽不自然，但足以使部分观众轻信骗局 [8] - 此前网络上出现过AI生成的埃隆·马斯克声音推广加密货币骗局，以及Linus Tech Tips频道遭黑客攻击时假马斯克现身相关频道 [9] - 除加密货币骗局外，“名人换脸”色情片也是深度伪造技术的重灾区，涉及多位知名女明星 [9]

AI合成技术滥用现状 - 深度伪造及类似合成技术滥用已催生黑灰产[1] - 网购平台存在少量隐蔽销售的"AI换衣""AI换脸"类工具 价格从1 9元至15元不等[2] - 不法分子利用AI换脸换衣技术进行造谣诽谤甚至诈骗活动[3] 具体案例与执法情况 - 青岛保时捷销售中心员工因AI恶意合成虚假不雅视频已报警处理[1] - 贵阳一女子直播带货照片被AI合成裸照传播 涉案人员被行政拘留[2] 技术检测与监管挑战 - AI换脸换衣技术已相当成熟 可生成逼真视频图片[3] - 专业检测手段可通过分析光影效果 物体变形 元数据和像素模式来识别伪造[3] - AI技术快速进步使检测方法无法给出绝对结论 仅能作为参考[3] - 监管机构和平台正采取措施提高公众识别能力[3]

行业技术挑战 - 深度伪造技术快速发展，生成内容愈发逼真，导致换脸攻击、身份冒用和欺诈事件在全球范围内频发，严重威胁个人隐私和金融安全 [1] - 金融科技企业在海外地区开展业务时面临地域、人种、光照条件、图片质量等多重差异的复杂情况 [1] 技术应对与竞赛成果 - 第十届信也科技杯全球人工智能算法大赛核心命题为开发能精准识别真伪图像的算法，以应对跨国、跨场景的深伪攻击挑战 [1] - 冠军团队算法在跨域识别方面表现突出，在多元场景下均保持高准确率 [1] - 大赛数据集包含十万规模的人脸鉴伪图片，并引入由最新换脸技术生成的伪造样本，重点考察算法应对未知伪造手段的能力 [1] - 部分参赛队伍通过频域分析捕捉图片高频特征上的伪造痕迹，并结合统计特征差异设计针对性处理，显著提升识别效果 [2] 技术应用与未来展望 - 选手们的技术探索在真实业务中具有应用潜力，为深伪换脸检测提供了新的参考路径 [4] - 公司希望通过赛事持续推动创新探索，将优秀成果与业务场景结合，在动态图检测、跨场景泛化等方向持续迭代，构建金融安全防线 [4]