Workflow
AI深度伪造技术
icon
搜索文档
付鹏谈AI应用落地:预计在未来12-18个月内将引发行业级的范式转移
凤凰网财经· 2026-03-05 21:56
文章核心观点 - 知名经济学家付鹏在长白山论坛发表演讲,核心观点认为全球格局正经历深层重构,传统地缘政治逻辑因新生产力(尤其是AI)革命而失效,AI将在未来12-18个月内引发行业级范式转移,同时AI深度伪造等技术也带来了严峻的安全挑战,需要制度与法律跟进调整 [1][2][3][6][7][14] 全球格局与地缘政治重构 - 各国科技发展阶段与资本市场所处赛道不同,中美科技竞争呈现的产业生命周期特征存在明显区别 [3] - 全球格局正进行深层调整,涉及世界秩序、全球分工与分配模式,地缘政治关系正在调整,旧生产关系被打破、新生产关系建立的过程必然伴随巨大动荡 [3] - 新生产力与生产关系的变革正让传统地缘政治逻辑逐渐失效,过去的战争旨在争夺生产要素,但生产逻辑的巨变使这种争夺的意义受到质疑 [6] - 2026年世界地缘政治冲突将进入彻底重构阶段 [6] - 中美两国在旧有发展模式下均面临生产关系的错配问题,这是当前所有经济问题的根源,解决路径是让错配的生产关系暴露和出清 [6] AI生产力革命与行业影响 - 2026年是新时代重要转折点,AI引发的生产力革命将在未来5-10年(快则12-18个月左右)对所有行业生产关系进行破坏性重构,传统岗位和商业模式将面临重大冲击 [7] - 当前世界格局的核心变量聚焦于生产力、生产关系、世界制度和秩序三大维度,人工智能是新生产力的核心载体 [7] - 技术爆发的临界点已近在眼前,尽管当前一些应用(如老人用豆包查询)还不是真正意义上的人工智能 [8] - 生产力上游、技术上游的生产裂变已经足够,数据中心、算力中心等上游基础设施建设已经完成 [9] - 过去几年AI领域的大规模投资可类比2002、2003年中国的基建热潮,市场已经给出了有效答案 [10] - 任何行业都需要思考在新生产力下的商业模式 [11] - 汽车行业需要思考未来是否还有人买车、开车,FSD的普及和应用时代即将到来 [12] - 传媒方式、社交媒体沟通模式将迎来巨变,未来人与人的直接沟通可能减少,更多转向与AI交互以理解信息 [12] - 新的生产关系必然产生破坏,会先淘汰旧的,再进行替代,2026年将是这场变革中的“痛苦期”,旧生产关系出清后新的才会建立 [13] AI技术安全与制度挑战 - AI在带来生产力飞跃的同时,也暴露出技术滥用、伦理失范与安全风险,当技术跑在制度前面,风险便会先行显现 [14] - AI深度伪造技术已实现“以假乱真”,能完美模仿他人的声音、影像,甚至可能出现视频电话另一端不是真人的情况 [15] - 未来看到的音频、视频不一定是本人,AI伪造的逼真度已达到防不胜防的程度 [15] - 当新生产力在各行各业大规模应用时,制度、秩序、法律、法规都是落后的,需要根据新的生产关系进行重构调整 [15] - 法律需要明确规定对真人肖像、迪士尼角色等知识产权的保护,防止AI侵权 [15]
经纪人质疑平台放任AI周星驰侵权,“趣味狂欢”的背后技术的边界在哪?
扬子晚报网· 2026-02-10 19:25
AI生成内容侵权现象 - AI生成名人视频在短视频平台大量传播,涉及周星驰、王祖贤、沈腾、成龙、刘德华、邓超等多位明星,部分视频制作精良,以假乱真程度高,令网友难辨真伪 [1][3] - 部分AI生成视频被用于商业引流,例如挂购物外链或售卖AI教程 [3] - AI视频内容多样,包括将电影片段角色替换为小动物或婴儿进行搞笑娱乐,以及合成多位明星共同出演等场景 [3][5] AI技术能力与潜在风险 - 视频大模型如Sora(原文为Seedance2.0)能力强大,仅凭单张人物照片即可生成带有该人物声音和扩展场景的视频,效果逼真 [6] - 该技术能力引发对训练数据来源是否获得授权的争议,以及技术被滥用的担忧,相关公司已紧急暂停真人素材参考功能以进行优化 [6] - AI拜年视频在社交平台走红,中外各界名人形象被AI化使用,进一步加剧了侵权批评 [9] 法律侵权认定与危害 - 未经授权使用他人肖像、声音制作AI视频,构成对肖像权、声音权的侵害,即便非商用也需承担责任 [9] - 使用受版权保护的影视内容,涉及对复制权、改编权、信息网络传播权的侵害 [9] - 高度仿真的AI内容模糊真假边界,可能被用于造谣、诈骗,危害网络生态与社会秩序 [9][10] 行业责任与监管挑战 - AI深度伪造技术快速发展,导致侵权问题呈现泛滥化、多样化特点,危害已超出娱乐范畴,成为社会问题 [10] - 提供AI视频生成技术的平台与传播相关内容平台在应用与传播过程中需设立边界,不能对侵权现象放任不管 [1][10] - 技术的应用必须有底线,行业各方均需承担责任,共同应对AI技术滥用带来的挑战 [10]
AI伪造冒充泛滥,冲击数字时代信任体系
南方都市报· 2025-11-07 23:00
AI滥用现状与危害 - AI深度伪造技术泛滥,演员温峥嵘同时被AI克隆出现在三个不同直播间进行产品推广,其本人曾于今年4月声明维权但未能阻止侵权[2] - AI滥用已从公众人物蔓延至全人群,宁夏警方破获的AI换脸诈骗案中,骗子通过实时换脸伪造亲友视频实施诈骗[2] - 技术门槛极低,开源工具和消费级电脑即可完成实时换脸,甚至一张照片就能生成动态视频,导致侵权违法成本极低而维权成本居高不下[2] 对社会信任体系的冲击 - AI合成音视频的逼真度颠覆了“耳听为虚,眼见为实”的传统认知,本人也难以分辨,正在瓦解社会信任基础[2] - 危害超越个体权益,包括消费者因AI虚假代言误购劣质产品破坏市场诚信,AI医疗误诊等虚假信息威胁公众健康,虚假视频可能激化社会矛盾动摇公共秩序[2] - 形成“证明我是我”的数字时代荒诞命题,AI从服务工具异化为潜在侵权利器[2] 治理框架与解决方案 - 法治是根本保障,需强化《人工智能生成合成内容标识办法》等法规的刚性约束,细化追责条款提高违法成本,完善证据规则降低举证难度[3] - 平台需压实主体责任,落实AI内容标识义务建立全链条管控,对违规账号实施黑名单管理并追溯资金流向,加大技术研发投入推广防伪技术[3][4] - 公众需增强个人信息保护意识,非必要不泄露生物特征,学习基础辨伪技巧并通过权威平台溯源核实可疑内容[4]
【金融教育宣传周】防骗那些事儿丨AI深度伪造技术诈骗之亲属声纹诈骗
新浪基金· 2025-09-19 16:08
基金行业社会责任与投资者教育 - 基金行业正在开展2025金融教育宣传周活动 活动主题为“保障金融权益 助力美好生活” [1] 技术指标与市场表现 - 部分股票因MACD技术指标形成金叉信号而呈现不错的涨势 [4]
真相来了!网传“某医院院长客死他乡”系AI造谣
央视网· 2025-06-22 03:14
AI技术滥用案例 - 上海警方查处一起利用AI工具生成虚假医疗谣言的案件,涉及"华山医院前院长客死他乡"等不实信息,该谣言通过500余个自媒体账号发布10余万条不实信息,24小时内被大量传播[1][3][4] - 涉案自媒体工作室通过AI批量生成不实信息,控制500余个账号制造爆款内容获取流量,3名运营者已被采取刑事强制措施[4] - AI深度合成技术被用于仿冒名人带货,如仿冒张伯礼院士和张文宏主任的形象声音进行引流,误导消费者进入消费陷阱[6][10] AI技术滥用手段 - AI深度合成工具多为开源软件,使用门槛低,仅需5-10分钟即可完成仿冒视频制作,只需一段清晰的声音或视频素材[12] - 技术流程包括分析面部表情、手部动作和声纹,使用相应框架进行克隆识别和内容生成[12] - 部分自媒体通过向AI工具输入关键词自动生成文章,未经核实即发布以快速增加粉丝数量[3] 行业监管动态 - 国家网信办发布《人工智能生成合成内容标识办法》,将于9月1日施行,对AI生成内容提出刚性约束[15] - "清朗·整治AI技术滥用"专项行动第一阶段处置违规AI产品3500余款,清理违法信息96万余条,处置账号3700个[17] - 北京网信办建立"用户标记-平台核查-联合处置"工作模式,上海网信办推动标识要求落地,覆盖400余家企业[17] 平台治理措施 - 腾讯规范应用程序管理,提高准入门槛,驳回处置违规小程序等570余款[18] - 微博通过策略识别和用户举报累计处置违规内容4800余条,并公布典型案例[18] - 专家建议开源模型应强制添加无法去除的水印,在生成内容时长和清晰度上做限制[13]