Workflow
深度伪造
icon
搜索文档
东西问·北京文化论坛|邱章红:新技术浪潮如何重塑全球电影行业?
中国新闻网· 2025-09-28 21:32
技术对电影行业的影响 - 电影行业与技术密不可分 电影史就是一部技术革新史 每一次重大技术突破都深刻改变其形态、语言、观感体验及产业[4] - 新技术浪潮带来五方面深远影响:制作效率提升与成本优化 AI工具和虚拟制作技术显著缩短制作周期 创意潜能释放与创作民主化 AI技术降低高质量影视内容制作门槛 让更多创作者实现创意 IP运营与商业模式革新 原始IP以前所未有的速度和广度衍生各种形态内容 形成更强大的生态壁垒和更灵活的商业模式 人机协同成为新常态 人类创意、审美和情感洞察力与AI执行效率更紧密结合 行业竞争格局重塑 拥抱技术、善用"AI+IP"的公司有望获得巨大优势 或导致行业洗牌加速[5] - 中国电影人积极拥抱技术革新 从《流浪地球》系列宏大的科幻场景到《长安三万里》数字技术与国风美学的完美结合 证明技术正助力讲述更精彩的中国故事 推动中国电影走向更广阔的世界舞台[5] 人类在电影行业的不可替代性 - 人类不可替代性源于反思能力 优秀电影作品能引发深刻反思 人类创作始于"为什么" 或是想要表达的观点、探讨的问题、分享的感受[7] - 人类具有审美能力 AI可提供无数滤镜和风格 但最终哪个"更好""更对味"需要人类基于美学修养和创作意图决断[7] - 人类想象力是在"上限之上" 表现"从0到1"的原创力 AI想象力是在"上限之下" 擅长基于现有语料数据的"组合创新" 但难以实现真正的"元创新" 包括提出前所未有的概念、全新叙事范式或美学风格[7] - 人类具有领导力 电影是集体艺术的巅峰 导演核心工作不仅是做出个人艺术选择 更是激发整个团队创造力 引导向共同愿景 这种基于情感、信任和愿景的领导力是人类独有的[8] 人机协同关系 - 人与智能体将进入"共存共创"状态 智能体可注重剧本写作、图像生成与音乐创作、想象力、策划和创意等能力的训练 人类应注重原始创意、对智能体生成内容方向的约束和控制、对智能体生成结果审美判断等能力的培养[8] 电影行业新型伦理框架 - 新伦理框架需从创作、经济、社会和生态伦理四个维度构建 创作伦理方面 AI生成剧本、音乐、角色形象或镜头的著作权归属如何界定 经济伦理方面 AI大幅提高生产效率产生的利润增量应如何分配 社会伦理方面 当历史人物、新闻事件被逼真篡改和重新演绎时 社会如何信任影像作为历史记录的价值 生态伦理方面 训练大型AI模型需要巨大算力 消耗大量能源和水资源 产生可观碳足迹 如何确保可持续发展[10] - 电影是重要文化载体和大众情感记忆组成部分 行业须主动联合立法者、技术专家、伦理学家和公众 共同构建伦理"护栏" 确保技术在赋能艺术的同时不致脱轨 守护人类文化的丰富、真实与尊严[10] 技术对艺术教育的影响 - 技术浪潮重塑艺术教育的根基、路径和目标 传统"画架+画笔画一生"或"一台摄像机拍天下"的教育模式已无法应对新时代挑战[11] - 艺术教育需进行系统性变革 核心目标是培养手握利器、心怀慈悲的新一代创作者 精通技术 关注技术为何服务[11] - 艺术教育者需进化 更像是思维的启蒙者、项目的策动者和伦理的守护者 不必是所有技术专家 但必须是激发学生好奇心、引导跨学科整合、主持伦理辩论的"大师"[11] 技术工具破解文化差异壁垒 - 短剧已成为中国文化出海第一大主力 出海面临语言层面挑战 语言翻译准确性与审美传达失真 字幕与语音同步问题 文化层面挑战 价值观差异引发误读或抵触 文化符号存在本土性与"不可译性" 形式层面挑战 "快餐式"叙事结构与海外主流内容偏好冲突[13] - 破解文化差异壁垒需克服剧本叙事障碍与伦理适配问题 通过智能化创作平台对原始剧本进行语义解构、价值提炼及跨文化重写 构建基于地理围栏的动态文化禁忌数据库 基于GPS/IP定位匹配本地化规则 实现内容审核的本地化精准管控[13] - 需系统性解决文化适配、合规与正向引导等问题 才能更好面向全球市场[13]
报告:2025年全球网络安全人才缺口升至480万
中国新闻网· 2025-09-16 21:43
中新网北京9月16日电 (记者 刘育英)由工业和信息化部教育与考试中心、安恒信息、中国联合网络通信 有限公司软件研究院、全国数字安全行业产教融合共同体等机构联合编制的《AI时代网络安全产业人 才发展报告(2025)》16日发布,这是该报告连续第八年在国家网络安全宣传周发布。 报告援引ISC2与CyberSeek数据指出,2025年全球网络安全人才缺口升至480万,同比增长19%;其中美 国需求51.4万个在线岗位,实际填补率不足三分之二。 中国方面,截至2024年底全国持证在岗人员约32万。此外,头部集中效应明显:A股上市安全公司人均 年薪24万元人民币,高出非上市企业50%。"人往高处走"的现象更是导致中小机构招聘难、留人更难。 报告显示,在学历方面,本科仍是基准门槛(56.3%),硕士占比三年提升3.5个百分点至13.2%。报告还 显示"深度伪造、量子加密"等前沿场景对研究型人才的刚性需求逐步加大。 报告称,全国已有792所普通高校开设网络安全专业,占高校总数27.1%;其中65.9%已在2025年新增AI 安全课程,较去年跃升15个百分点。91.3%院校建成实训室,但"充足的实习实训项目"仅占52.4% ...
当AI大模型遇见人格权:海量数据训练下的侵权风险
北京日报客户端· 2025-09-06 08:54
人工智能发展现状 - 人工智能成为新一轮科技革命和产业变革的重要驱动力量 深刻改变生产方式、生活方式和社会治理模式 [1] - 人工智能大模型发展需要海量数据作为训练素材 其中蕴含个人信息权益侵害风险 [1] 已公开个人信息处理规范 - 人工智能大模型训练数据多来源于已公开数据 涉及大量已公开个人信息 [1] - 《个人信息保护法》第27条规定处理已公开个人信息需符合"合理范围"要求 若对个人权益有重大影响应取得同意 [1] - 生成式人工智能采用海量来源不明信息 难以适用知情同意规则 法律上弱化保护侧重利用 [1] 敏感个人信息保护机制 - 人工智能技术增强数据分析能力 对海量碎片化信息集中处理威胁敏感个人信息安全 [2] - 《个人信息保护法》对敏感个人信息采取严格保护措施 训练阶段需进行匿名化处理 [2] - ChatGPT曾出现技术漏洞导致用户信息泄露 需引入动态匿名化视角实施流程规制 [2] 运营阶段风险管控 - 生成式人工智能自动生成能力对个人隐私保护形成挑战 输出端需防止敏感信息泄露 [3] - 人工智能可能产出恶意虚假内容 若学习过程存在偏差可能构成诽谤或侮辱 [3] - 泄露的敏感信息可能被用于欺诈行为 导致信息主体被歧视和污名化 [3] 人格标识保护升级 - 人工智能技术可广泛收集个人声音等人格标识 进行深度伪造制作音视频 [3][4] - 韩国2024年深度伪造性剥削事件涉及未成年人 斯嘉丽·约翰逊指控OpenAI非法使用其声音 [4] - 任何人的声音都可能被侵害 需严格禁止通过深度伪造侵害人格权益 [4] 虚拟数字人权益界定 - 虚拟数字人行业进入高速成长期 商业化路径得到验证 量产成为可能 [5] - "中之人"扮演型虚拟数字人通过动作捕捉技术全面收集真人数据 定制虚拟形象 [5] - 侵权判定采取可识别性标准 分析训练过程与真人素材使用方式 [5] 新型人格权益保护 - 虚拟数字人成为真人"虚拟分身" 投射的人格权益可能超出肖像权范围 [6] - 使用真实个人信息训练AI陪伴者 构成对姓名权、肖像权及一般人格权的侵害 [6] - 虚拟形象是姓名、肖像、性格特征等综合而成的整体形象 需作为新型人格权益保护 [6]
视频「缺陷」变安全优势:蚂蚁数科新突破,主动式视频验证系统RollingEvidence
机器之心· 2025-08-26 12:11
技术突破与学术认可 - 蚂蚁数科AIoT技术团队关于主动式可信视频取证系统的论文被网络安全顶会USENIX Security 2025录用 录用率为17.1% [2] - 该系统利用相机卷帘门效应嵌入高维物理水印 结合AI技术与概率模型验证 显著提升检测准确率和安全防护能力 [2][4] 技术原理与创新设计 - 创新性利用CMOS摄像头卷帘快门效应的时域混叠特性 通过动态调节LED设备产生变频闪烁信号 以条纹模式嵌入视频帧 [6][9][12] - 采用带分隔频率的频移键控技术 使用16种频率构建4096种探针组合 实现紧凑的高维探针定义方案 [15] - 工作频率需保持在1/2Te以下以维持高对比度 分隔频率可提供足够强度(∝ 2Te/3)和更高对比度(∝ Te/3) [19][20] - 采用自回归随机编码模式 通过指数最小采样法生成随机序列 确保帧间关联性和加密密钥绑定 [23][24] 系统性能与验证效果 - 在静态场景检测中准确率达99.32%-99.84% 动态场景达99.31%-99.83% 总误拒率0.04% 误接受率0.53% [38] - 针对深度伪造攻击(SimSwap/E4S/LatentSync/SadTalker)的检测准确率均达100% 误拒率和误接受率均为0% [40][41] - 支持多品牌移动设备: iPhone 12(准确率94.52%) 小米15 Pro(96.43%) 华为Mate 60 Pro(97.55%) [42] - 去条纹视频生成效果优异 条纹提取精度通过MSE评估 去条纹效果通过SSIM衡量 [44] 应用场景与系统优势 - 可广泛应用于司法审判 公共安全 公证认证 身份核验及司法取证等关键场景 [6][46] - 系统能生成去条纹化视频版本 确保画面清晰可供人工查看 且无多帧持续条纹遮挡 [28] - 通过二阶段工作流程实现批量解码 采用深度神经网络提取条纹特征并解码探针信息 [27][28][30]
马斯克疯了?AI不拼技术拼脱衣
虎嗅· 2025-08-09 21:06
公司动态 - xAI推出新功能Grok Imagine,提供名为"Spicy"的火辣模式,可一键生成名人部分裸露视频[3][9] - Grok Imagine目前仅向每月支付30美元的SuperGrok和Premium+付费订阅用户开放[16] - 马斯克宣布向美国全部用户免费开放Grok Imagine功能,并增加了更强的审核机制[13][35] 产品特点 - Grok Imagine能够根据文本或图片生成图像和最长15秒的带音频视频[16] - 与其他AI工具不同,Grok Imagine专门提供生成带有性暗示或部分裸露内容的"Spicy"模式[18][24] - 生成速度快,几秒钟就能出图,用户界面流畅直观,但视频质量存在"恐怖谷"效应[41][42] 行业竞争 - 在AI领域营销竞争激烈,OpenAI、Anthropic、Google等公司都在发布新模型[14] - Grok通过提供"Spicy"模式这一突破性内容,试图在竞争中杀出一条血路[15][23] - 与Google Veo、OpenAI Sora等主流AI视频生成工具相比,Grok Imagine在产品设定上放开了对名人伪造和色情演绎的限制[11] 技术实现 - 用户可以通过选择一张正常图片,再使用"Spicy"视频模式,轻松绕过直接生成裸体图片的限制[30] - 年龄验证过于宽松,只需确认出生年份且不需任何证明[31] - 对名人的限制似乎是随机的,例如可以生成泰勒·斯威夫特的半裸视频,但对特朗普的图片生成有区别对待[32] 市场反应 - 媒体广泛报道后,xAI紧急收紧审核策略,现在使用"Spicy"模式生成不当内容时会提示"已被审核"[39][40] - 马斯克将Grok定位为"无限制"、"突破边界"的AI,相信突破性内容是吸引用户最快的燃料[23][43] - 该策略被认为是成功的,Grok Imagine在追求"最大乐趣"和快速传播方面表现出色[43]
暴力事件频出 美国政治极化撕裂民主外衣
中国青年报· 2025-07-16 08:02
美国政治极化与社会动荡 - 美国民主党和共和党在移民政策上分歧显著 共和党主张驱逐非法移民 而民主党主导的"深蓝州"强调保护移民权利[1] - 能源政策对立加剧 共和党推动化石能源开采以促进制造业回流 民主党则侧重清洁能源发展与绿色补贴[1] - 社会福利与税收政策激化阶级矛盾 特朗普减税法案削减医保等福利 主要使大企业和富人受益[2] 经济与社会结构性问题 - 美国贫富分化加剧 "劫贫济富"政策可能对经济产生长期负面影响[2] - 社会流动性衰退与政府信任流失 导致暴力事件频发 2024年国会警察局收到9400多起威胁事件 是10年前的两倍多[2] - 联邦政府将国会警察局预算增至8.33亿美元 较2020年4.64亿美元近乎翻倍 但未明确安保措施具体增资金额[2] 技术与信息生态影响 - 生成式AI被用于政治诋毁 可能加剧社会分歧和反政府情绪[3] - "信息茧房"与深度伪造技术放大极端内容 算法推送虚假信息直接激化社会矛盾[3] 政治体制演变趋势 - 政治学家调查显示 美国可能从自由民主滑向威权主义 行政权力扩张导致三权分立机制失灵[4][5] - 特朗普政府干预媒体报道和惩罚政治对手等行为 是政治极化的具体表现[5] - 经济不平等为民粹主义提供土壤 但两党均缺乏有效解决方案[5]
暑期诈骗分子盯上孩子的电话手表 这些“隐形威胁”要重点防范
央视新闻客户端· 2025-07-05 20:58
电信网络诈骗暑期风险 - 暑期学生上网时间增加 电信网络诈骗成为未成年人"隐形威胁" [1] - 海南海口调查显示半数以上小学生拥有电话手表 部分学生曾接到疑似诈骗电话或短信 [3] 电话手表安全隐患 - 电话手表绑定银行卡存在高风险 可能成为诈骗新目标 [5] - 不法分子通过弹出网页弹窗诱导下载App 进行大金额转账操作 [9] - 建议家长设置每日消费限额 开启账单提醒功能 定期检查删除陌生App [11] 校园反诈教育措施 - 学校将防诈知识融入课堂 采用情景剧模拟陌生人借用手表场景 [5] - 创新教学方法应对AI换声等新型诈骗 建议设置家庭暗号验证身份 [7][9] - 通过真实案例分享强化学生"护卡"意识 检查电话卡槽异常痕迹 [9] 家长防范建议 - 调整电话手表功能设置 加强风险提醒和反诈意识培养 [3] - 避免点击陌生链接和中奖信息 消除占便宜心理 [7] - 根据日常活动安排设置禁用时间段 监控手表端消费行为 [11]
事关重要科技!中国和欧洲双方达成共识
新浪财经· 2025-06-29 03:24
AI技术滥用问题 - 深度伪造技术泛滥,仅需几千元电脑和免费开源软件即可伪造面容和声音 [1] - 韩国案例显示80%深度伪造受害者是普通女性,其中60%为未成年人 [3] - 美国校园中深度伪造问题如病毒般肆虐,已促使总统签署打击法案 [6] - 伪造视频多发布在境外服务器,网络平台以"言论自由"为由拒绝监管,导致取证困难 [7] - 英国案例显示一男子盗取20名女子照片合成数百淫秽内容,仅因操作失误才被抓获 [7] AI引发的社会问题 - 生成式AI训练数据获取环节存在非法交易和暗网爬取等乱象 [8] - 算法推送机制导致未成年人沉迷网络,引发家庭关系疏离和心理问题 [8] - AI聊天模型可能向未成年人推送自残等有害内容 [8] - 西方媒体滥用AI算法推送机制,导致新闻道德操守下滑 [10] - AI技术在美国固化对非裔群体的系统性歧视 [12] 国际合作与治理 - 中欧学者在马德里达成六项合作共识,包括技术向善、安全、共享等 [21][23] - 中国在医疗、教育、司法等领域应用AI技术造福基层和偏远地区 [13] - 中国团队7小时内开发中缅英多语言互译系统助力缅甸地震救援 [13] - 中国向低收入国家开放算力资源并提供人才培训 [13] - 欧洲学者呼吁与中国开展真正合作,允许中国AI企业进入欧洲市场 [19] 中国AI治理模式 - 通过法规为算法和生成式AI划定合法运营框架与红线 [13] - 数字法院建设推动不同地区民众平等享有司法资源 [15] - 国家主导数据基础设施建设避免私营部门垄断 [15] - "以人民为中心"的治理哲学获得欧方学者高度认可 [13][17] - 中国模式被视为既能激励创新又能促进公平包容社会 [15] 中欧合作前景 - 欧方学者普遍认为欧洲应与中国在AI领域密切合作 [17] - 匈牙利学者指出中欧治理路径存在互补性 [19] - 葡萄牙学者建议将中国视为合作伙伴而非威胁 [19] - 瑞典学者呼吁中欧增进互信合作而非强加价值观 [19] - 会议最终达成技术向善、安全、共享等六项共识 [21]
刚立法打击深伪,第一夫人就亲推AI有声书
金十数据· 2025-05-23 15:43
AI有声书发布 - 美国第一夫人梅拉尼娅·特朗普推出AI合成其本人声音的有声书 时长7小时 售价25美元 [1] - 有声书官网称该作品为"AI合成的梅拉尼娅·特朗普声音复制品" 并在其指导下创建 [1] - 计划2025年推出多种外语版本 [1] 实体书与商业活动 - 2023年10月推出回忆录实体版 签名收藏版采用高档艺术纸印刷 售价150美元 [2] - 与亚马逊合作拍摄纪录片系列 合同金额达数千万美元 [3] 立法与公开立场 - 推动"Take It Down Act"法案 将深度伪造和报复性色情列为联邦犯罪行为 [1] - 2024年3月以个人身份支持该法案 谴责深度伪造等恶意网络内容 [2] 公众形象与商业策略 - 自2021年以来保持低调公众形象 但持续策划商业项目 [2] - 通过限量高价版实体书与AI有声书形成产品矩阵 覆盖不同价格区间 [1][2]
香港金管局及数码港推出第二期GenA.I.沙盒计划 为金融业人工智能创新提速
智通财经网· 2025-04-28 18:54
香港金管局推出第二期GenA.I.沙盒计划 - 香港金管局与数码港联合推出第二期生成式人工智能(GenA.I.)沙盒计划,旨在为银行提供风险可控的环境以开发和测试A.I.创新解决方案 [1] - 第二期计划将新增"GenA.I.沙盒协创实验室",通过实务工作坊促进银行与科技供应商的早期对接,推动问题陈述转化为实际用例 [1] - 计划将专题探讨利用A.I.对抗深度伪造诈骗的威胁 [1] 计划重点方向 - 第二期计划将重点关注加强风险管理、反诈骗措施和提升客户体验的用例 [1] - 鼓励银行将A.I.技术整合至风险管理第二及第三道防线,在获得A.I.发展裨益的同时应对相关风险 [2] - 计划特别强调探索"以A.I.对抗A.I."的可能性 [2] 市场反响与活动背景 - 第一期沙盒计划获得业界积极响应 [1] - 计划在第五届FiNETech活动中宣布,该活动汇聚了逾150名来自银行和科技领域的A.I.专业人士 [2]