Workflow
AI换脸
icon
搜索文档
联想展示AI换脸防诈技术
新华财经· 2025-04-17 16:09
文章核心观点 AI换脸诈骗成网络安全挑战,联想将推“Deepfake深度伪造技术检测器”应对,该技术准确率高、应用场景广且算法高效,能保护个人和企业安全,联想期待与更多伙伴筑数字安全防线 [2][4][5] 分组1:技术背景 - AI和大模型技术发展带来便利变革,但AI技术滥用产生新安全威胁,AI换脸诈骗成网络安全挑战 [2] - 联想将推出“Deepfake深度伪造技术检测器”应对AI换脸等恶意应用威胁 [2] 分组2:技术特性 - 检测器基于DeepSeek开源大模型构建,可部署在AI PC本地运行,强化个人数据和隐私安全保护 [3] - 研发团队持续探索AI生成内容识别与防范技术,优化算法和模型,打造高效可靠AI反诈工具 [3] - 检测器准确率高达96%,能精准识别各种Deepfake换脸伪造,遏制AI欺诈蔓延 [2] - Deepfake检测算法高效,能在5秒内对图像或视频快速检测,实现自动化分析和实时反馈 [4] 分组3:应用场景 - 在线视频会议中,系统实时检测参会人员视频,发现疑似AI伪造立即提示用户,增强会议安全性 [4] - 社交媒体浏览时,自动扫描视频内容,标记疑似AI换脸视频,助用户辨识真伪,维护平台生态 [4] - 使用AI PC时,系统实时感知AI换脸安全风险并预警,为用户提供全方位安全保护 [4] 分组4:企业价值 - 技术助企业营造公平安全商业环境,准确识别AI换脸伪造,防范商业诈骗、保护机密、降低运营风险 [4] 分组5:合作与愿景 - 四川省反诈中心、腾讯云、奇安信等机构和厂商加入联想AI反诈倡议 [3] - 联想全球安全实验室团队基于DeepSeek开源大模型打造“AI照妖镜”揪出AI生成内容 [5] - 联想期待与更多技术合作伙伴为数字世界筑安全防线,让AI照亮生活 [5]
短剧演员“偷走”迪丽热巴的脸?行业人士:扰乱市场,抵制“偷奸耍滑”
每日经济新闻· 2025-04-12 11:03
文章核心观点 网友质疑某短剧利用AI技术将女演员脸换为迪丽热巴的脸,该事件引发广泛关注,行业人士抵制此类行为,律师称若属实涉事方或触法律红线,AI换脸技术在影视领域的滥用需多维度约束 [1][6][9][10] 事件概述 - 网友刷短剧时发现女演员脸疑似AI换脸迪丽热巴,录屏发至社交平台引发关注,4月11日短剧疑似AI换脸热巴登上热搜 [6] - 记者通过网友录屏剪辑片段看到女演员面容复刻迪丽热巴,嘴型抖动、不同角度特写面部有差异,网友认为是AI换脸,但暂无官方声明证实 [6] - 短剧被多家“剧场”播出,部分剧场已下架该剧或删除涉事一集,剧场称从版权方拿来未改动,不清楚是否使用AI换脸 [3][7] - 记者采访迪丽热巴方面未获回复,近期还出现多个疑似明星相关AI合成技术滥用情况,如特效师换脸杨洋被封号 [4][7] 行业影响 - 《中国网络视听发展研究报告(2025)》显示2024年微短剧市场规模达504.4亿元,用户数量达6.62亿,预计2027年市场规模将突破千亿元 [9] - 行业竞争加剧,“短剧疑似AI换脸热巴”事件暴露有人借助AI技术扰乱影视行业,影响短剧市场发展,需从源头调整规范 [9] - 有不错的演员想出演短剧,行业应多给新人机会,抵制未经授权使用AI换脸技术“植入”明星脸的行为 [9] 法律风险 - 若短剧AI换脸迪丽热巴属实且未经授权,涉事方至少存在侵犯隐私权、构成不正当竞争及广告欺诈两项违法风险 [10] - 从影视剧市场和行业角度,会引发观众质疑反感、降低行业诚信度,可能造成行业间互相模仿、加剧技术滥用 [10] - 制作方、技术提供方、播出平台等需承担相关责任,包括民事责任如赔偿经济损失等,行政责任可能构成虚假广告罪或诈骗罪等刑事犯罪 [10] 约束建议 - AI换脸黑灰产处花1280元可买明星脸,低成本诱惑造成技术滥用,会引起行业恶性竞争、挤压优质作品生存空间 [13] - AI换脸技术在影视领域的滥用需通过法律、行业规范和技术伦理多维度约束,短期强化内容审核与侵权追责,长期推动技术透明化与宣传普及 [13]
霸榜315的「最强反派」,还在逍遥法外
36氪· 2025-03-17 17:07
文章核心观点 当AI成为骚扰电话帮凶,人类需学会驾驭AI,可从源头切断产业链及用AI对抗AI来治理骚扰电话 [2][65] 315晚会曝光问题 - 女性卫生巾存在从垃圾堆挑“二等品”翻新高价售卖、蟑螂车间徒手加工且原料含虫卵烟蒂问题,利润翻20倍 [4][5] - 啄木鸟平台作为国内最大家电维修平台,存在无病乱修、小病大修现象,换成本20元点火器收费250元 [6][7] - AI外呼公司宣称处于外呼智能机器人技术第一梯队,能让AI机器人一次打100个电话,一天打10万通,还能隐藏地址匹配当地号码,曾服务企业超5000家 [9][10][11] 骚扰电话现状 - 年轻人因边界感、工作压力及骚扰电话,产生电话恐惧症,小红书相关笔记达几十万篇,人们采取多种方式减少接电话 [15][16][18] - 骚扰电话精准,如买房后装修电话即来、保险续费前推销电话就到,拉黑也防不胜防 [20] - 2022年315曝光融营通信为电销公司搭建外呼系统,可隐藏主叫号码、规避检测,每分钟收费1毛,年话费收入上亿,超2万家客户买单 [21][22] - 美国骚扰诈骗电话占比从2017年的3.7%飙升到2018年的29.2%,2018年11月接到57亿个骚扰电话,2019年收到约600亿个垃圾电话 [24][25] - 2020年“360手机先赔”接到手机诈骗举报2656起,涉案总金额1520.2万元,人均损失11345元,高发区为金融理财等 [27][28] AI外呼特点 - 成本极低、效率极高,系统“无休”“精准”,靠预设话术和关键词触发机制完成全流程,如站优云为口腔诊所“AI盲打”,第三方以每条100元出售市民信息 [31][33][38] - 以假乱真,能讲方言,用真人录音语音包和自然语言处理技术,让用户难辨人机,还能形成“心理操控闭环”,如AI用雷军声音吐槽、伪造拜登声音干扰选举、AI伪装老板讲德国腔英文骗钱 [40][41][48] 骚扰电话治理措施 - 从源头切断产业链,如13部门印发方案整治骚扰电话,需解决电销机器人买卖问题 [57][58][60] - 用AI对抗AI,科大讯飞、阿里推出抗骚扰机器人,阿里“二哈”以毒攻毒,国家反诈中心APP自动标记高危号码、实时弹窗提醒 [61][62][63]
连上两个热搜!雷军回应“国庆7天AI雷军骂了8天”,还称小米被造谣致股价下跌!怎么办?他也给出建议
新浪财经· 2025-03-10 08:41
雷军又上热搜了! 他表示,这两年人工智能技术快速突破以后,出现了很多老百姓喜闻乐见的应用,比如AI换 脸、拟声等,但任何一个人的脸和声音都能轻松被用来做各种视频,成了新的违法重灾区。 雷军结合自身经历说:"去年'十一',有网友说过了7天假,被我整整骂了8天,刚开始我觉得网 民拿我开涮我也能接受。但这类内容增多且质量低劣,多到不得了的时候,防不胜防,网友也 纷纷投诉。" 雷军表示,当他想通过法律维权时,却发现对此没有专门的立法,只能用隐私权、肖像权、名 誉权等法律起诉,而这些都要量化损失。"在网上被骂8天,损失根本没法量化。"雷军说。 雷军在发言中呼吁,人工智能技术兴起以后产生了很多新问题,相关部门要提前预判,提前立 法。 在部分社交平台上发现,有关"AI语音雷军"骂人的短视频依然存在。 这一次是因为雷军吐槽去年国庆时曾遭"AI语音雷军"的恶搞,导致不少网友称国庆有7天假, 却被"AI语音雷军"整整骂了8天。 另一个热搜是雷军表示,小米曾遭造谣被证监会调查导致股价下跌。 对于这两件事,搜寻相关社交平台发现,目前不少相关信息依然存在。 雷军发声:本人也曾是"受害者" 3月8日下午,十四届全国人大三次会议北京市代表 ...
连骂8天!被造谣导致股价下跌……雷军,又上热搜!
证券时报· 2025-03-09 13:14
雷军遭遇AI侵权事件 - 雷军吐槽去年国庆期间遭"AI语音雷军"恶搞,网友称被骂8天,引发广泛关注[1][5] - 相关低质量AI换脸拟声内容持续泛滥,导致雷军本人困扰且难以通过现有法律量化维权损失[5][6] - 社交平台上仍存在大量"AI语音雷军"骂人短视频,雷军虽澄清但仍强调AI技术的实用性[6] 小米公司被造谣事件 - 市场曾传言小米产业链IPO受限,导致股价异常波动[2] - 证监会明确辟谣称未出台任何限制政策,强调依法公平对待各类企业[8] 雷军关于AI治理的两会建议 立法层面 - 指出当前AI换脸拟声治理存在立法位阶低、法规分散、部门职责交叉等问题[9][10] - 建议推出人工智能单行法,明确应用边界红线并加大刑事处罚力度[10][11] 行业共治 - 提出需压实软件服务方、内容平台等全链条主体责任[11] - 鼓励开发AI内容识别技术,优化平台审核及举报机制,推动跨境合作[11][12] 公众教育 - 强调青少年和老年人是AI侵权高危人群,需加强法制宣传[12] - 建议中小学教材加入AI伦理内容,针对老年群体开展数字素养普及[12] AI技术发展现状 - AI深度合成技术已广泛应用于影视、广告等领域,但滥用导致肖像权侵犯、诈骗等案件激增[9] - 技术门槛低、侵权隐蔽性强等特点给治理带来显著挑战[9][11]
冲上热搜!雷军回应,曾是受害者!
21世纪经济报道· 2025-03-09 12:29
人工智能技术治理 - 人工智能技术快速突破后,AI换脸、拟声等应用成为新的违法重灾区,侵犯肖像权、个人信息及诈骗等犯罪行为频发 [2][5] - AI深度合成技术素材获取便利、使用门槛低、侵权手段隐蔽性强,给治理带来较大挑战 [5] - 需要加强防范和监管,同时为新技术创造安全的成长空间 [5] 小米集团战略与研发 - 公司长期发展战略为人、车、家全生态,将大规模投入底层核心技术,目标成为全球新一代硬核科技领导者 [7] - 过去五年研发经费投入达1050亿元,推动公司业务发生重大变化 [8] - 小米SU7 ultra豪华车型定价529900元,发布三天锁单量超1万辆,远超预期 [8] 新能源汽车行业 - 中国新能源汽车时代及国产品牌全面崛起的时代已经来临 [8] - 小米汽车计划2027年开始海外销售,2025年MWC展首次在海外展示SU7 ultra车型 [8] - 公司股价年初以来上涨57%,市值达1.3万亿港元 [9]
“喜欢我的观众被AI骗得好惨!”靳东回应,多位代表委员建议……
凤凰网财经· 2025-03-06 22:45
AI换脸诈骗问题 - 全国政协委员靳东指出AI换脸视频诈骗性质恶劣,呼吁建立更好的规则[1] - 全国人大代表雷军提到"AI换脸拟声"技术已成为违法侵权重灾区[3] 典型案例 - 2024年国庆期间出现大量"雷军AI配音"恶搞视频,包含不雅内容[4] - 2024年11月江西老人被AI换脸"假靳东"诈骗200万元[6] - 2020年已有"假靳东"案例,2025年3月出现仿冒刘晓庆的AI视频[8] - 线上游戏平台利用AI技术伪造古天乐、林峯的赌博代言宣传片[10] 行业建议与对策 - 美的集团副总裁钟铮指出AI生成内容在版权归属、侵权认定等方面存在法律空白[13] - 雷军建议加快AI立法,明确应用边界红线,完善侵权证据规则,加大刑事处罚力度[13] - 周世虹委员建议将生成式AI纳入专项立法,建立多部门联动监管体系[13] - 刘庆峰代表建议研发AIGC鉴伪技术,提供幻觉信息检测工具[13] - 律师建议完善法律法规,强化平台监管责任,提高公众防范意识[13]
【防骗】眼见不一定为实 警惕AI换脸诈骗
中国建设银行· 2025-03-06 15:02
中国建设银行反诈骗提示 - 核心观点:通过模拟AI换脸诈骗案例,强调视频通话中身份核实的重要性,并提供防诈骗指导[1][15][17][19][21] 诈骗案例细节 - 诈骗手法:盗用女儿账号后使用AI换脸技术伪造视频通话,以滑雪骨折急需手术费为由索要2万元转账[5][12][14] - 异常特征:视频中"女儿"表情僵硬、语言逻辑混乱,且催促紧急转账[6][11][19] 建设银行防诈骗措施 - 核实身份:建议通过电话等可靠渠道二次确认亲友身份,不轻信单一视频来源[17][21] - 风险识别:提示用户关注视频通话中的异常行为(如表情不自然),此类情况应立即终止交易并报警[19][21] - 客服支持:提供95533客服热线及官网(www.ccb.cn)作为咨询渠道[22] 消费者教育 - 资金保护:强调银行在交易安全中的主动防护角色,同步开展消费者权益保护教育活动[21][22]
雷军发声
21世纪经济报道· 2025-03-04 13:53
新能源汽车与自动驾驶 - 汽车产业已进入智能化高级阶段,高阶智能驾驶成为全球竞争关键领域,我国在关键技术研发上处于全球并跑位置,但量产应用环节存在阻碍 [3] - 建议2025年建立跨区域、跨省份的自动驾驶测试互认机制,2026年实现高速快速路和城市自动驾驶功能量产应用 [3] - 建议2026年前设立自动驾驶专属保险(交强险、商业险等),降低推广门槛并加强宣传教育规范用词 [3] - 建议加快建设全国性自动驾驶法律体系及统一标准体系,明确合法上路身份 [3] 智能网联汽车生态 - 智能网联新能源汽车作为移动智能空间,需完善生态体系支撑,当前充电桩、车载硬件等存在提升空间 [4] - 建议推动充电设施互联互通,制定统一超充技术标准,优先推进核心商圈和高速公路的大功率快充桩建设 [5] - 建议开展车载硬件技术协议标准化建设,制定接口标准和通讯协议规范,提升跨品牌适配度 [5] - 鼓励车企开放智能生态,借鉴智能家居模式推进车联网技术标准统一 [5] 新能源汽车号牌优化 - 现有绿色号牌与多元化车体颜色兼容性不佳,制约外观设计突破 [6] - 建议重启号牌式样调研并公开征求意见,内置交通信息卡功能,增加二维码查询功能 [6] - 建议在汽车产业领先城市试点新号牌并设置用户反馈渠道 [6] 人工智能终端产业 - 人工智能终端是新一代AI重要载体,正从智能手机、汽车向家居、机器人等领域拓展,但存在技术瓶颈和产业协同不足问题 [8] - 建议2027年初步建成AI终端标准体系,2030年形成全球领先标准,推进优秀产品遴选 [8] - 建议强化产业协作,2030年前形成2-3类统一操作系统平台,促进百亿级终端应用互通 [9] - 建议加大研发专项支持,2030年建成全球一流竞争力的智能终端生态 [9] AI技术滥用治理 - AI换脸拟声技术因素材获取便利、门槛低、隐蔽性强导致侵权治理困难 [10] - 建议探索推出AI单行法,明确应用边界红线,完善侵权证据规则并加大刑事处罚力度 [10] - 建议平台开发AI内容识别技术,优化审核和举报机制,阻断问题内容传播 [11] - 建议加强AI法制教育,在中小学教材加入伦理内容,社区普及知识以构建"智能向善"生态 [11]