AI换脸拟声

搜索文档
霸榜315的「最强反派」,还在逍遥法外
36氪· 2025-03-17 17:07
文章核心观点 当AI成为骚扰电话帮凶,人类需学会驾驭AI,可从源头切断产业链及用AI对抗AI来治理骚扰电话 [2][65] 315晚会曝光问题 - 女性卫生巾存在从垃圾堆挑“二等品”翻新高价售卖、蟑螂车间徒手加工且原料含虫卵烟蒂问题,利润翻20倍 [4][5] - 啄木鸟平台作为国内最大家电维修平台,存在无病乱修、小病大修现象,换成本20元点火器收费250元 [6][7] - AI外呼公司宣称处于外呼智能机器人技术第一梯队,能让AI机器人一次打100个电话,一天打10万通,还能隐藏地址匹配当地号码,曾服务企业超5000家 [9][10][11] 骚扰电话现状 - 年轻人因边界感、工作压力及骚扰电话,产生电话恐惧症,小红书相关笔记达几十万篇,人们采取多种方式减少接电话 [15][16][18] - 骚扰电话精准,如买房后装修电话即来、保险续费前推销电话就到,拉黑也防不胜防 [20] - 2022年315曝光融营通信为电销公司搭建外呼系统,可隐藏主叫号码、规避检测,每分钟收费1毛,年话费收入上亿,超2万家客户买单 [21][22] - 美国骚扰诈骗电话占比从2017年的3.7%飙升到2018年的29.2%,2018年11月接到57亿个骚扰电话,2019年收到约600亿个垃圾电话 [24][25] - 2020年“360手机先赔”接到手机诈骗举报2656起,涉案总金额1520.2万元,人均损失11345元,高发区为金融理财等 [27][28] AI外呼特点 - 成本极低、效率极高,系统“无休”“精准”,靠预设话术和关键词触发机制完成全流程,如站优云为口腔诊所“AI盲打”,第三方以每条100元出售市民信息 [31][33][38] - 以假乱真,能讲方言,用真人录音语音包和自然语言处理技术,让用户难辨人机,还能形成“心理操控闭环”,如AI用雷军声音吐槽、伪造拜登声音干扰选举、AI伪装老板讲德国腔英文骗钱 [40][41][48] 骚扰电话治理措施 - 从源头切断产业链,如13部门印发方案整治骚扰电话,需解决电销机器人买卖问题 [57][58][60] - 用AI对抗AI,科大讯飞、阿里推出抗骚扰机器人,阿里“二哈”以毒攻毒,国家反诈中心APP自动标记高危号码、实时弹窗提醒 [61][62][63]
连上两个热搜!雷军回应“国庆7天AI雷军骂了8天”,还称小米被造谣致股价下跌!怎么办?他也给出建议
新浪财经· 2025-03-10 08:41
雷军遭遇AI侵权事件 - 雷军吐槽去年国庆期间遭"AI语音雷军"恶搞,导致网友称被骂8天 [1][4][7] - 相关侵权内容在社交平台依然大量存在,质量低劣且防不胜防 [3][7][8] - 雷军表示维权困难,因现行法律需量化损失而网络侵权难以计算 [7][9] 小米公司被造谣事件 - 雷军透露小米曾遭造谣被证监会调查,导致股价单日下跌8% [2][9] - 公司难以适用诽谤罪等法律条款维权,因损失举证门槛过高 [9] - 现有法律对网络造谣和水军行为打击力度不足 [9][11] AI技术滥用现状 - AI换脸拟声技术已成为违法侵权重灾区,易引发肖像权侵犯等犯罪行为 [6][12] - 技术素材获取便利、使用门槛低、侵权手段隐蔽给治理带来挑战 [12] - 青少年和老年人成为主要受害群体,影响身心健康和财产安全 [15] 立法建议 - 建议加快人工智能单行法立法,明确应用边界和处罚力度 [13] - 需提高立法位阶,完善侵权证据规则,加强刑事处罚 [13] - 现行法规存在效力位阶偏低、内容分散、部门职责交叉等问题 [13] 行业治理建议 - 建议平台企业开发AI内容识别技术,优化审核举报机制 [14] - 鼓励行业自律公约和跨境合作,形成可复制治理经验 [14] - 需加强跨区域跨部门协调,实现全链条治理 [14] 公众教育建议 - 建议加强法制宣传,引导公众通过正规渠道举报侵权 [15] - 需提升用户数字素养,开展"破绽识别"技巧宣传 [15] - 中小学应加入AI伦理课程,针对老年群体开展普及活动 [15]
连骂8天!被造谣导致股价下跌……雷军,又上热搜!
证券时报· 2025-03-09 13:14
雷军遭遇AI侵权事件 - 雷军吐槽去年国庆期间遭"AI语音雷军"恶搞,网友称被骂8天,引发广泛关注[1][5] - 相关低质量AI换脸拟声内容持续泛滥,导致雷军本人困扰且难以通过现有法律量化维权损失[5][6] - 社交平台上仍存在大量"AI语音雷军"骂人短视频,雷军虽澄清但仍强调AI技术的实用性[6] 小米公司被造谣事件 - 市场曾传言小米产业链IPO受限,导致股价异常波动[2] - 证监会明确辟谣称未出台任何限制政策,强调依法公平对待各类企业[8] 雷军关于AI治理的两会建议 立法层面 - 指出当前AI换脸拟声治理存在立法位阶低、法规分散、部门职责交叉等问题[9][10] - 建议推出人工智能单行法,明确应用边界红线并加大刑事处罚力度[10][11] 行业共治 - 提出需压实软件服务方、内容平台等全链条主体责任[11] - 鼓励开发AI内容识别技术,优化平台审核及举报机制,推动跨境合作[11][12] 公众教育 - 强调青少年和老年人是AI侵权高危人群,需加强法制宣传[12] - 建议中小学教材加入AI伦理内容,针对老年群体开展数字素养普及[12] AI技术发展现状 - AI深度合成技术已广泛应用于影视、广告等领域,但滥用导致肖像权侵犯、诈骗等案件激增[9] - 技术门槛低、侵权隐蔽性强等特点给治理带来显著挑战[9][11]
冲上热搜!雷军回应,曾是受害者!
21世纪经济报道· 2025-03-09 12:29
人工智能技术治理 - 人工智能技术快速突破后,AI换脸、拟声等应用成为新的违法重灾区,侵犯肖像权、个人信息及诈骗等犯罪行为频发 [2][5] - AI深度合成技术素材获取便利、使用门槛低、侵权手段隐蔽性强,给治理带来较大挑战 [5] - 需要加强防范和监管,同时为新技术创造安全的成长空间 [5] 小米集团战略与研发 - 公司长期发展战略为人、车、家全生态,将大规模投入底层核心技术,目标成为全球新一代硬核科技领导者 [7] - 过去五年研发经费投入达1050亿元,推动公司业务发生重大变化 [8] - 小米SU7 ultra豪华车型定价529900元,发布三天锁单量超1万辆,远超预期 [8] 新能源汽车行业 - 中国新能源汽车时代及国产品牌全面崛起的时代已经来临 [8] - 小米汽车计划2027年开始海外销售,2025年MWC展首次在海外展示SU7 ultra车型 [8] - 公司股价年初以来上涨57%,市值达1.3万亿港元 [9]
“喜欢我的观众被AI骗得好惨!”靳东回应,多位代表委员建议……
凤凰网财经· 2025-03-06 22:45
AI换脸诈骗问题 - 全国政协委员靳东指出AI换脸视频诈骗性质恶劣,呼吁建立更好的规则[1] - 全国人大代表雷军提到"AI换脸拟声"技术已成为违法侵权重灾区[3] 典型案例 - 2024年国庆期间出现大量"雷军AI配音"恶搞视频,包含不雅内容[4] - 2024年11月江西老人被AI换脸"假靳东"诈骗200万元[6] - 2020年已有"假靳东"案例,2025年3月出现仿冒刘晓庆的AI视频[8] - 线上游戏平台利用AI技术伪造古天乐、林峯的赌博代言宣传片[10] 行业建议与对策 - 美的集团副总裁钟铮指出AI生成内容在版权归属、侵权认定等方面存在法律空白[13] - 雷军建议加快AI立法,明确应用边界红线,完善侵权证据规则,加大刑事处罚力度[13] - 周世虹委员建议将生成式AI纳入专项立法,建立多部门联动监管体系[13] - 刘庆峰代表建议研发AIGC鉴伪技术,提供幻觉信息检测工具[13] - 律师建议完善法律法规,强化平台监管责任,提高公众防范意识[13]