AI换脸拟声

搜索文档
霸榜315的「最强反派」,还在逍遥法外
36氪· 2025-03-17 17:07
文章核心观点 当AI成为骚扰电话帮凶,人类需学会驾驭AI,可从源头切断产业链及用AI对抗AI来治理骚扰电话 [2][65] 315晚会曝光问题 - 女性卫生巾存在从垃圾堆挑“二等品”翻新高价售卖、蟑螂车间徒手加工且原料含虫卵烟蒂问题,利润翻20倍 [4][5] - 啄木鸟平台作为国内最大家电维修平台,存在无病乱修、小病大修现象,换成本20元点火器收费250元 [6][7] - AI外呼公司宣称处于外呼智能机器人技术第一梯队,能让AI机器人一次打100个电话,一天打10万通,还能隐藏地址匹配当地号码,曾服务企业超5000家 [9][10][11] 骚扰电话现状 - 年轻人因边界感、工作压力及骚扰电话,产生电话恐惧症,小红书相关笔记达几十万篇,人们采取多种方式减少接电话 [15][16][18] - 骚扰电话精准,如买房后装修电话即来、保险续费前推销电话就到,拉黑也防不胜防 [20] - 2022年315曝光融营通信为电销公司搭建外呼系统,可隐藏主叫号码、规避检测,每分钟收费1毛,年话费收入上亿,超2万家客户买单 [21][22] - 美国骚扰诈骗电话占比从2017年的3.7%飙升到2018年的29.2%,2018年11月接到57亿个骚扰电话,2019年收到约600亿个垃圾电话 [24][25] - 2020年“360手机先赔”接到手机诈骗举报2656起,涉案总金额1520.2万元,人均损失11345元,高发区为金融理财等 [27][28] AI外呼特点 - 成本极低、效率极高,系统“无休”“精准”,靠预设话术和关键词触发机制完成全流程,如站优云为口腔诊所“AI盲打”,第三方以每条100元出售市民信息 [31][33][38] - 以假乱真,能讲方言,用真人录音语音包和自然语言处理技术,让用户难辨人机,还能形成“心理操控闭环”,如AI用雷军声音吐槽、伪造拜登声音干扰选举、AI伪装老板讲德国腔英文骗钱 [40][41][48] 骚扰电话治理措施 - 从源头切断产业链,如13部门印发方案整治骚扰电话,需解决电销机器人买卖问题 [57][58][60] - 用AI对抗AI,科大讯飞、阿里推出抗骚扰机器人,阿里“二哈”以毒攻毒,国家反诈中心APP自动标记高危号码、实时弹窗提醒 [61][62][63]
连上两个热搜!雷军回应“国庆7天AI雷军骂了8天”,还称小米被造谣致股价下跌!怎么办?他也给出建议
新浪财经· 2025-03-10 08:41
雷军又上热搜了! 他表示,这两年人工智能技术快速突破以后,出现了很多老百姓喜闻乐见的应用,比如AI换 脸、拟声等,但任何一个人的脸和声音都能轻松被用来做各种视频,成了新的违法重灾区。 雷军结合自身经历说:"去年'十一',有网友说过了7天假,被我整整骂了8天,刚开始我觉得网 民拿我开涮我也能接受。但这类内容增多且质量低劣,多到不得了的时候,防不胜防,网友也 纷纷投诉。" 雷军表示,当他想通过法律维权时,却发现对此没有专门的立法,只能用隐私权、肖像权、名 誉权等法律起诉,而这些都要量化损失。"在网上被骂8天,损失根本没法量化。"雷军说。 雷军在发言中呼吁,人工智能技术兴起以后产生了很多新问题,相关部门要提前预判,提前立 法。 在部分社交平台上发现,有关"AI语音雷军"骂人的短视频依然存在。 这一次是因为雷军吐槽去年国庆时曾遭"AI语音雷军"的恶搞,导致不少网友称国庆有7天假, 却被"AI语音雷军"整整骂了8天。 另一个热搜是雷军表示,小米曾遭造谣被证监会调查导致股价下跌。 对于这两件事,搜寻相关社交平台发现,目前不少相关信息依然存在。 雷军发声:本人也曾是"受害者" 3月8日下午,十四届全国人大三次会议北京市代表 ...
连骂8天!被造谣导致股价下跌……雷军,又上热搜!
证券时报· 2025-03-09 13:14
雷军遭遇AI侵权事件 - 雷军吐槽去年国庆期间遭"AI语音雷军"恶搞,网友称被骂8天,引发广泛关注[1][5] - 相关低质量AI换脸拟声内容持续泛滥,导致雷军本人困扰且难以通过现有法律量化维权损失[5][6] - 社交平台上仍存在大量"AI语音雷军"骂人短视频,雷军虽澄清但仍强调AI技术的实用性[6] 小米公司被造谣事件 - 市场曾传言小米产业链IPO受限,导致股价异常波动[2] - 证监会明确辟谣称未出台任何限制政策,强调依法公平对待各类企业[8] 雷军关于AI治理的两会建议 立法层面 - 指出当前AI换脸拟声治理存在立法位阶低、法规分散、部门职责交叉等问题[9][10] - 建议推出人工智能单行法,明确应用边界红线并加大刑事处罚力度[10][11] 行业共治 - 提出需压实软件服务方、内容平台等全链条主体责任[11] - 鼓励开发AI内容识别技术,优化平台审核及举报机制,推动跨境合作[11][12] 公众教育 - 强调青少年和老年人是AI侵权高危人群,需加强法制宣传[12] - 建议中小学教材加入AI伦理内容,针对老年群体开展数字素养普及[12] AI技术发展现状 - AI深度合成技术已广泛应用于影视、广告等领域,但滥用导致肖像权侵犯、诈骗等案件激增[9] - 技术门槛低、侵权隐蔽性强等特点给治理带来显著挑战[9][11]
冲上热搜!雷军回应,曾是受害者!
21世纪经济报道· 2025-03-09 12:29
人工智能技术治理 - 人工智能技术快速突破后,AI换脸、拟声等应用成为新的违法重灾区,侵犯肖像权、个人信息及诈骗等犯罪行为频发 [2][5] - AI深度合成技术素材获取便利、使用门槛低、侵权手段隐蔽性强,给治理带来较大挑战 [5] - 需要加强防范和监管,同时为新技术创造安全的成长空间 [5] 小米集团战略与研发 - 公司长期发展战略为人、车、家全生态,将大规模投入底层核心技术,目标成为全球新一代硬核科技领导者 [7] - 过去五年研发经费投入达1050亿元,推动公司业务发生重大变化 [8] - 小米SU7 ultra豪华车型定价529900元,发布三天锁单量超1万辆,远超预期 [8] 新能源汽车行业 - 中国新能源汽车时代及国产品牌全面崛起的时代已经来临 [8] - 小米汽车计划2027年开始海外销售,2025年MWC展首次在海外展示SU7 ultra车型 [8] - 公司股价年初以来上涨57%,市值达1.3万亿港元 [9]
“喜欢我的观众被AI骗得好惨!”靳东回应,多位代表委员建议……
凤凰网财经· 2025-03-06 22:45
来源|中新经纬综自 中新社 (常涛)、@人民日报、南方都市报、公开信息等 6日早间, 全国政协委员、中国煤矿文工团团长靳东 谈到AI换脸导致的诈骗问题,在社交平台引热议。他说:"一些喜欢我影视剧的观众,被AI 换脸视频骗得很惨,这个性质非常恶劣。希望能建立更好的规则。" ▲媒体报道截图 就在前几天,全国人大代表、小米集团董事长兼CEO雷军在其建议案中也提到,"AI换脸拟声"的不当滥用成了违法侵权行为的重灾区。 AI冒充名人案例屡见不鲜 2024年国庆假期期间,短视频平台上出现了大量"雷军AI配音"的恶搞视频。 在视频中,"雷军"锐评了堵车、假期等热门话题,其中还有一些不 雅谩骂。有网友调侃称:"国庆上网被雷军骂了整整7天。" 对此,雷军曾用三个"愤怒"的表情回应此事。 ▲社交平台截图 此前的"假靳东"案也曾引发全网热议。 2024年11月,江西一位老人来到银行办理银行卡,但手续不全又不肯离开,警方到现场后,老人表示要到银行贷款200万元给自己的男朋友"靳 东"拍戏。 民警随即拿起老人的手机进行查看,发现老人所谓的大明星"靳东"是骗子冒充的,其所发布的视频也是由电脑AI合成,但老人对网络知之甚少, 对于骗子所说 ...
雷军发声
21世纪经济报道· 2025-03-04 13:53
新能源汽车与自动驾驶 - 汽车产业已进入智能化高级阶段,高阶智能驾驶成为全球竞争关键领域,我国在关键技术研发上处于全球并跑位置,但量产应用环节存在阻碍 [3] - 建议2025年建立跨区域、跨省份的自动驾驶测试互认机制,2026年实现高速快速路和城市自动驾驶功能量产应用 [3] - 建议2026年前设立自动驾驶专属保险(交强险、商业险等),降低推广门槛并加强宣传教育规范用词 [3] - 建议加快建设全国性自动驾驶法律体系及统一标准体系,明确合法上路身份 [3] 智能网联汽车生态 - 智能网联新能源汽车作为移动智能空间,需完善生态体系支撑,当前充电桩、车载硬件等存在提升空间 [4] - 建议推动充电设施互联互通,制定统一超充技术标准,优先推进核心商圈和高速公路的大功率快充桩建设 [5] - 建议开展车载硬件技术协议标准化建设,制定接口标准和通讯协议规范,提升跨品牌适配度 [5] - 鼓励车企开放智能生态,借鉴智能家居模式推进车联网技术标准统一 [5] 新能源汽车号牌优化 - 现有绿色号牌与多元化车体颜色兼容性不佳,制约外观设计突破 [6] - 建议重启号牌式样调研并公开征求意见,内置交通信息卡功能,增加二维码查询功能 [6] - 建议在汽车产业领先城市试点新号牌并设置用户反馈渠道 [6] 人工智能终端产业 - 人工智能终端是新一代AI重要载体,正从智能手机、汽车向家居、机器人等领域拓展,但存在技术瓶颈和产业协同不足问题 [8] - 建议2027年初步建成AI终端标准体系,2030年形成全球领先标准,推进优秀产品遴选 [8] - 建议强化产业协作,2030年前形成2-3类统一操作系统平台,促进百亿级终端应用互通 [9] - 建议加大研发专项支持,2030年建成全球一流竞争力的智能终端生态 [9] AI技术滥用治理 - AI换脸拟声技术因素材获取便利、门槛低、隐蔽性强导致侵权治理困难 [10] - 建议探索推出AI单行法,明确应用边界红线,完善侵权证据规则并加大刑事处罚力度 [10] - 建议平台开发AI内容识别技术,优化审核和举报机制,阻断问题内容传播 [11] - 建议加强AI法制教育,在中小学教材加入伦理内容,社区普及知识以构建"智能向善"生态 [11]