AI技术滥用

搜索文档
全红婵、孙颖莎成受害者!最新曝光
新浪财经· 2025-08-20 01:14
(来源:全国妇联女性之声) 随着AI技术的普及,"克隆"特定人物声音已实现"一键式"操作,同时也带来了民事侵权甚至涉嫌犯罪的法律问题。 记者在抖音平台发现,在这个网名为"我是小助理吖"的博主账号中,已发布的17件作品,内容全部是利用AI仿冒奥运冠军全红婵声音带货土鸡蛋的视频, 其中一个视频点赞量高达1.1万。 评论区显示,大量粉丝误以为这就是全红婵本人,纷纷下单购买链接中的鸡蛋,该商品链接显示已售出4.7万件。今年4月,全红婵家人曾向媒体证实,全 红婵并未给相关农产品代言或授权。 除全红婵外,奥运冠军孙颖莎和王楚钦也遭遇了同样的仿冒。在这个网名为"小兔真可爱"的账号中,两位奥运冠军的AI克隆声音同样在为土鸡蛋带货。 网传仿冒孙颖莎带货画面:大家好,我是莎莎,我为婵宝家农家土鸡蛋代言。 在互联网上,奥运冠军的"声音"突然开始推销农产品,知名演员的"声音"24小时不间断在直播间与粉丝互动……这些以假乱真的AI克隆声音正成为部分自 媒体博主的"流量密码"。 以假乱真, 用奥运冠军的AI克隆声音带货 网传AI仿冒全红婵带货画面:大家好,我是你们的婵宝,婵妹就想着帮助妈妈,让家里的生活过得更好一点,同时把老家的土鸡蛋分 ...
央视曝光博主假冒全红婵卖土鸡蛋:大量粉丝以为是本人下单,还有人仿冒“孙颖莎、王楚钦高调为婵妹带货”
齐鲁晚报· 2025-08-19 09:00
在互联网上,奥运冠军的"声音"突然开始推销农产品,知名演员的"声音"24小时不间断在直播间与粉丝互动……这些以假乱真的AI克隆声音正成为部分自 媒体博主的"流量密码"。 据悉,依托成熟的语音大模型技术,仅需十几秒就能"克隆"任何人的声音,当声音能被轻易窃取和滥用,随之而来的侵权乱象频繁上演。 以假乱真 用奥运冠军的AI克隆声音带货 网传AI仿冒全红婵带货画面:大家好,我是你们的婵宝,今天有事请大家帮忙。婵妹就想着帮助妈妈,让家里的生活过得更好一点,同时把老家的土鸡 蛋分享给粉丝们尝尝…… 据央视新闻8月18日报道:随着AI技术的普及,"克隆"特定人物声音已实现"一键式"操作,同时也带来了民事侵权甚至涉嫌犯罪的法律问题。 记者在抖音平台发现,在这个网名为"我是小助理吖"的博主账号中,已发布的17件作品,内容全部是利用AI仿冒奥运冠军全红婵声音带货土鸡蛋的视频, 其中一个视频点赞量高达1.1万。 评论区显示,大量粉丝误以为这就是全红婵本人,纷纷下单购买链接中的鸡蛋,该商品链接显示已售出4.7万件。今年4月,全红婵家人曾向媒体证实,全 红婵并未给相关农产品代言或授权。 除全红婵外,奥运冠军孙颖莎和王楚钦也遭遇了同样 ...
3500余款违规AI产品被处置!南都曾起底造假起号生意
南方都市报· 2025-06-20 18:28
行业监管动态 - 中央网信办自4月启动"清朗·整治AI技术滥用"专项行动 聚焦AI换脸拟声侵权和内容标识缺失等乱象 [1] - 第一阶段累计处置违规AI产品3500余款 清理违法违规信息96万余条 处置账号3700余个 [2] - 第二阶段将重点整治AI造谣、低俗内容等7类问题 构建技术监测体系并推动内容标识落地 [2] AI技术滥用产业链 - 不法分子利用AI深度伪造内容快速起号引流 通过带货、卖课或转卖账号变现 [2][3] - 部分虚拟数字人账号未标注AI生成身份 粉丝量达数万至十余万 部分账号已开通商品橱窗 [3] - 单条AI生成视频播放量可达数百万 挂车卖书等变现方式收益高达25万元 [3] 平台治理措施 - 网信部门切断违规AI产品营销渠道 督促平台健全技术保障措施 [2] - 专项行动推动生成合成内容标识加速落地 旨在形成长效工作机制 [2]
中央网信办深入开展“清朗·整治AI技术滥用”专项行动第一阶段工作
快讯· 2025-06-20 17:10
清朗·整治AI技术滥用专项行动 - 专项行动自2025年4月启动 聚焦AI换脸拟声侵犯公众权益和AI内容标识缺失误导公众等乱象 [1] - 中央网信办深入推进第一阶段重点整治任务 部署各地网信部门加大违规AI产品处置力度 [1] - 切断违规产品营销引流渠道 督促重点网站平台健全技术安全保障措施 [1] - 推动生成合成内容标识加速落地 [1] 第一阶段整治成果 - 累计处置违规小程序、应用程序、智能体等AI产品3500余款 [1] - 清理违法违规信息96万余条 [1] - 处置账号3700余个 [1]
AI换脸、跨平台引流 反诈防线如何“破壁升级”
环球网资讯· 2025-06-17 06:15
电信诈骗现状与特征 - 电信网络诈骗呈现技术智能化、组织产业化、链条跨境化特征 [1] - 诈骗手法高度多样化 2025年监测到超过100种不同类型案例 并呈现季节性变化规律 夏季以色情诱骗和虚假购物充值类为主 [3] - 诈骗目标人群呈现全年龄段覆盖特点 假冒"平台客服"类骗局使受骗群体从老年人扩展至年轻人 [4] 高发诈骗类型与手段 - 5类主要高发诈骗形式包括刷单返利、虚假网贷、虚假理财、冒充公检法、冒充客服 [2] - 高考季针对考生家庭的升学类诈骗高发 包括招生录取、查分改分、内部名额等类型 [3] - AI技术被黑灰产滥用 用于批量生成逼真文本图像 实施深度伪造 短时间内生成大量涉诈应用 [4] 行业反诈技术措施 - 首创App反诈电子标识认证 试点中涉案量最高降幅达90% [2] - 推广"反诈名片"服务 公安机关反诈电话日均提醒量55万次 [2] - 抖音自研多模态大模型 每日封禁涉诈账号超8万个 拦截异常投稿评论超400万条 发送站内信提醒700万条 [4] 平台治理与用户防护 - 抖音新增客服联系记录、动态验证口令等功能 日均保护潜在受害人超5万名 [5] - 用户可通过拨打官方客服95152或使用"验证助手"进行信息核验 [5] - 平台邀请8位创作者担任反诈大使 通过线上线下多渠道开展反诈宣传 [5] 跨部门协作机制 - 形成"打击、防范、治理、宣传"四位一体综合发力模式 [2] - 北京通管局联合公安网信等部门提升全链条打击效能 [5] - 需政府监管、企业履责、行业自律和用户参与同向发力 [5]
女子收到多条验证码未理会,隔天6万元没了,钱是怎么消失的?
新浪财经· 2025-05-31 07:22
新型电信诈骗技术分析 - 木马程序通过伪装短信、链接或文件窃取手机权限,实时监控短信验证码、通讯录及支付类APP信息[3] - 不法分子结合拦截的验证码与窃取的个人信息,直接通过网银或第三方支付平台发起无感转账,资金可在几分钟内转移至多级账户[4] - 部分平台的小额免密支付功能被滥用,木马可触发支付指令绕过二次验证[5] 手机木马感染预警信号 - 手机突然卡顿或发热提示后台木马运行占用资源[6] - 自动跳转陌生界面如不明网站或APP下载页面[7] - 非本人操作的银行、支付类短信验证码激增[8] - 手机莫名出现陌生APP,可能为木马自动下载的恶意软件[8] 紧急止损与防范措施 - 发现异常立即断网阻断木马通信,并冻结银行及支付账户[9][10] - 报警时需留存短信、通话记录等证据协助追踪资金流向[11] - 日常防护需避免点击不明链接,关闭小额免密支付功能,定期用正规安全软件查杀病毒[12][13][14] - 废弃手机需彻底清除数据防止信息残留[15] 诈骗电话识别原则 - 自称银行或电商客服的来电需挂断后回拨官方号码核实[16] - 绝不向对方透露验证码、密码或身份证号等敏感信息[17] - 境外号码或"00""952"开头的虚拟号段多为诈骗电话应直接拒接[18] 技术型诈骗发展趋势 - AI技术滥用可能导致诈骗手段智能化,如模拟亲友声音或伪造转账记录[19] - 手机安全漏洞成为新型诈骗突破口,需通过更新系统、限制敏感权限提升防护[19]
整理:4月30日欧盘美盘重要新闻汇总
快讯· 2025-04-30 23:10
5. 新一轮油价调整搁浅 6. 世界黄金协会:中国市场黄金ETF总持仓创历史新高。 金十数据整理:4月30日欧盘美盘重要新闻汇总 国内新闻: 1. 习近平主持召开部分省区市"十五五"时期经济社会发展座谈会强调,适应形势变化,把握战略重点, 科学谋划"十五五"时期经济社会发展。 2. 移动互联网未成年人模式正式发布,家长可一键启动所有APP未成年模式。 3. 国家统计局:4月份,制造业采购经理指数(PMI)为49.0%,比上月下降1.5个百分点,制造业景气 水平有所回落。 4. 民营经济促进法出台!自今年5月20日起施行。 2. 世界黄金协会:Q1全球黄金需求创2016年以来最高一季度水平。 3. 法国财长:与贝森特讨论了相互实行零关税的想法,贝森特称这一想法并非不切实际。 4. 美国经济负增长,特朗普火速甩锅:这是拜登的股市,不是特朗普的,经济收缩与关税无关。 5. 乌克兰最高军事指挥官:俄罗斯军队已大幅增加战斗行动的强度,主要将力量集中在波克罗夫斯克方 向。 7. 国家互联网信息办公室等七部门联合发布《终端设备直连卫星服务管理规定》。 8. 中国证券监督管理委员会党委委员、副主席王建军涉嫌严重违纪违法,目前 ...