高考后诈骗现象分析 - 高考结束后各类网络诈骗和谣言陷阱频发，包括"内部指标"、"提前查分"、"作弊通知短信"和"报考辅导"等精心设计的骗局 [1] - 教育部、公安部和各地招考部门每年发布大量防骗提示，但骗局仍屡屡得手 [1] - 诈骗分子精准把握考生家庭心理，利用家长对教育的重视和成绩公布前的焦虑情绪，渲染"志愿填错毁一生"的恐慌 [1] - 新型诈骗手段如AI换脸、语音合成等披上高科技外衣，具有更强迷惑性和"可信度" [1] 防范诈骗的系统性措施 - 教育部门需联合公安、网信等部门开展广泛宣传和严厉打击 [2] - 社交媒体平台应完善关键词预警机制，结合算法和人工审核及时作出防骗提示 [2] - 电信运营商需强化管理，对短时间内大量群发敏感词的号码实施重点监控 [2] - 考生和家长应保持清醒，避免被营销裹挟，警惕各类谣言和陷阱 [2] 志愿填报的理性建议 - 历年录取分数线、院校招生计划、专业排名等均为公开信息，可免费获取 [2] - 志愿填报本质是生涯规划而非分数博弈，需结合孩子兴趣、未来职业规划和专业就业前景 [2] - 高价"专业服务"机构无法轻易解决生涯规划的核心问题 [2]

AI换脸技术现状与影响 - AI换脸技术极大降低创作门槛，激发网友对热门歌曲、影视剧的二次创作热情，提升文艺作品热度[1] - AI换脸滥用已成为违法侵权重灾区，涉及诈骗、盗版短剧、色情视频等多领域[1] - 2023年全红婵、董宇辉、孙俪等多位公众人物发声打假AI生成的带货视频[1] - 带货视频通过AI换脸、拟声、剪裁拼接制造名人推荐假象，某儿童保健食品销量达90多万，儿童书籍销量超10万[5][7] 侵权案例与维权困境 - 王昱珩遭遇商家擅自利用AI生成其带货视频，消费者信以为真[2][5] - 正常代言费用达数十万至数百万，但AI侵权赔偿仅一两万，违法成本低[9] - 取证困难，侵权方采用"躲猫猫"策略反复上架视频[9] - AI换脸侵权案件数量显著增加，涉及肖像权、名誉权、著作权等多方面[10] 技术挑战与监管难点 - AI换脸技术迭代迅速，人类识别高质量伪造视频准确率仅约20%[11] - 使用门槛低，普通用户只需上传图像即可生成换脸视频[11] - 检测技术滞后于开源技术的衍生迭代速度[12] - 现行法律未专门针对AI换脸技术进行规范，存在模糊地带[13] - 缺乏统一赔偿标准，维权成本远高于违法成本[15] 解决方案与行业建议 - 建议出台专门针对AI换脸等新技术的法律法规[16] - 完善赔偿机制，提高违法成本增加震慑力[17] - 平台可内置AI换脸检测机制，阻止问题视频发布[18] - 技术开发方可加入"数字水印"便于溯源[18] - 建议采用区块链技术为内容生成不可篡改存证记录[18] 公众应对策略 - 加强普法宣传，提高公众法律意识[19] - 提升辨别能力，观察视频生物特征等细节[20] - 遇到可疑信息先暂停传播，寻找可靠来源[20] - 减少在公开平台发布清晰人脸照片，降低被伪造风险[20]

金融诈骗新手法 - 不法分子通过假冒APP等钓鱼手法诱导投资者 并控制客户基金账户申赎货币基金 通过转移赎回款项获取诈骗所得 [1] - 作案手法越发隐蔽 迷惑性更强 甚至使用AI换脸等手段 [1] - 假冒APP通过名字和界面逼近模仿 如"兴银售后APP" 甚至有与公司名字一模一样的APP [3] 基金公司澄清公告 - 大成基金6月6日公告称有不法分子冒用公司或员工名义 通过即时通讯工具构建聊天群 以股票知识分享等为由诱导投资者充值汇款 [2] - 泓德基金6月4日公告称有不法分子冒用公司及员工名义发布虚假采访稿件 以荐股为噱头吸引投资者加入群聊或下载虚假APP [2] - 5月期间诺安基金 富荣基金 南华基金等多家公募发布澄清公告 南华基金5月内两次发布公告 [3] 货币基金快速申赎作案 - 不法分子以"检验客户还款能力"为由 让客户购买货币基金后迅速赎回 并以"验资"理由转移赎回款项 [5] - 沪上一家公募曾遇到不法分子以办理贷款为由 骗取客户信息 控制基金账户申购并快速赎回货币基金 制造刷流水假象 [5] 防范措施 - 中国证券业协会5月15日至6月15日开展防范非法证券宣传月活动 宣传揭露非法活动特征和危害 普及合法机构查询方法 [6] - 长城基金提出"三不三多"原则 包括未知链接不点击 未知信息不轻信 个人信息不透露 以及人员身份 购买产品 转账汇款多核实 [7][8]

金融诈骗新特征 - 不法分子通过假冒APP等钓鱼手法诱导投资者，假冒APP在名字和界面方面进行逼近模仿，甚至出现与基金公司名字一模一样的APP [4][5] - 通过控制客户基金账户申赎货币基金，以"检验还款能力"或"刷流水"为由转移赎回款项获取诈骗所得 [5] - 作案手法越发隐蔽，迷惑性更强，使用AI换脸等技术手段 [1] 基金公司应对措施 - 逾10家基金公司密集发布公告提醒投资者谨防金融诈骗，包括大成基金、泓德基金、诺安基金、富荣基金等 [1][2][3] - 基金公司明确表示从未授权任何机构或个人以公司名义开展投资管理业务和咨询服务，不会进行股票推荐或承诺收益 [2] - 部分基金公司短期内多次发布澄清公告，如南华基金在5月17日和5月27日两次发布公告 [3] 投资者识别方法 - 遵循"三不"原则：未知链接不点击、未知信息不轻信、个人信息不透露 [7] - 遵循"三多"原则：人员身份多核实、购买产品多核实、转账汇款多核实 [7][8] - 投资者可通过基金业协会官网查询基金从业人员资格注册信息，或在基金公司官网核实销售人员信息 [7] - 购买产品前需在证监会、基金业协会等官方网站核实产品备案和批准情况 [8] - 转账汇款前需确认汇入账户为基金公司官方公示的真实账户，拒绝个人账户或名称不符的收款账户 [8] 行业防范活动 - 中国证券业协会在5月15日至6月15日组织开展防范非法证券宣传月活动，重点宣传非法活动的特征和危害 [6] - 活动旨在普及合法经营机构和从业人员资质查询方法，增强投资者对虚假信息和无资质人员的辨别能力 [6]

AI拟声技术滥用现象 - AI技术被大规模用于伪造名人声音进行商业欺诈，包括全红婵、张文宏、古天乐、雷军等公众人物被仿冒带货[3][7] - 最低仅需1元即可在二手平台购买"声音克隆工具包"，200元可定制明星AI配音，50元可克隆素人声音[7][10] - 技术门槛极低，仅需采集少量声音样本即可在几秒内完成克隆，应用商店相关App下载量最高超千万次[14] 行业影响与商业模式 - 短视频平台成为重灾区，仿冒账号利用综艺片段作为原材料，通过AI修改字幕和配音批量生产虚假带货视频[10] - 形成灰色产业链，商家通过AI伪造明星代言低成本引流起号，规避正规代言费用[10] - 涉事店铺多为2024年新注册账号，商品存在资质不明、厂商不清等问题，宣传素材高度雷同[11] 技术应用现状 - AI拟声技术已从娱乐用途（如"AI孙燕姿"翻唱）演变为商业欺诈工具[7] - 普通用户可通过198元会员服务生成任意内容的出镜口播视频，无需提供声音授权证明[14] - 社交平台存在超过4万条AI合成明星声音教程，二手交易平台克隆服务低至10元以内[15] 法律与社会应对 - 北京互联网法院2024年4月宣判全国首例"AI声音侵权案"，明确自然人声音权益保护范围[15] - 9月1日将上线"白名单制度"规范AI作品，但水印提示的实际效果存疑[15] - 专家建议需提高社会对真实性的鉴别能力，立法防止技术滥用[15]

一次偶然的机会，胡先生发现母亲因轻信AI换脸虚假宣传购买无效保健品，花费万元后，才识破了视 频画面中颈部扭曲、声画不同步等漏洞。如今，上传一张照片、一段音频，即可生成动态视频，"AI换 脸、拟声"也成为侵权违法的风险高发区。今年全国两会期间，多名全国人大代表、全国政协委员都曾 呼吁立法整治AI"换脸拟声"。 截至今年5月，多家手机厂商相继发布了AI换脸、拟声检测功能，称可以"5秒鉴伪""准确率高达 96%"等。那么，这些功能对AI生成内容的识别效果如何？5月6日，南都记者实测了荣耀、小米、OPPO 三款自带AI检测功能的手机，结果显示，均未成功识别。国家互联网应急中心相关技术专家建议，对 于AI反诈检测能力宣传应以安全辅助为主，充分提醒用户合理认识该功能，不因该功能而放松警惕。 "AI换脸"诈骗两年致损超2亿 手机终端企业推提醒功能 公安部数据显示，2022年到2024年初，我国共发生"AI换脸"类诈骗案近百起，累计给人民群众造成经济 损失高达2亿元。去年8月，工信部反诈专家表示，会同行业内的手机终端企业推出AI换脸诈骗风险提 醒功能。 南都记者梳理发现，去年10月以来，多家手机厂商相继发布了AI换脸检测功能 ...

AI拟声技术滥用现象 - 短视频平台出现数十个仿冒账号利用AI伪造全红婵声音售卖蜂蜜和驼奶粉 [2][3] - 去年12月出现伪造张文宏讲解蛋白棒的AI假视频导致大量中老年人受骗下单销量破千 [8] - 平台利用AI技术合成古天乐林峰等港星肖像声音制作赌博游戏代言宣传片 [8] - 小米CEO雷军声音被伪造用于虚假理财广告 [8] - 张馨予声音和表情被AI伪造用于推荐减肥药视频播放量高且难以辨别 [11][12] AI拟声产业链 - 电商平台提供明星声音200元一条素人50元一条的AI配音服务 [15] - 手机应用商店有数十款AI配音App下载量最高超千万次 [25] - 闲鱼App上一次AI声音克隆低至10元以内小红书相关帖子多达4w+条 [26] - 198元即可解锁付费会员功能生成各类出镜口播视频无需授权证明 [25] 行业影响与危害 - 热播综艺片段被批量篡改植入保健品减肥药广告形成流水线生产模式 [13][14] - AI拟声带货商品存在资质不明厂商不清问题涉事店铺多为2024年新注册账号 [17] - 平台缺乏AI生成内容提示客观上助推假带货风气 [17] - 技术滥用导致肖像权名誉权双重侵害同时增加消费者误购劣质商品风险 [16] 技术原理与门槛 - 只需采集声音频率音色声调等关键特征配合语速情感参数即可在几秒内完成克隆 [22] - 声音样本来源多样包括推销电话公开演讲客服回电等 [23] - 技术门槛相当于安装手机修图App且逼真度持续提升 [24] 监管与应对 - 北京互联网法院2024年4月宣判全国首例AI声音侵权案明确自然人声音权益保护范围 [28] - 9月1日将上线"白名单制度"要求AI作品"持证上岗" [28] - 目前平台标注"内容为AI技术制作"的实际效果存疑尤其对中老年群体 [29]

AI换脸诈骗现状与危害 - 2022年至2024年初全国发生近百起AI换脸类诈骗案 造成经济损失高达2亿元[3] - 诈骗分子利用AI深度合成技术伪造人脸和声音 通过侵入视频通话应用实施诈骗[4] - 典型案例显示消费者因轻信AI换脸虚假宣传购买无效保健品 损失万元[1] 手机厂商AI反诈技术布局 - 荣耀在MagicOS 9 0系统嵌入AI检测模块 覆盖微信 QQ视频通话场景[3] - 小米HyperOS2 0搭载AI反诈功能 可对换脸和伪造声音发出警报[3] - OPPO ColorOS系统上线"AI合成语音识别"技术 针对模拟熟人声音诈骗[3] - 联想计划推出Deepfake检测器 声称5秒内识别准确率超96% 适配多终端设备[3] AI检测技术原理与局限 - 检测技术通过构建AI模型 训练大量样本识别VAE GAN算法生成的人脸伪造[4] - 核心检测点在于分析被诈骗用户端的视频流 但实测显示当前技术存在明显漏洞[4][5] - 厂商披露技术主要攻克实时视频通话场景的人脸仿冒 但未覆盖所有诈骗手法[4] 主流手机AI检测功能实测结果 - 南都记者测试荣耀 小米 OPPO三款机型 均未成功识别预设的AI合成视频或音频[5] - 荣耀检测流程触发弹窗但结果显示"未检测到AI换脸痕迹"[7] - 小米 OPPO仅提示开启防护 全程无风险警报[7] - 厂商客服回应称检测能力尚在优化 无具体识别标准[7] 行业专家建议与争议 - 技术专家指出手机厂商反诈职能边界模糊 涉及隐私采集与安全责任问题[7] - 建议AI反诈宣传应明确辅助定位 避免用户因依赖功能而放松警惕[8] - 强调内容传播平台需承担更多AI鉴伪义务 形成多环节联防机制[8]

确山县检察院检察官就小区入口刷脸问题展开"回头看"。 经蕊溪 摄 "科技发展归根到底是为人类社会服务，人脸作为生物识别信息的使用边界，应该是以不干扰个体的正常行为 和合法权益为前提和基础。" 郑州市公安局经开分局明湖派出所民警在辖区宾馆开展人脸信息安全保护相关检查和普法。河南日报社全媒 体记者 王富晓 摄 清晨，在刷脸打开手机中开启新的一天；中午，对着屏幕眨眨眼，外卖订单支付完成；晚上，小区门口扫扫 脸，"滴"的一声，大门自动开启……如今，"靠脸"场景深入百姓生活。 但，当你的面庞成为裸奔的密码、当不法分子对人脸信息明码标价、当AI刹那间就能改头换面盗用身 份……"靠脸"这件事儿，还真不太靠谱。 近年来，滥用人脸识别技术带来的个人信息泄露事件频发，引发了社会普遍关注。近日，国家互联网信息办 公室、公安部联合发布《人脸识别技术应用安全管理办法》（以下简称《办法》），于6月1日起施行。作为 个人信息保护法律体系的重要组成部分，《办法》针对人脸识别技术应用过程中的数据安全、个人隐私保护 以及技术规范等方面提出具体要求，打响了AI时代的人脸保卫战。 现状丨刷脸自由暗藏泄露危机 一筐鸡蛋、几瓶洗衣液，竟成撬动个人信息安 ...

核心观点 - AI换脸技术普及背景下，上海易某网络科技有限公司因未经授权使用摄影师陈某原创视频素材被起诉侵权 [1] - 法院认定AI局部修改后的视频仍保留原作独创性元素，构成实质性相似侵权 [4] - 公司以商业目的提供换脸平台和技术的行为侵害了原告信息网络传播权 [6] 案件争议焦点 - 被告辩称AI换脸后的视频属于二次创作，与原告原作品存在差异 [3] - 法院需判定AI技术修改后的视频是否构成著作权侵权 [4] - 争议公司使用他人作品是否属于合理使用范畴 [6] 技术应用分析 - 公司开发的小程序允许用户上传照片后通过观看广告实现一键换脸功能 [1] - AI算法仅对原视频进行面部特征替换，保留构图/场景/人物造型等核心元素 [4] - 技术应用场景为古风汉服视频的换脸合成 [1] 法律判决结果 - 法院判决公司赔偿原告经济损失及合理开支共计7500元 [6] - 公司已删除侵权视频并完成算法备案等整改措施 [6] - 原告撤回停止侵权和赔礼道歉诉求，双方未提起上诉 [6] 行业影响 - 本案涉及AI技术应用中著作权保护边界问题 [4] - 商业性使用他人作品需获得授权，即使经过技术修改 [6] - 算法备案和经营规范成为企业合规经营的必要环节 [6]