AI技术滥用与黑灰产现状 - AI深度伪造技术被黑灰产从业者用于针对老年人进行诈骗 包括伪造亲属身份进行钱款诈骗以及伪造医生专家身份进行直播卖货[2] - AI换脸换声服务及教程在国内外平台被低价“打包出售” 价格低至1元 境外平台“一条龙服务”标价仅十几元至百元不等[3][5] - 黑灰产卖家提供明码标价的定制服务 “换脸换声视频”制作以虚拟币结算折合人民币463元 只换声音约为228元并可“定制话术”[5] - 存在兜售配合AI伪造技术的专业诈骗软件 可用手机直接拨打视频电话并配合换脸软件 使诈骗难以察觉[6] - 利用AI伪造明星“代言视频”或“祝福视频”以增加产品可信度 AI视频制作服务80元起步 相关软件月卡188元 永久版288元[8][9] - 声音克隆技术门槛低 通过开源软件上传3分钟录音即可训练出声音模型 对较短语句的合成效果几乎无法识别[11] 行业监管与平台应对措施 - 平台制定严格管控规则 要求广告内容不得含有虚构人设为产品背书 并对违规广告主采取限制投放、封禁账户等处置[12] - 国家出台《人工智能生成内容标识办法》 要求使用AI制作的视频内容需添加标识 以限制“冒充专家”的AI视频传播[15] - 深度伪造技术与检测技术处于相互博弈状态 检测技术对于新算法可能存在一定滞后性 需要样本积累[15] - 行业专家指出应对风险需多管齐下 包括提升老年人反诈意识、家庭提供心理与技术支持、鼓励老年人终身学习以识别AI骗局[16] 诈骗手法与受害者分析 - 诈骗分子利用AI技术伪造老年人亲属身份 以“孙子惹祸 急需用钱”等理由进行“定向”诈骗 个案金额往往较大[4][14] - 诈骗的“起点”通常是用户隐私信息泄露 例如通过未知来源App获取手机通讯录、照片等数据 进而利用社交平台公开的声音视频数据进行AI伪造[5] - 诈骗对象多为老年人 利用其对新技术不熟悉、信息获取渠道有限及情感上容易依赖亲人的弱点[2][4]

电信网络诈骗暑期风险 - 暑期学生上网时间增加 电信网络诈骗成为未成年人"隐形威胁" [1] - 海南海口调查显示半数以上小学生拥有电话手表 部分学生曾接到疑似诈骗电话或短信 [3] 电话手表安全隐患 - 电话手表绑定银行卡存在高风险 可能成为诈骗新目标 [5] - 不法分子通过弹出网页弹窗诱导下载App 进行大金额转账操作 [9] - 建议家长设置每日消费限额 开启账单提醒功能 定期检查删除陌生App [11] 校园反诈教育措施 - 学校将防诈知识融入课堂 采用情景剧模拟陌生人借用手表场景 [5] - 创新教学方法应对AI换声等新型诈骗 建议设置家庭暗号验证身份 [7][9] - 通过真实案例分享强化学生"护卡"意识 检查电话卡槽异常痕迹 [9] 家长防范建议 - 调整电话手表功能设置 加强风险提醒和反诈意识培养 [3] - 避免点击陌生链接和中奖信息 消除占便宜心理 [7] - 根据日常活动安排设置禁用时间段 监控手表端消费行为 [11]