事件概述 - 知名演员王劲松于2月26日在微博发文，称其个人形象与声音被AI盗用生成高度逼真的伪造视频，引发公众对AI侵权与诈骗的广泛担忧 [1] AI技术发展现状 - AI伪造技术水准近期大幅提升，从过去制作粗糙、破绽明显，发展到当前画面、口型、声音高度逼真，完全看不出真假的地步 [1][3] 事件处理与行业监管 - 当事人已向平台投诉举报，相关涉事视频现已被平台下架删除 [4] - 事件凸显出加强平台审核机制与法律监管环节的紧迫性 [4] - 根据中国民法典，未经许可使用AI伪造他人肖像、声音，涉嫌侵犯肖像权与声音权，若用于诈骗还需承担刑事责任 [4] 潜在风险与行业影响 - 高度逼真的AI伪造技术未来可能被用于更恶劣的肖像侵权与网络诈骗，相关风险难以预估 [4]

事件概述 - 一名男子利用AI软件伪造医院诊断证明、收费单据和投诉材料，以“就餐致病”为由对餐饮商家进行敲诈勒索，累计非法获利2500元 [1][2] - 该男子通过伪造材料向市场监督管理局、12315等渠道进行投诉举报，以此逼迫商家赔付 [2] - 截至案发，该男子已成功敲诈勒索2起，未遂2起 [2] - 目前犯罪嫌疑人因涉嫌敲诈勒索罪已被警方依法采取刑事强制措施，案件正在进一步侦办中 [5] 作案手法 - 该男子从网上获取他人就诊记录图片，利用AI软件对图片进行篡改，替换姓名、调整日期、伪造金额，生成以假乱真的病历与发票 [2] - 伪造的材料中特意备注“因食用牛肉食物引起细菌感染”等详细病因 [2] - 伪造材料存在病因过于详细、落款印章模糊、打印格式不统一等疑点 [1] 事件影响与商家反应 - 涉事烤肉店负责人因顾客出示伪造的就医证明和医疗发票，为息事宁人，转账赔付了2000元医疗费 [1] - 商家事后从同行处得知近期类似情况，发觉是恶意索赔，经回忆事件过程发现疑点后向警方报案 [1] - 警方调查发现，当日同时在店内就餐的其他顾客均未出现“腹泻、腹痛”等症状 [1]

电商行业运营挑战 - "双十一"购物节后电商卖家面临新型售后问题 [1] - 买家利用AI生成伪造的商品破损图片作为仅退款申请的证据 [1] - 卖家发出完好的商品但收到附带伪造证据的退款申请 [1]

AI伪造技术行业现状 - AI深度伪造黑灰产已形成完整产业链，涵盖上游数据获取、中游技术产能、下游犯罪场景及洗钱变现四个环节[12] - 上游数据获取方式包括通过爬虫抓取社交平台公开图、二手设备回收提取相册、App权限滥用截取人脸数据、从短视频平台提取音频以及客服录音泄露等[12] - 中游技术手段涉及DeepFaceLab、Rope、SimSwap等工具进行人脸替换，Wav2Lip、SadTalker等进行驱动重播，并采用指纹抹除、压缩域扰动等技术对抗检测[12] - 下游犯罪场景主要包括冒充熟人诈骗、色情勒索、以及冒充明星直播带货打赏等[12] - AI技术成熟与开源极大降低了犯罪门槛，某二手交易平台上人脸识别、代做视频等业务售价仅30元[10] - 生成式AI技术能力突飞猛进并持续开源开放，大量工具产品问世降低了不法分子的利用门槛和成本[10] 平台治理与攻防博弈 - AI内容侵权识别被视为行业性技术难题，恶意仿冒账号不断与平台进行技术对抗[3] - 抖音平台专项治理已处置下架相关仿冒侵权视频1万余条，其中带货类视频6900余条，并对37个违规账号进行处罚[7] - 自10月专项启动以来，平台已处置涉及侵权仿冒违规的达人账号1.1万个，处置仿冒名人带货的商品6700余个[14] - 平台治理措施包括中断直播、下架违规商品及视频、冻结成交金额等[7] - AI鉴伪产品需要随着生成技术的进展不断研究更新迭代，生成和鉴伪的对抗性非常强，是一场持续的"猫鼠游戏"[15] 具体案例与影响 - 演员温峥嵘遭遇AI换脸盗播，出现多个直播间同时使用其AI伪造形象进行带货，团队一天内举报50个假冒账号[6] - 造假团队常在凌晨三四点发布虚假视频打时间差，商家通过截取影像利用简易工具即可生成虚假内容，但取证需花费很大精力[6] - 温峥嵘抖音账号粉丝数384.1万，近三个月增长29.6%，今年以来直播248场，场均观看人次96.3万，场均销售额100万-250万[10] - 公安部网安局披露破获一起利用AI换脸突破平台人脸识别认证机制侵犯公民个人信息案件，抓获犯罪嫌疑人4名[11] - 犯罪团伙伪造受害者人脸验证视频突破头部平台登录认证，强制登录受害者账号窃取信息[11]