AI技术滥用现象概述 - AI技术被用于“复活”已故名人进行商业推广或低俗娱乐 例如已故茶界泰斗张天福被AI复活用于茶叶产品代言[4][6][10] - AI生成内容从荒诞讽刺演变至对逝者尊严的严重践踏 涉及对象包括伊丽莎白二世、科比、霍金、马丁·路德·金等 内容包含将其置于猪圈、厕所、擂台等侮辱性场景[22][24][26][28][29][31][33][35][37][39][41][58][60] - 此类行为引发广泛伦理道德争议 在“死者为大”的东亚文化圈尤其难以被接受 并涉嫌侵犯肖像权[11][79] AI“复活”逝者的商业与情感利用 - 部分个人或机构以“缅怀”为名提供付费AI复活服务 例如定制明星AI祝福视频30秒内收费98元 名人AI素材价格在48元至298元之间[84][86] - 相关培训课程形成产业链 门徒课程售价980元 更逼真的视频制作课程售价达19800元 目标客户包括明星粉丝和失去亲人的普通人群[87] - 未经家属同意的“复活”行为对逝者亲人造成严重情感伤害 例如李玟母亲、乔任梁父亲、江歌母亲均公开表示强烈反对与不适[74][75][77][78] - 极少数由亲属主导的AI复活案例 如音乐人包小柏复活女儿 过程艰难且需投入大量时间与专业资源[80][81] AI技术在商业欺诈中的具体应用套路 - 套路一：利用AI仿冒名人带货 仿冒对象包括运动员全红婵、孙颖莎、王楚钦以及央视主持人李梓萌等 主要面向中老年群体销售土鸡蛋、深海鱼油等产品[90][91][94][95][98][105][106] - 套路二：AI生成虚假剧情广告 通过生成离奇曲折的虚构故事 例如讲述家庭悲剧或感人经历 最终导向销售睡眠香膏等产品[115][116][117][119][120][121] - 套路三：AI生成虚假农产品宣传 利用AI生成尺寸严重失真的农产品图像 例如齐腰高的辣椒 并配以农户辛苦种植的虚假场景误导消费者下单[125][126][127][129][131][132][133][134] - 套路四：利用AI仿冒亲人实施诈骗 例如冒充“孙子”致电老人 以出事急需用钱为由骗取钱财[136][137][138][139] - 套路五：以免费培训AI为名骗取费用 向老年人收取1580元入班保证金 承诺教授AI视频剪辑并实现月入过万 实为骗局[142] AI滥用对社会信任与家庭的影响 - AI生成内容的泛滥导致公众难以分辨虚实 引发对历史人物认知混淆及未来受骗的担忧[62] - 互联网平台成为连接骗子与易受骗群体的渠道 技术进步在带来便利的同时也增加了欺诈风险[148][149] - 防范AI骗局需家庭成员加强沟通 子女应关注长辈的手机购物及浏览记录以提高警惕[146][147]