AI换脸技术

搜索文档
雷军要创翻世界?声音克隆违法,AI标识防骗利器
21世纪经济报道· 2025-09-15 13:20
21世纪经济报道记者 章驰 实习生 张欣奕 当然, 咱们每个人用AI创作时,也请记得主动标一标,让我们一起打造一个更安全的AI新世界! 在《人工智能生成合成内容标识办法》及配套国标正式实施48小时内,21记者实测了35款应用,其中2 款未在图片中标识AI,4款未在交互页面标识AI。尤其是APP内置的智能助手,具备深度思考、联网搜 索、生成长文的能力,但没有按要求提示AI生成。 11天后,21记者进行第二轮复测,重点排查了之前未按规定标识AI的应用。除了百度文库的图片标识 还没有落实外,其他应用都已经修改到位。 前段时间,有网友用AI把雷军的声音生成了一段骂人的音频,在网上传得沸沸扬扬,有许多人以为这 只是在玩梗或者恶搞,但其实已经涉及违法啦!在未获得授权的情况下,使用他人声音进行配音创作, 侵犯了声音权人的合法权益;而现在大肆流行的AI数字人直播,未经许可,也是不可以模仿知名人物 的。 但别以为这只是名人的烦恼,AI伪造的语音,还可能变成诈骗电话,甚至拐骗儿童的陷阱。之前就有 博主自己测评,用AI语音和AI换脸技术生成视频,仅仅用3小时,就骗走了自己母亲2万元工资。试 想,如果有人用AI生成语音,伪装成家长诱 ...
深度|AI虚拟人如何助力这家初创公司,荣登2025年“Inc. 5000”美国增长最快企业榜首
Z Potentials· 2025-08-13 13:01
公司概况 - 人工智能初创公司Akool荣登2025年度"Inc 5000"榜单榜首 成为美国增长最快的私营企业[2][3] - 公司成立于2020年 2025年收入达4000万美元 员工规模增至约100人 其中三分之二为工程师[3][12] - 过去三年营收增长率高达37 364% 远超榜单第二名ReloShare的27 832%[4] 核心技术 - 自主研发"数字人模型"技术 可生成逼真AI虚拟人 用户可通过自拍或选择AI生成角色创建虚拟形象[7] - 实时视频翻译技术可将视频从一种语言转换成另一种语言 并调整人物嘴型匹配翻译语言 贡献30%业务收入[11] - 流媒体虚拟人(Streaming Avatar)技术可进行实时对话 占B2B收入的50% 应用于客户服务和销售场景[11] - 实时视频技术处于行业领先地位 延迟最低 可实现会议中即时语音翻译和虚拟人替换[12] 发展历程 - 创始人Jeff Lu曾任职于微软 苹果(Face ID技术)和谷歌云 因不满谷歌对生成式AI的限制而创业[5][6] - 2021年作为副业运营时已盈利超10万美元 用8个GPU在数周内训练出首个AI视频模型[7] - 2022年底因网红博主推广意外打开消费级市场 设置25美元/月起付费墙支撑初期运营[8] - 2023年与可口可乐合作现象级营销活动 处理数百万次换脸请求 成为关键转折点[9][10] - 2024年建立专业销售团队 重点发展流媒体虚拟人和视频翻译两大核心功能[11] 商业模式 - 初期尝试政府大订单失败后 转向B2B2C模式 通过营销机构间接服务终端品牌客户[8][10] - 与AWS 谷歌 英伟达合作技术大会演示 近期重点拓展亚洲零售业虚拟人应用场景[11] - 计划构建更大规模AI模型 包括视频基础模型和声音生成模型 提升虚拟人逼真度[12] 行业地位 - AI换脸技术被可口可乐评价为明显优于竞争对手[9] - 实时视频能力领先谷歌 OpenAI和Adobe等巨头 预计短期内难以被超越[12] - 目标创造与真实视频无异的内容 推动行业技术边界[12]
独家对话“水哥”王昱珩遭换脸带货,AI乱象如何解?
南方都市报· 2025-06-13 14:53
AI换脸技术现状与影响 - AI换脸技术极大降低创作门槛,激发网友对热门歌曲、影视剧的二次创作热情,提升文艺作品热度[1] - AI换脸滥用已成为违法侵权重灾区,涉及诈骗、盗版短剧、色情视频等多领域[1] - 2023年全红婵、董宇辉、孙俪等多位公众人物发声打假AI生成的带货视频[1] - 带货视频通过AI换脸、拟声、剪裁拼接制造名人推荐假象,某儿童保健食品销量达90多万,儿童书籍销量超10万[5][7] 侵权案例与维权困境 - 王昱珩遭遇商家擅自利用AI生成其带货视频,消费者信以为真[2][5] - 正常代言费用达数十万至数百万,但AI侵权赔偿仅一两万,违法成本低[9] - 取证困难,侵权方采用"躲猫猫"策略反复上架视频[9] - AI换脸侵权案件数量显著增加,涉及肖像权、名誉权、著作权等多方面[10] 技术挑战与监管难点 - AI换脸技术迭代迅速,人类识别高质量伪造视频准确率仅约20%[11] - 使用门槛低,普通用户只需上传图像即可生成换脸视频[11] - 检测技术滞后于开源技术的衍生迭代速度[12] - 现行法律未专门针对AI换脸技术进行规范,存在模糊地带[13] - 缺乏统一赔偿标准,维权成本远高于违法成本[15] 解决方案与行业建议 - 建议出台专门针对AI换脸等新技术的法律法规[16] - 完善赔偿机制,提高违法成本增加震慑力[17] - 平台可内置AI换脸检测机制,阻止问题视频发布[18] - 技术开发方可加入"数字水印"便于溯源[18] - 建议采用区块链技术为内容生成不可篡改存证记录[18] 公众应对策略 - 加强普法宣传,提高公众法律意识[19] - 提升辨别能力,观察视频生物特征等细节[20] - 遇到可疑信息先暂停传播,寻找可靠来源[20] - 减少在公开平台发布清晰人脸照片,降低被伪造风险[20]
不断深耕行业 做专业领域研究者 不断探索未知 做创意表达传播者
南方都市报· 2025-05-17 07:13
职业发展路径 - 从财经记者转型为金融科技课题研究员,并拓展至视频编导、出镜主播、大型传播活动策划等多重身份,职业路径呈现高度多元化[2] - 7年内主笔编制15份数字金融领域研究报告,研究能力覆盖数据采集(300万条网络数据)、问卷调查(近万份)等专业方法[3][6] - 2025年出版首本研究报告《广州市数字金融发展报告(2023-2024)》,并在行业交流会上进行专业解读,标志专家型记者身份确立[6] 数字金融研究 - 通过装上百个金融类App进行长期监测,建立互联网金融产品数据库,熟悉用户协议、隐私条款等细节,形成近百个测评维度体系[3] - 完成近50篇测评调查报道,涉及高利贷套路、超利率违规、互联网保险套路、财商课话术等细分领域,采用政策研读+卧底调查+专家访谈的复合研究方法[5] - 2023年通过卧底调查揭露"非法代理维权"黑产运作模式,报告持续被行业引用,推动治理改进[4][5] 新兴领域研究 - 开辟老龄化与老年数字生活研究课题,4年发布6份报告,策划反诈主题展览吸引87岁老人持续学习,建立"老年人需求模拟"研究群[7] - 2024年启动"AI新治向"课题,跟踪电商平台AI假图治理、AI生成色情内容风险、高校论文滥用等前沿议题,形成技术风险快速响应机制[8] - 建立每日科技播客学习习惯,持续更新AI商业应用、前沿理论等知识体系[8] 视频内容创作 - 2019年创立《南都金融实验室》栏目,疫情期间独立完成居家视频制作,后续开发《两只金钱豹》《湾区100》等系列栏目[9] - 《湾区100》栏目通过"8亿只鸡/年""1/10茶叶消费量"等数据化叙事解读大湾区发展,覆盖深中通道、广交会等重大主题[10] - 2025年推出AI辅助制作的《AI又整啥?》栏目,采用AI虚拟主播+真人互动的形式科普技术风险[10] 行业影响 - 数字金融研究从监督治理延伸至行业共建,参与制定小微金融健康发展、金融科技趋势等宏观报告[6] - 老年数字生活研究推动线下反诈公益活动,形成"调研-科普-展览"的完整服务链[7] - 视频内容实现从财经报道到数据叙事的创新突破,单条视频最高传播量达百万级[9][10]