Workflow
深度伪造
icon
搜索文档
FT中文网精选:AI假发票是个大问题
日经中文网· 2025-11-13 10:46
FT中文网 . 编者荐语: 日本经济新闻社与金融时报2015年11月合并为同一家媒体集团。同样于19世纪创刊的日本和英国的两家 报社形成的同盟正以"高品质、最强大的经济新闻学"为旗帜,推进共同特辑等广泛领域的协作。此次, 作为其中的一环,两家报社的中文网之间实现文章互换。 以下文章来源于FT中文网 ,作者英国《金融时报》 英国《金融时报》集团旗下唯一的中文商业财经网站,旨在为中国商业菁英和决策者们提供每日不可或 缺的商业财经资讯、深度分析以及评论。 伪造文件的低门槛正在威胁金融信任。 (本文由FT中文网提供) 过去,企图报销造假的人手段相当原始:一台复印机和一瓶修正液;再加上几张由热心的出 租车司机提供的空白车票。如今,手法既更"高级",又更容易。正如英国《金融时报》本周 报道的那样,图像生成式人工智能的出现,催生了大量由AI生成的假发票,正在助长报销欺 诈。这些假发票配有仿真的商标、地址和明细,甚至还模拟了折痕和咖啡渍。 人们高度关注一种可能性:精心制作的AI生成"深度伪造"——即被篡改的视频或音频,能够 让知名人物"说出"从未说过的话——可能被用于政治肮脏伎俩或金融诈骗。但"欺骗的民主 化"也会助长更基础 ...
巴菲特罕见发声→
新华网财经· 2025-11-08 12:11
当地时间6日,美国著名投资人巴菲特执掌的伯克希尔-哈撒韦公司发表声明, 紧急澄清视频平台优兔上传播的几段关于巴菲特发表评论的 视频,是用人工智能伪造的"欺诈性视频",并非巴菲特本人录制。 6日,伯克希尔-哈撒韦公司在其网站上发表声明称,巴菲特注意到,优兔上传播着几段关于巴菲特发表评论的视频,并配有伪造图像或人 工智能生成的图像。一般来说,这类视频图像可能看起来像是巴菲特,但模仿者声音单调,显然不是巴菲特的声音。巴菲特担心,这类欺 诈性视频正在成为一种蔓延的病毒。因为,不熟悉巴菲特的人可能会认为这些视频是真的,并被这些视频的内容误导。自5月伯克希尔股东 大会以来,巴菲特很少公开发表评论。 如今,利用生成式人工智能制造的虚假图片、音频和视频信息等"深度伪造"内容正在快速传播,被用来骚扰他人、诈骗金钱,甚至干扰选 举。业内分析人士指出,如何预防和阻止"深度伪造"内容误导大众,已成为摆在各国政府和科技巨头面前的难题。美国目前在联邦层面没 有旨在控制人工智能风险的法规。上个月,加州州长纽森签署一项监管人工智能聊天机器人的法案,要求聊天机器人运营商在用户与人工 智能聊天机器人互动方面提供"关键"保护措施,如确保聊天机器人 ...
巴菲特也“中招”了?
搜狐财经· 2025-11-08 10:36
如今,利用生成式人工智能制造的虚假图片、音频和视频信息等"深度伪造"内容正在快速传播,被用来骚扰他人、诈骗金钱,甚至干 扰选举。业内分析人士指出,如何预防和阻止"深度伪造"内容误导大众,已成为摆在各国政府和科技巨头面前的难题。美国目前在联 邦层面没有旨在控制人工智能风险的法规。上个月,加州州长纽森签署一项监管人工智能聊天机器人的法案,要求聊天机器人运营商 在用户与人工智能聊天机器人互动方面提供"关键"保护措施,如确保聊天机器人不与未成年人或其他弱势群体谈论自杀等话题。 来源:央视财经微信 当地时间6日,美国著名投资人巴菲特执掌的伯克希尔-哈撒韦公司发表声明,紧急澄清视频平台优兔上传播的几段关于巴菲特发表评 论的视频,是用人工智能伪造的"欺诈性视频",并非巴菲特本人录制。 6日,伯克希尔-哈撒韦公司在其网站上发表声明称,巴菲特注意到,优兔上传播着几段关于巴菲特发表评论的视频,并配有伪造图像 或人工智能生成的图像。一般来说,这类视频图像可能看起来像是巴菲特,但模仿者声音单调,显然不是巴菲特的声音。巴菲特担 心,这类欺诈性视频正在成为一种蔓延的病毒。因为,不熟悉巴菲特的人可能会认为这些视频是真的,并被这些视频的内容 ...
巴菲特罕见发声:网传视频是人工智能伪造
搜狐财经· 2025-11-08 09:04
当地时间6日,美国著名投资人巴菲特执掌的伯克希尔-哈撒韦公司发表声明,紧急澄清视频平台优兔上 传播的几段关于巴菲特发表评论的视频,是用人工智能伪造的"欺诈性视频",并非巴菲特本人录制。 6日,伯克希尔-哈撒韦公司在其网站上发表声明称,巴菲特注意到,优兔上传播着几段关于巴菲特发表 评论的视频,并配有伪造图像或人工智能生成的图像。一般来说,这类视频图像可能看起来像是巴菲 特,但模仿者声音单调,显然不是巴菲特的声音。巴菲特担心,这类欺诈性视频正在成为一种蔓延的病 毒。因为,不熟悉巴菲特的人可能会认为这些视频是真的,并被这些视频的内容误导。自5月伯克希尔 股东大会以来,巴菲特很少公开发表评论。 如今,利用生成式人工智能制造的虚假图片、音频和视频信息等"深度伪造"内容正在快速传播,被用来 骚扰他人、诈骗金钱,甚至干扰选举。业内分析人士指出,如何预防和阻止"深度伪造"内容误导大众, 已成为摆在各国政府和科技巨头面前的难题。美国目前在联邦层面没有旨在控制人工智能风险的法规。 上个月,加州州长纽森签署一项监管人工智能聊天机器人的法案,要求聊天机器人运营商在用户与人工 智能聊天机器人互动方面提供"关键"保护措施,如确保聊天机器 ...
巴菲特也“中招” 伯克希尔公司紧急澄清!发生了什么?
每日经济新闻· 2025-11-08 08:15
6日,伯克希尔-哈撒韦公司在其网站上发表声明称,巴菲特注意到,优兔上传播着几段关于巴菲特发表 评论的视频,并配有伪造图像或人工智能生成的图像。一般来说,这类视频图像可能看起来像是巴菲 特,但模仿者声音单调,显然不是巴菲特的声音。巴菲特担心,这类欺诈性视频正在成为一种蔓延的病 事实上,不只是巴菲特这样的投资大师深受AI伪造视频之苦。在国内,也有不少学者、名人等成为AI 假视频的受害者。 今年3月,据央视财经报道,网络上曾出现中国工程院院士张伯礼为某美白护肤品做宣传的视频。但张 伯礼本人表示,这些内容全是假的,"我从来没用过这个护肤品,我也没做过这方面的宣传,更没研究 过,所以里边完全是编造的。" 据智通财经,近日,演员温峥嵘被AI盗播带货的新闻受到诸多关注。她自曝刷到AI盗播自己的直播 间,上前质问竟被拉黑,以至于"我现在很难证明我是我。" 对此,抖音集团副总裁李亮11月6日在社交平台发文称,经核查后发现,被曝光的"三个直播间同时开 播"案例并非发生在抖音平台。经过与相关方联系,并根据投诉线索核查,发现平台上确实存在一些利 用AI仿冒名人带货的短视频内容。 李亮还表示,这类AI侵权仿冒行为,严重损害了创作者、商 ...
金融壹账通亮相香港科技周2025 展示业内领先的金融数字化解决方案
环球网· 2025-11-07 11:22
活动概况 - 香港金融科技周与创业节于11月3日至7日举行 恰逢十周年庆典 吸引超过100个经济体的37000名与会者 800余名演讲嘉宾及700多家参展机构 [1] - 金融壹账通作为FinTech Partners参与 通过主题演讲和设置展位展示AI驱动的金融机构数字化转型解决方案 [1] 公司技术展示与演讲 - 公司香港CEO金新明博士在China-Global Innovation Forum发表主旨演讲 解析深度伪造技术框架 指出传统检测方法不足 强调采取先进主动安全措施的迫切性 [1] - 公司展示的反欺诈策略平台涵盖超过25个数字模块 可对AI伪造图像进行深度剖析 高效辨识对抗性换脸和伪造视频等复杂攻击 [2] - 该平台在抗深度伪造环节综合防御率高达99% [2] - 展位重点介绍了数字化银行和保险解决方案 包括AI财富管理 信贷系统 营销活动管理等产品 AI驱动的深度伪造检测和电子身份验证解决方案受到多位嘉宾浓厚兴趣 [2] 市场地位与客户基础 - 公司作为平安集团对外金融科技输出的唯一窗口 依托集团强大技术基础 [2] - 公司支持香港政府的"iAM Smart"计划 并为香港超过60%的银行提供解决方案 其增强型eKYC平台和AIGC深度伪造检测技术等创新方案获得客户青睐与支持 [2] 行业趋势与公司愿景 - 金融行业数字化进程将持续加速 安全是行业基石 [2] - 公司致力于与合作伙伴共同打造更安全 更智能的金融生态系统 [2]
OpenAI承诺加强AI视频安全监管 严控Sora深度伪造风险
环球网资讯· 2025-10-21 12:05
合作声明与核心目标 - OpenAI与美国演员工会(SAG-AFTRA)共同发布联合声明,宣布建立深度合作机制,重点防范其AI视频生成工具Sora可能引发的深度伪造(Deepfake)滥用问题 [1][3] Sora技术能力与潜在风险 - Sora作为文本到视频生成模型,具备“1分钟长视频生成”、“物理规律模拟”、“多镜头叙事”等能力,自曝光以来引发全球关注 [3] - 其强大的内容生成能力带来深度伪造风险,不法分子可能利用该技术伪造名人影像、篡改历史事件或制造虚假新闻,对个人名誉、社会信任甚至国家安全构成威胁 [3] OpenAI的具体合作措施 - 在Sora后续版本中实施严格的“选择加入”(Opt-In)政策,所有艺术家、表演者及普通用户需明确授权后,其声音、肖像方可被用于AI生成内容 [3] - 建立快速响应机制,对涉嫌侵权的生成内容进行下架处理,并配合执法部门追溯源头 [3] - 向合作方开放部分技术细节,鼓励第三方机构开发深度伪造检测工具,目前已有斯坦福大学、MIT等高校参与相关研究,试图通过算法识别AI生成内容的微小瑕疵 [3]
权重股B站、快手大涨,“AI应用ETF”——线上消费ETF基金(159793)涨超1.5%
搜狐财经· 2025-10-21 10:09
OpenAI Sora监管动态 - OpenAI与演员布莱恩·克兰斯顿及美国演员工会等表演者工会合作,以防范其AI视频生成应用Sora的深度伪造内容[1] 中证沪港深线上消费主题指数表现 - 截至2025年10月21日09:48,中证沪港深线上消费主题指数(931481)强势上涨1.47%[1] - 指数成分股哔哩哔哩-W(09626)上涨6.88%,快手-W(01024)上涨3.04%,阿里巴巴-W(09988)上涨3.03%,心动公司(02400)与京东健康(06618)等个股跟涨[1] - 线上消费ETF基金(159793)上涨1.60%,最新价报1.08元[1] - 拉长时间看,截至2025年10月20日,线上消费ETF基金近3月累计上涨10.95%[1] 线上消费ETF基金及指数构成 - 线上消费ETF基金紧密跟踪中证沪港深线上消费主题指数[1] - 中证沪港深线上消费主题指数从内地与香港市场中选取50只主营业务涉及线上购物、数字娱乐、在线教育以及远程医疗等领域的上市公司证券作为指数样本[1] - 截至2025年9月30日,指数前十大权重股合计占比55.76%[2] - 前十大权重股包括阿里巴巴-W(权重9.25%)、腾讯控股(权重9.65%)、快手-W(权重6.05%)、美团-W(权重8.37%)、京东健康(权重3.98%)、巨人网络(权重2.53%)、哔哩哔哩-W(权重3.52%)、科大讯飞(权重3.88%)、恺英网络(权重2.61%)、昆仑万维[2] 指数成分股具体涨跌与权重 - 哔哩哔哩-W(09626)涨跌幅6.88%,权重3.52%[4] - 快手-W(01024)涨跌幅3.04%,权重6.05%[4] - 阿里巴巴-W(09988)涨跌幅3.03%,权重9.25%[4] - 腾讯控股(00700)涨跌幅1.35%,权重9.65%[4] - 美团-W(03690)涨跌幅1.60%,权重8.37%[4] - 京东健康(06618)涨跌幅2.61%,权重3.98%[4] - 科大讯飞(002230)涨跌幅2.14%,权重3.88%[4] - 金山软件(03888)涨跌幅1.58%,权重2.78%[4] - 恺英网络(002517)涨跌幅0.08%,权重2.61%[4] - 巨人网络(002558)涨跌幅1.69%,权重2.53%[4]
向“AI残渣”宣战!马斯克称Grok将能识别AI生成视频并追溯来源
智通财经网· 2025-10-13 11:28
公司技术动态 - xAI公司开发的聊天机器人Grok将推出新功能,能够识别AI生成视频并追踪其网络来源 [1] - Grok新功能可直接在视频比特流中分析AI生成特征,识别压缩或生成过程中留下的肉眼不可见的微妙痕迹 [1] - Grok能够分析视频比特流中的人工智能特征,并进一步搜索互联网以评估其来源 [2] 行业技术趋势与挑战 - 随着OpenAI的Sora App爆红,AI视频生成技术正在重塑互联网生态 [1] - OpenAI的Sora 2具备自然光影一致性、音画同步和多人物逻辑连贯性,使AI合成视频与真实拍摄几乎无法区分 [1] - AI伪造视频的传播速度已超越事实查证机制,引发了从名人造谣到政治操纵的广泛社会担忧 [1] - 大量生成、未经验证的AI影像正充斥网络,被批评者称为"AI Slop"(AI残渣) [1] - 任何个人都可能被生成做出或说出恶劣言行的虚假视频,且这些视频与真实录像几乎无法区分 [2]
硬刚Sora 2,马斯克发视频大模型,免费可玩,前英伟达何宜晖参与
36氪· 2025-10-08 13:52
公司产品发布与定位 - xAI发布最新视频生成模型Imagine v0 9并免费向所有用户开放 [1] - 此次发布被视为对OpenAI一周前发布旗舰视频和音频生成模型Sora 2的直接回应 [1] - Imagine v0 9集成到Grok中 可根据文字生成图片再创建视频或将用户上传图片变成视频 [5] 产品性能与技术特点 - Imagine v0 9的视频生成时间不到20秒 用户可通过语音优先界面创建视频、图像和文本 [1] - 模型在视觉质量、动作、音频生成方面相比初代版本有所升级 [1] - 模型突破原生音频+视频生成界限 支持开箱即用创建类似电影效果的视频 [5] - 主要升级点包括运动控制使动作丝滑、支持添加动态相机效果如智能焦点转移、支持添加自然对话或生成表现力歌声 [5] - Imagine v0 9生成的视频时长在6秒左右 而Sora 2支持15秒视频生成 [3] 市场竞争与产品对比 - Imagine v0 9生成速度在20秒以内 Sora 2生成视频可能需要一两分钟 [3] - Imagine v0 9已免费开放 Sora 2采用邀请制允许部分用户使用 [3] - 对比测试显示Imagine v0 9存在提示词理解错误、视频画面与音频不符、无法说中文等情况 [3][6][7] - 在特定提示词测试中 Imagine v0 9生成的视频音频未包含关键元素如“喊叫” 或出现无视重力的动作 [6] 技术团队与人才动向 - 此次发布是马斯克今年7月挖走英伟达高级算法工程师何宜晖后 其在xAI参与的第一个项目 [3] - 何宜晖曾参与英伟达世界基础模型Cosmos研发 拥有卡内基梅隆大学计算机视觉硕士学位 [3] 产品可用性与潜在风险 - Imagine v0 9的Web端目前无法正常工作 移动端可体验但会出现连接失败情况 [4] - 模型的自定义语音功能允许用户上传公众人物照片及说话内容生成视频 技术成熟后可能带来深度伪造风险 [8] - 在测试中 该功能生成的声音与名人本人略有区别 且未提示深度伪造风险 [7]