效率提升VS安全暴露,企业级AI落地如何应对“双刃剑”丨ToB产业观察
将隐藏"白色提示词"(一些人类肉眼无法看见,但程序却能识别的文字)的PDF文件导入某商业大模 型,隐形文字瞬间操控模型判定伪造简历 "完全符合录用标准",短短3分钟就"骗取"了27份企业offer ——这是腾讯云副总裁、玄武实验室负责人于旸在一场安全主题的大会上举的例子,但"这不是魔术, 而是AI时代最典型的攻击手段。" 而这个现象并不是偶然,随着AI大模型在企业侧的应用逐渐普及,类似的场景比比皆是,绿盟科技董 事、高级副总裁、CTO叶晓虎对笔者表示:"我们监测到,提示词注入攻击在金融行业的发生率已从 2024年的12% 飙升至2025年三季度的47%。" AI落地的背后,安全"不容忽视" 中国信通院数据显示,2024年中国人工智能产业规模已超9000 亿元,同比增长24%。截至2025年9月, 人工智能企业数量 5300 家,全球占比达到15%。AI已经成为数字经济不可或缺的一部分,也是当前数 字经济增长的主要动能。 与AI快速发展并行的,是安全问题,"大模型的安全风险具有双重性,它既是生产力工具,也是攻击放 大器。"中国工程院刘权曾公开表示。 据国家互联网应急中心发布的大模型实网众测显示,国内10家AI厂 ...