Workflow
风云卫大模型
icon
搜索文档
效率提升VS安全暴露,企业级AI落地如何应对“双刃剑”丨ToB产业观察
钛媒体APP· 2025-11-04 14:08
将隐藏"白色提示词"(一些人类肉眼无法看见,但程序却能识别的文字)的PDF文件导入某商业大模 型,隐形文字瞬间操控模型判定伪造简历 "完全符合录用标准",短短3分钟就"骗取"了27份企业offer ——这是腾讯云副总裁、玄武实验室负责人于旸在一场安全主题的大会上举的例子,但"这不是魔术, 而是AI时代最典型的攻击手段。" 而这个现象并不是偶然,随着AI大模型在企业侧的应用逐渐普及,类似的场景比比皆是,绿盟科技董 事、高级副总裁、CTO叶晓虎对笔者表示:"我们监测到,提示词注入攻击在金融行业的发生率已从 2024年的12% 飙升至2025年三季度的47%。" AI落地的背后,安全"不容忽视" 中国信通院数据显示,2024年中国人工智能产业规模已超9000 亿元,同比增长24%。截至2025年9月, 人工智能企业数量 5300 家,全球占比达到15%。AI已经成为数字经济不可或缺的一部分,也是当前数 字经济增长的主要动能。 与AI快速发展并行的,是安全问题,"大模型的安全风险具有双重性,它既是生产力工具,也是攻击放 大器。"中国工程院刘权曾公开表示。 据国家互联网应急中心发布的大模型实网众测显示,国内10家AI厂 ...
弈动 Dynamic·数智跃迁 博弈无界|2025TechWorld智慧安全大会在京召开
搜狐网· 2025-10-25 08:39
大会概况 - 2025 TechWorld智慧安全大会于10月24日在北京召开,主题为“弈动 Dynamic·数智跃迁 博弈无界” [1] - 大会是绿盟科技连续第十三年主办的行业盛会,已成为中国网络安全行业年度重要交流平台 [1] - 大会汇聚国家部委、院士学者、高校科研机构及企业专家,共议AI安全、数据安全与攻防对抗三大核心议题 [1] 公司战略与方向 - 绿盟科技以“数”与“智”为核心方向,聚焦AI安全、数据安全与实战攻防三大领域 [3] - 公司秉持开放、协同理念,致力于与产业伙伴共筑可信、可持续的智慧安全体系 [3] - 公司智慧安全理念从1.0的“连接,协同”演进至3.0的“全场景、可信任、实战化”安全运营能力 [15] AI安全领域 - 公司积极构建AI安全新生态,推动传统安全产品融入智能能力,并推出系列创新方案应对大模型应用趋势 [3] - 2023年公司发布风云卫大模型,确立以风云卫AI安全能力平台为核心打造AI+安全生态 [15] - 公司以“双域共生”、“动态净化”、“双路径推理”等核心技术探索大模型个性化持续学习与未知威胁检测 [17] - 大模型安全成为AI时代新攻防焦点,公司以“以模治模”理念构建四大安全智能体应对五大风险维度 [20] 数据安全领域 - 公司以“识别—保护—流通—治理”为主线完善数据要素安全体系,推动数据安全与合规 [3] - 公司以数据安全3.0为框架构建全生命周期防护体系,通过可信数据空间与AI智能体推动数据要素高效流转 [19] - 高质量数据治理被视为激活数据要素潜能、助力数字经济高质量发展的关键 [6] 实战攻防领域 - 公司持续强化体系化防御能力,依托智能化手段提升攻防效能,完善从风险发现到修复的闭环管理 [3] - 基于软件定义欺骗防御的“四蜜体系”通过平台化、可编程特性为主动防御提供新技术路径 [12] - 安全体系正经历从静态防守向动态博弈的根本性变革 [17] 行业趋势与外部观点 - 数字经济正从“数字产业化”向“产业数字化”全面延展,展现数字技术与实体经济深度融合趋势 [4] - 电力行业采用“开源+闭源”模式构建行业大模型,如国家电网“光明电力大模型”、南方电网“大瓦特”模型 [8] - 大模型使AI具备任务规划、世界知识推理等能力,AI软硬件呈现“双向奔赴”态势,算力成本不断下降 [11] - 应把AI安全纳入统一安全防护体系,按关键信息基础设施保护要求完善全链路防护 [8]