Workflow
融合安全理念
icon
搜索文档
一道语音指令让从未接入互联网的机器人破防,于是它开始了攻击……
第一财经资讯· 2025-12-08 12:15
文章核心观点 - 网络安全威胁正以前所未有的速度升级,AI驱动的攻击已能快速攻破物理设备,传统被动、碎片化的防御架构已失效,行业亟需用AI重构主动、智能、一体化的新一代安全防御体系 [1][2][4][5] - 安全建设理念需从“合规驱动”转向“效果驱动”,网络安全保险作为一种市场化的效果验证和风险转移工具,正在试点推广,有望倒逼企业建立可验证、可持续的安全运营能力 [7][8] 安全威胁态势升级 - 攻击速度急剧加快:一次成功攻击的平均耗时从2021年的9天缩短至2023年的2天,2024年最快仅需25分钟 [1] - 攻击手段智能化、物理化:在2025年GEEKCON大赛上,攻击者通过语音指令利用大模型Agent的逻辑缺陷,远程控制了一台未联网的机器人,并使其通过近场通讯感染其他同类设备,揭示了机器人集群的系统性风险 [1][2] - AI驱动攻击变革:黑客利用生成式AI模拟合法行为,精准绕过传统规则引擎,并能自动学习防御策略,动态生成变种请求,使传统“头痛医头”的碎片化防御体系形同虚设 [4] 传统安全建设困境 - 建设理念错位:企业安全投入“重采购、轻运维”,愿意为防火墙等硬件付费,却不愿为持续运营和应急响应买单,许多安全订单仅为满足合规要求 [4] - 防御体系失效:复杂的防御工具堆砌产生了大量管理盲区,安全团队疲于应对告警洪流,反而让高危事件被淹没 [4] - 安全认知滞后:多数企业在证明自身安全时停留在概念堆砌,极少提及可验证的标准或认证,安全实践仍停留在“交材料、过检查”的层面,与技术风险严重脱节 [3] AI重构安全防御 - AI大幅提升运营效率:基于大模型的系统,仅用两张4090D显卡,日数据处理量从人工的500个字段跃升至2万个,并能将原始4000条告警降噪90%,压缩至400条可行动事件 [6] - 催生新一代安全架构:行业领先公司正推动架构变革,例如派拓网络的Cortex AgentiX旨在以“代理型AI”打通不同安全模块,实现自主判断与联动响应 Fortinet则提出打造“自学习、自修复、自进化”的安全神经中枢,融合零信任与可解释AI [6] - 面临新挑战:攻击者同样利用AI升级高级持续性威胁(APT)与供应链攻击,若防御方仅将AI视为“更快的检测器”而非“意图理解引擎”,仍将陷入被动 [6] 网络安全保险与效果定价 - 提出效果导向新范式:安全应超越合规,以实际防护效果来评判,大力推广网络安全保险可根据防护效果进行理赔,既能检验安全厂商实力,也能缓解企业焦虑 [7] - 政策推动与试点进展:2023年7月,工信部与金融监管总局联合发文推动网络安全保险发展,并于12月启动首批试点 2024年6月,首批试点完成,累计落地保单超1500个,总保费超1.5亿元,总保额近115亿元,同年11月已启动第二批试点 [7] - 形成市场倒逼机制:保险的保费与理赔直接与企业实际防护能力和攻防结果挂钩,这将倒逼企业建立可验证、可审计、可持续的安全运营机制,使安全真正靠能力说话 [8] 产业根本挑战与呼吁 - 安全需内生于设计:对于具身智能等新技术,需从软硬件设计之初就考虑安全,关注传感器、通信协议、大模型提示词防注入等环节 [2] - 亟需行业协作与经验积累:网络安全行业经验至关重要,需要各方以合作心态定制相应的攻防演练,以应对持续的技术攻防对抗 [3]