Shadow AI
搜索文档
Crowdstrike CEO: AI agents need to be secured, controlled, and governed
Youtube· 2026-06-23 05:14
AI代理安全趋势与行业动态 - AI与代理世界发展速度极快,远超技术职业生涯中所见,代理与模型持续变得更智能,形成自我增强的滚雪球效应 [3] - 更智能的代理能力更强,潜在破坏力也更大,市场活动与论文显示,这些代理必须被保护、控制与管理,以防失控造成重大问题 [4] - 谷歌DeepMind等大型企业正探讨如何防御AI代理或与之相关的威胁,表明行业发展迅速,连主要参与者也在匆忙制定防御策略 [2] 安全角色的转变与商业机遇 - 安全角色从传统的“刹车”转变为“加速器”,企业能够越快控制、管理并为代理提供托管身份(非人类身份),业务发展就能越快 [5] - 从董事会到高管层,关注重点在于AI实施速度及业务杠杆效应,缺乏安全则无法实现,这为行业创造了巨大顺风 [6] - 识别“流氓代理”或“影子AI”,理解其行为并锁定这些代理,是CrowdStrike面临的巨大机遇,也是企业客户的需求 [6] CrowdStrike的业务定位与技术方案 - 作为终端安全领导者,CrowdStrike处于绝佳位置,因为AI活动主要发生在终端设备(如电脑、笔记本)上,公司是该领域的全球领先技术提供商之一 [7][8] - 过去三个季度,终端业务加速增长,因企业意识到代理运行在电脑上并与人类并行工作,需要了解其身份、接触的数据、调用的系统及行为 [9] - 公司已推出AIDR(AI检测与响应),这是其终端检测与响应技术的演进,市场反响极佳 [10] 企业面临的挑战与应对 - “影子AI”是真实问题,挑战包括识别AI发生地点、使用模型类型、调用工具及从互联网下载可能不安全的软件包 [12] - 企业面临“代币经济学”挑战,关注代币支出并寻求模型的经济化,导致许多中国模型被使用,并出现大量内部模型设置以控制高昂成本 [12][13] - 企业决策将兼顾成本经济化与适当安全水平,这超出了仅关注前沿模型制造商的范围 [13]