Workflow
从首席安全官的视角解码生成式人工智能的影响
Trellix·2024-05-31 09:30

报告行业投资评级 未提及 报告的核心观点 - 生成式AI(GenAI)给首席信息安全官(CISO)角色和网络安全格局带来变革,既带来机遇也带来风险,CISO需适应变化以保障组织安全[5][11] - 多数CISO已使用或计划使用GenAI,认可其对网络安全流程和技术的增强作用,但也担忧其被网络犯罪分子利用,且认为需加强监管[6][11][12] - 随着GenAI应用增加,CISO角色责任和压力增大,需应对技能差距、监管变化等挑战,同时也可借助GenAI提升工作效率和安全防护能力[43][44][48] 根据相关目录分别进行总结 执行摘要 - Trellix委托调查500名北美CISO,76%已在组织中使用GenAI,多数剩余者计划使用;70%目前使用传统AI,26%计划未来12个月使用,常见应用为预测分析软件和自然语言处理工具[6] - 所有已使用GenAI的组织受访者认为其增强了网络安全流程和技术,CISO平均认为GenAI可提高组织员工生产力38%,91%对此表示兴奋[11] - 几乎所有受访CISO(99.8%)认为GenAI在数据隐私保护和道德使用等方面需加强监管,且担忧网络犯罪分子利用其发动攻击,82%报告过去六个月网络攻击数量增加[12][15] 受访者概况 - 2024年3月/4月采访500名CISO(或同等职位),按组织规模等方式划分[16] 主要发现 - GenAI将变革网络安全劳动力运作方式,CISO普遍认为其会增强网络安全流程和技术[21] - 过去六个月Trellix高级研究中心网络攻击增加,有证据显示俄罗斯犯罪集团可能用ChatGPT开展行动,CISO最关注边缘计算、恶意学习等在网络攻击中的应用[22] - 公共部门采用GenAI较慢,更易受攻击,68%的CISO称AI增加日常压力,31%表示显著增加,92%认为AI/GenAI让他们思考未来CISO角色[22] - 几乎所有受访者(99.8%)担忧网络犯罪分子用GenAI发动攻击,攻击速度、频率和规模增加是主要担忧,92%认为无明确监管使用GenAI会使组织面临风险,99.8%认为未来6个月需加强监管,尤其在数据隐私保护方面[23] 第一部分:GenAI与网络安全:风险与益处 - GenAI改变网络安全格局,降低大规模网络攻击门槛,使攻击者可利用廉价AI模型突破传统防御,如ChatGPT可提高钓鱼攻击复杂性[25] - 62%的CISO对组织员工识别包含GenAI的网络攻击缺乏信心,99%报告过去六个月经历过网络攻击,82%经历攻击数量总体增加,主要担忧攻击速度、频率和规模[27] - 公共部门采用AI实践最慢,报告的网络攻击增加最多,且制定AI培训和威胁检测行动计划的比例最低,需增加资金和扩大劳动力[29][32] - 93%的CISO认为包含AI的勒索软件是重大风险,2023年上半年全球勒索软件攻击增加45%,美国2022年年中至2023年年中估计支付13亿美元赎金,医疗行业最关注数据和隐私,91%认为AI可帮助组织抵御勒索软件[36] - 47%的受访者已使用GenAI增强安全内容创建,43%用于安全测试和分析,84%认为其可帮助组织对抗网络犯罪分子[37][38] 第二部分:CISO角色的演变 - 54%的CISO认为自己主要负责维护采用AI技术的安全和合规,需承担网络安全预算分配等多方面责任,且与董事会沟通增多,半数至少季度开会[43] - 90%的CISO认为AI/GenAI使其角色面临更多责任,92%因此思考未来CISO角色,主要压力源是网络安全技能差距和员工培训需求,91%表示没时间关注新技术威胁,87%经常加班[44][48] - 97%的CISO担忧AI使用监管变化,主要担忧国家利用AI植入高级持续威胁,46%担心外部威胁持续会增加网络攻击风险,IT、技术和电信行业63%的CISO非常担忧恶意国家行为者威胁[47] - 42%的CISO表示AI通过增加战略见解和规划缓解压力,91%认为GenAI可简化向董事会报告流程,92%认为其能预测和解决董事会担忧[53][57] - 所有使用GenAI的受访者认为其能增强网络安全流程和技术,未来预计将集成到安全服务边缘、网络检测与响应、数据丢失防护等领域,45%的受访者正在开发AI委员会审查AI工具并实施治理[59] - 89%的CISO认为GenAI工具的采用和集成有助于解决安全运营人员配置问题,47%认为行业同行分享GenAI见解和最佳实践可提高员工应对网络攻击的信心,所有受访者同意若GenAI使安全运营角色冗余,将在组织内重新分配[62][63] 建议 - 增加资金和资源,制定特定行业法规,公共部门CISO尤其需要资金和资源支持GenAI的采用和实施,法规应广泛适用于各行业[64] - 完善法规和合规标准,政策制定者应明确合规标准,为CISO提供指导[65] - 加强安全框架,鼓励资助和采用GenAI增强现有安全措施,如扩展检测与响应、安全服务边缘等[65] - 加强数据隐私保护,55%的受访者认为数据隐私保护在AI使用中需加强监管,应通过联邦隐私法保护组织敏感数据[66] 额外资源 - Trellix XDR平台:通过单一、开放、全面的GenAI驱动的XDR平台降低风险、成本、复杂性并缩短价值实现时间[68] - Trellix Wise:通过GenAI驱动的安全运营,扩展Trellix XDR平台以自动化和加速工作流程,改善事件响应、威胁检测、预防和修复[68] - Soulful Work:探索解决网络人才缺口和增加网络安全多样性的解决方案[68] - Trellix高级研究中心摘要:订阅获取最新网络安全趋势、最佳实践、安全漏洞等信息[68] - Mind of the CISO Research(2023年4月):了解全球500多名CISO的困境和安全运营中心挑战[69] - Mind of the CISO: Behind the Breach Research(2023年11月):500多名安全高管分享管理重大网络安全事件的经验和前进方向[69] - The CISO's Guide to Ransomware(电子书):为CISO和网络安全领导者提供应对勒索软件的实用指南[69]