行业政策与组织动态 - 上海人工智能安全工作委员会揭牌成立 旨在推动AI+安全技术协同与治理创新 应对深度伪造和数据投毒等新型威胁[1] - 委员会由上海市人工智能行业协会设立 代表企业包括上海仪电集团、商汤科技、稀宇极智、阶跃星辰、斗象科技和上海观安等[1] - 上海网络安全产业规模较"十四五"初实现倍增 将重点推动安全与AI双向融合 布局智能机器人和低空经济等新兴领域安全产业[2] 技术发展与安全挑战 - AI技术带来模型窃取和数据投毒等新型威胁 传统安全防护思路难以应对 需采用体系化和结构性防范思路[1] - 大模型生命周期各关键节点需做好安全防护 包括训练阶段数据源验证、开发阶段软件供应链安全、测试阶段社会伦理检测及上线后安全运营[1] - 委员会将通过集思广益联合产业链上下游 推出相关标准和指南共同防范大模型各维度安全风险[2] 区域产业布局与发展 - 上海以普陀网络安全产业示范园为核心 建设面向长三角及全国的网络安全产业承载区 联动徐汇模速空间和浦东张江构建协同发展格局[2] - 普陀区作为市级网络安全产业示范区 已形成政策平台技术生态四位一体格局 集聚网安企业近百家 2024年产业营收突破70亿元[2] - 普陀将深度融入沿沪宁产业创新带国家战略 打造区域网络安全引力场[2] 创新成果与能力建设 - 发布《2024年度上海市网络安全产业创新攻关成果目录》 涵盖AI安全和量子安全等14个方向的20项创新成果[3] - 上海将持续打造头部网安企业标杆 培育AI安全车联网安全和软件供应链安全等新兴领域小而精网安主体[2] - 建设一批安全能力平台 牵引产品迭代和服务升级 提升重点领域安全防护能力[2]

行业趋势 - 中国人工智能产业体系初步构建，相关企业超过4500家，核心产业规模接近6000亿元人民币 [2] - AI技术加速演进，网络安全格局发生深刻变化，需通过算力共享、人才流动与本土化创新推动全球发展 [2] - 智算中心需求激增，传统数据中心租赁需求下降，智算中心增速远超传统数据中心 [3] AI应用场景 - AI在制造、交通、金融、游戏、电商等领域迎来高爆发、高增长，自动驾驶等"杀手级应用"改变行业格局 [3] - 泛制造业通过AI将专业知识模型化，提升工艺一致性，实现数据驱动决策 [3] - 思科提出"AI Ready数据中心"方案，通过更新网络架构与设备，将现有数据中心快速转化为AI就绪状态 [4] 网络安全挑战 - 中国仅有5%的企业达到"成熟"网络安全防护水平，能够有效应对复杂威胁 [6] - 94%的受访者认为网络安全人才短缺是重大挑战，63%的企业有10个以上职位空缺 [6] - 生成式AI被攻击方利用，黑客可快速扫描企业网络，定制化攻击工具 [6] 思科解决方案 - 思科推出AI安全防护体系，包括搭载AI加速器的防火墙设备、Splunk大数据平台及全生命周期服务 [7] - 思科与英伟达合作推出"Secure AI Factory"解决方案，融合英伟达Spectrum-X芯片与思科网络安全体系 [7] - 思科认为AI Ready数据中心是未来增长引擎，将推动业界生产力发展 [7]