行业政策与组织动态 - 上海人工智能安全工作委员会揭牌成立 旨在推动AI+安全技术协同与治理创新 应对深度伪造和数据投毒等新型威胁[1] - 委员会由上海市人工智能行业协会设立 代表企业包括上海仪电集团、商汤科技、稀宇极智、阶跃星辰、斗象科技和上海观安等[1] - 上海网络安全产业规模较"十四五"初实现倍增 将重点推动安全与AI双向融合 布局智能机器人和低空经济等新兴领域安全产业[2] 技术发展与安全挑战 - AI技术带来模型窃取和数据投毒等新型威胁 传统安全防护思路难以应对 需采用体系化和结构性防范思路[1] - 大模型生命周期各关键节点需做好安全防护 包括训练阶段数据源验证、开发阶段软件供应链安全、测试阶段社会伦理检测及上线后安全运营[1] - 委员会将通过集思广益联合产业链上下游 推出相关标准和指南共同防范大模型各维度安全风险[2] 区域产业布局与发展 - 上海以普陀网络安全产业示范园为核心 建设面向长三角及全国的网络安全产业承载区 联动徐汇模速空间和浦东张江构建协同发展格局[2] - 普陀区作为市级网络安全产业示范区 已形成政策平台技术生态四位一体格局 集聚网安企业近百家 2024年产业营收突破70亿元[2] - 普陀将深度融入沿沪宁产业创新带国家战略 打造区域网络安全引力场[2] 创新成果与能力建设 - 发布《2024年度上海市网络安全产业创新攻关成果目录》 涵盖AI安全和量子安全等14个方向的20项创新成果[3] - 上海将持续打造头部网安企业标杆 培育AI安全车联网安全和软件供应链安全等新兴领域小而精网安主体[2] - 建设一批安全能力平台 牵引产品迭代和服务升级 提升重点领域安全防护能力[2]