文章核心观点 - 2025年9月15日，《人工智能安全治理框架》2.0版正式发布，旨在应对生成式AI落地过程中日益突出的安全风险，为产业风险防控划定关键方向[1] - 生成式AI市场正经历爆发式增长，预计2028年全球市场规模达2842亿美元，中国市场规模突破300亿美元，占AI总投资的30.6%，但内容合规、数据安全等风险制约产业发展[2] - 数美科技发布《AIGC全生命周期业务风控白皮书》，构建了一套贯穿AIGC应用上线前安全评估、上线后风险防控、长期运营保障的全生命周期业务风控体系，为行业提供实践路径[3] 政策与行业背景 - 国家AI风险治理布局深化，2025年8月国务院印发《关于深入实施"人工智能+"行动的意见》，此次治理框架2.0的发布进一步完善了AI安全治理体系[2] - 安全治理是AI赋能千行百业的基石与前提，这一认知因框架的发布而更加明确[2] AIGC风控白皮书核心框架 - 白皮书从全流程视角出发，构建了覆盖AIGC应用全生命周期的业务风控体系[3] - 体系核心包括破解"双备案"难题、筑牢大模型安全评测基线、构建账号与内容双轮风控体系、强化全周期运营保障[5][6][8][11] 合规备案解决方案 - 系统性拆解"算法备案+大模型备案"的双备案制度困境，明确两者在流程和核心材料上的差异[5] - 提供具体解决方案，如语料安全评估需满足不良信息占比<5%、人工抽检合格率≥96%，敏感内容拒答率需达95%以上[5] - 解答接入开源大模型是否需备案、企业内部使用是否合规等高频问题，帮助企业精准定位备案义务[5] 大模型安全评测体系 - 明确企业需具备四大基础能力：百万级敏感测试题集、全场景验证能力、语料安全评估体系、专业蓝队组建[6] - 提供设计攻击指令、构建测试题集、自动化与人工协同测试、输出评测报告四步核心执行方案[7] - 强调评测需贯穿运营全周期，备案后每月提交报告，模型升级需重测，确保风险动态可控[7] 账号与内容风控策略 - 账号风控从资源层和行为层双维度构建体系，防御黑产偷算力、薅羊毛等问题[8] - 资源层识别同设备短时间注册超5个账号、手机号归属地与IP地域不符等异常信号[8] - 行为层通过频度特征、关联特征、聚集特征定位批量注册、账号倒卖等风险行为[8] - 内容风控创新性提出"AI机器审核+大模型审核Agent+人工审核"的新范式，并配套四级风险标签体系[10] - 新范式在精准性、高效性、用户体验和成本方面实现优化，支持高并发场景下的实时合规校验[10] 运营保障与动态迭代 - 提出监测预警、研判分析、布控处置、效果复盘的全周期舆情解决方案，实现7×24小时极速响应，突发舆情10分钟内启动流程，2小时内完成全链路布控[11][12] - 构建数据驱动的效果迭代体系，通过用户反馈和红蓝对抗推动风控策略小时级更新，定期开展主动评测前瞻性暴露漏洞[14] 行业应用案例 - 白皮书精选AI社交、AI办公、AI视频、开源大模型4个领域的标杆案例，提供可迁移借鉴的经验[15] - 案例显示，通过定制化风控方案，平台在合规性、用户体验和增长质效上均取得显著提升，如某平台违规内容识别准确率达99%[15] - 风控能力被视为企业在AIGC千亿市场赛道上的"护城河"，是突破增长瓶颈、实现安全发展的关键[16]

人工智能战略定位 - AI从辅助工具跃升为驱动社会变革的核心引擎 国务院出台《人工智能＋》行动意见推动技术与应用双向赋能 [1] - AI成为高质量发展的关键增量 核心价值体现在赋能 减负 提质 增效四个维度 [3] - 意见紧扣全球科技趋势 以战略性布局引领方向 科学性设计推动融合 指导性举措明确路径 及时性部署抢抓机遇 [4] 产业赋能应用 - AI拓展科学研究认知边界 如AlphaFold破解蛋白质折叠难题 支持科研范式转型加速创新成果转化 [3] - 智能制造领域车企通过AI维护系统将设备故障率降低20% 教育领域AI定制学习路径 医疗领域成为智能助手 [3] - AI通过自动化技术将人们从危险繁重工作中解放 创造智能化就业机会和工作方式 关注民生提振消费 [3] - 社会治理领域提升应急效率 生态治理领域实现实时监测模拟推演 推进治理能力精准提升 [4] 技术风险挑战 - 大模型存在黑箱特征 不可解释性导致决策逻辑难理解 鲁棒性不足易受对抗攻击 幻觉问题生成虚假内容 [6] - AI价值观是数据投射 训练数据偏见被模型放大 可能无意识传播与主流价值观相悖内容 影响社会和谐 [6] - 深度伪造技术生成以假乱真音视频 海量数据依赖导致隐私泄露风险 AI驱动网络攻击威胁个人安全与社会稳定 [6] 安全治理体系 - 构建四位一体协同治理体系 完善法律法规体系 构建多元公共安全体系 建设网络空间治理体系 建立智能应急体系 [8] - 技术安全方面开发可解释AI使决策透明化 通过对抗训练提升模型抗攻击能力 研发内容真实性检测算法 [9] - 伦理安全方面通过强化学习将中华传统文化与社会主义核心价值观嵌入模型 优化内容审核与行为约束技术 [9] - 应用安全方面制定数据保密网络安全供应链安全管理办法 引导安全行业数智转型 提升公众风险意识 [9] - 国家安全层面加快建设全维度安全测评体系 参与全球治理规则和技术标准制定 推动智能向上向善理念 [9]

城市治理工作重点 - 将提高城市治理现代化水平摆在更加突出位置 以更高标杆推动城市治理提质增效 [2] - 在精细治理上下功夫 加强市容市貌管理 市政设施管养 城市秩序维护 聚焦城郊接合部 背街小巷 农贸市场周边等重点区域 紧盯交通管理 环境卫生 停车秩序等方面突出问题开展综合整治 [2] - 在智慧治理上下功夫 以一网统管建设为统领 加强数字平台优化整合 拓宽数字治理应用场景 推动智慧城市建设迭代升级 [2] - 在安全治理上下功夫 加强高层建筑 人员密集场所 老旧小区等重点领域隐患整治 完善安全风险处置机制 提升极端天气等自然灾害应对能力 [2] - 在人文治理上下功夫 推进老旧空间保护与活化利用 提高公共休闲活动场所供给 加强公共设施适老化 适幼化改造 关心关爱残疾人等特殊群体 [2] - 在协同治理上下功夫 动态调整城市治理体制机制 构建大城管工作体系 注重部门协同 市区联动 市民参与 [2] 绿化园林发展策略 - 坚持走科学 生态 节俭的绿化发展之路 呵护宝贵绿色财富 [3] - 科学规划设计 坚持以人为本 高水平编制十五五园林绿化规划 突出本土化 彩化 园林化 林荫化 景观化 [3] - 精心做好行道树树种选择 种植管护 完善城市绿地系统 加强绿道网络建设 认真实施绿化导则 营造多样化 立体化 网络化绿化景观 [3] - 以落实林长制为抓手 强化责任落实 制度管护 加强森林 古树名木 湿地 自然保护地 江豚等资源保护 [3]

大会概况 - 2025世界人工智能大会(WAIC)在上海开幕 主题为"智能时代 同球共济" 展览面积首次突破7万平方米 创历史之最 [1] - 现场吸引800余家企业参展 展出40余款大模型 50余款AI终端产品 60余款智能机器人等3000余项前沿展品 [1] - 大会聚焦智能终端与具身智能 科学智能 安全治理等热点话题 汇聚12位国际顶尖奖项得主 80余位中外院士及30余国1200余位嘉宾 [3][5] 行业规模与增长 - 展览面积从2023年5万平米增至2025年7万平米 参展企业从400家增至800家 大模型数量从30款增至近百款 [5] - 线下参观人数从2023年17 7万人次增至2024年30万人次 促成的产业项目投资额从2022年150亿元增至2024年超400亿元 [5] - 具身智能领域进展显著 人形机器人从2023年需支架支撑发展到2025年多家公司实现量产 灵巧手厂商出货量从少量增至约1000台 [9] 技术应用与商业化 - 人形机器人功能升级 可完成打鼓 分拣零件 零售场景商品递送等操作 智平方机器人依托VLA大模型已进入汽车制造等领域 [10][12] - AI硬件形态创新 Mochi推出搭载多模态情感模型的AI电子宠物 通过用户互动收集反馈 [14] - 大模型商业化加速 面壁智能与3家手机厂商 4家车机厂商合作 阶跃星辰端侧模型(2B-3B参数)已接入手机实现屏幕识别功能 [14][15] - 百度发布新一代数字人技术NOVA 无限光年推出科学智能开放平台和金融AI解决方案 月之暗面开源万亿参数模型Kimi K2 [16] 国际影响力 - 上海通过WAIC等平台汇聚全球创新资源 加速建设国际AI高地 联合国教科文组织将发布"全球AI治理规则地图"并成立研究平台 [1][7] - 诺贝尔奖得主辛顿强调AI安全议题 呼吁国际社会预防AI控制权转移 大会将发布《中国人工智能安全承诺框架》等治理成果 [3][7]

WAIC大会规模与影响力 - 2025年WAIC展览面积突破7万平方米创历史之最吸引800余家企业参展展出3000余项前沿展品包括40余款大模型50余款AI终端产品60余款智能机器人[1] - 参会嘉宾来自30余个国家和地区包括12位国际顶尖奖项得主80余位中外院士和多个国际顶尖实验室代表共1200余位嘉宾确认参会[2] - 2023年WAIC线下参观人数17.7万人2024年突破30万人次2022-2024年签约项目总投资额从150亿元增长至400亿元[3] AI技术商业化进展 - 人形机器人量产进程加速多家公司年产量达上百台至上千台灵巧手厂商出货量从去年少量增长至今年约1000台[5] - 具身智能机器人展示工业分拣零售场景应用等能力如AlphaBot实现1秒内多次敲击架子鼓1分半完成咖啡制作[5][6] - AI电子宠物等新兴硬件出现搭载多模态情感模型通过显示屏和声音交互测试用户接受度[7] 大模型开源与商业合作 - 端侧模型厂商与手机车机厂商合作加速面壁智能合作3家手机厂商4家车机厂商车型下半年开售[9] - 阶跃星辰端侧模型参数量2B~3B已接入手机屏幕辨识功能合作模式包括技术服务费或按设备销量分成[9] - 月之暗面开源万亿参数模型Kimi K2在SWE Bench等测试中达到开源模型SOTA表现[11] 行业生态与成果发布 - 百度慧播星发布数字人技术NOVA实现超头部主播能力复刻量产无限光年推出科学智能平台和金融AI解决方案[10] - 大会发布"妈祖"预警系统"全球AI治理规则地图"上海工业智算云平台等多项治理与技术成果[4]

安全理念与实践 - 将安全视为一切工作的前提和基础，强调"人人讲安全、个个会应急"的理念融入日常行动 [1] - 公司党委通过"班子领学+全员践学""案例剖析+专题研讨"深化安全责任意识，破除"重发展轻安全"思维惯性 [2] - 构建"三维立体"警示教育体系，包括政治警示、技术警示（VR技术还原事故场景）和文化警示，推动隐患排查从被动转向主动 [5] 新能源项目进展 - 中国绿发金塔多能互补基地10万千瓦光热电站并网，为国家第二批"沙戈荒"基地中唯一的"光热+"试点示范项目 [3] - 330千伏线路绝缘子更换工作强化设备本质安全，支撑新能源外送 [5] 隐患排查与应急机制 - 创新"安全眼"监督平台，建立"隐患随手拍-智能诊断-闭环治理"全链条机制，配套"啄木鸟"积分奖励激励全员参与 [7] - 重点排查新能源外送通道和重要工业用户供电线路等关键设施隐患 [7] - 修订应急预案31项，开展无脚本实战演练提升应急能力 [7] 重大活动保障 - 对神舟二十号载人飞船组装基地和发射塔架涉及的供电线路开展特巡 [7] - 110kV带电作业（如搭接隔离开关上引线）保障电网稳定运行 [9] 战略定位与目标 - 作为酒泉千万千瓦级新能源基地的骨干电网企业，明确安全是国家战略基石 [2] - 持续完善共建共治共享的安全治理格局，应对新能源高占比电网的挑战 [9]