政府支持与合作意向 - 河南省委书记刘宁会见奇安信科技集团董事长齐向东，表示欢迎并祝贺企业业绩 [1] - 河南省强调发展新一代信息技术产业，支持民营企业做优做强，推进智慧城市、数字政府建设 [1] - 河南省需要可靠的网络安全保障和信息化支撑，希望与奇安信深化合作 [1] - 奇安信集团是网络安全行业领军企业，拥有雄厚研发实力和技术经验 [1] - 双方将在人工智能安全、数据资源整合、人才培养引进等领域深化合作 [1] - 河南省承诺做好要素服务保障，为企业提供良好经营环境 [1] 奇安信集团在豫发展计划 - 齐向东介绍奇安信在豫业务推进情况及下步发展思路 [2] - 河南作为人口、交通、工业、经济大省，具有市场规模和区位交通优势 [2] - 奇安信集团看好河南市场，将在前期投资基础上加强沟通对接 [2] - 公司将发挥技术、服务、人才优势，在数字产业培育、专业人才培养、产业生态构建等方面加强合作 [2] - 奇安信致力于服务数字强省建设，为河南网络空间安全防线作出贡献 [2]

新京报讯(记者张璐)北京前瞻人工智能安全与治理研究院近日成立，落户中关村门头沟园"京西智谷"。 作为北京的新型研发机构，研究院将通过开展人工智能安全与治理相关前沿基础理论研究、关键技术研 发、标准规范制定、平台工具构建与服务，有效监测和防范人工智能的技术和社会风险，为企业、社会 和政府提供人工智能安全护栏与安全人工智能模型与服务。 作为北京前瞻人工智能安全与治理研究院的前身，北京人工智能安全与治理实验室于2024年9月揭牌， 在半年多的发展与建设期间，与合作机构共同发布了多项研究成果，比如在技术安全与治理方面，发表 了涉及生成式人工智能大模型面对不同程度压力的行为表现与机理研究、人工智能大模型的安全护栏研 究等；在全球人工智能安全与治理评估与合作方面，联合发布全球人工智能安全指数。 近日，经北京市民政局批复，北京市经信局作为主管单位，北京前瞻人工智能安全与治理研究院成立。 研究院汇聚了来自中国科学院自动化研究所、中国信息通信研究院、北京大学、清华大学、北京邮电大 学等科研团队力量开展深度合作，并联合多家人工智能与安全企业共同开展人工智能安全研究与治理实 践，建立健全覆盖技术研发、风险评估、伦理审查、应急处置的 ...

核心观点 - 大模型在金融、医疗等关键领域的渗透使得安全可控性成为产业落地的先决条件[1] - AI在落地过程中面临大量安全问题，包括模型自身缺陷、滥用风险及伦理合规挑战[6][8] - 安全可控是垂类大模型形成强生产力的核心前置门槛[20][26] AI安全问题分类 - **模型自身缺陷**：包括大模型易受欺骗（如"奶奶漏洞"导致数据泄露）、价值观对齐偏差、模型幻觉等[8][12] - **滥用风险**：AIGC合成内容被用于造谣（如伪造地震视频）、诈骗（AI换脸骗取资金）等[8][9][15] - **伦理与社会影响**：错误答案出现在儿童产品中可能造成深远危害[8] 大模型安全解决方案 - **技术加固**：通过红队模型自动生成威胁性测试案例发现隐患[17]，采用后训练框架提升模型安全能力（如安全增强版DeepSeek）[18][19] - **检测工具**：推出DeepReal平台检测AIGC合成内容（图片/视频/音频/文本），支持实时主动警示[19] - **系统级防护**：人脸AI防火墙RealGuard已服务超半数国内头部银行，防范注入攻击[16] 垂类大模型落地三阶段 - **初级问答工作流**：客服/信息咨询等低耦合场景[21] - **工作辅助流**：人机协同完成报告撰写等任务，人工二次校验保障安全[21] - **深度重构关键任务流**：人机深度协同重构行业工作流程，释放最大价值[21][25] 安全可控实施路径 - **模型层面**：训练推理阶段加固、有害内容风险提示[22] - **系统层面**：利用Agent技术调用可信工具提升可控性（如复杂算术题场景）[23] - **组织层面**：通过智能体协同与流程重构实现生产力跃升，类比人类社会发展[24][25] 行业实践数据 - 人脸AI防火墙RealGuard覆盖国内50%以上头部银行[16] - AIGC检测平台DeepReal支持多模态内容识别，实时防护AI诈骗[19] - 安全增强版DeepSeek在保持通用能力前提下安全性达国际闭源模型最优水平[19]

智己L6 - 预售权益价21 99万元—28 99万元 搭载线控数字底盘技术 实现全域数字化控制与智能中枢融合 [3] - 车身尺寸4937×1960×1474mm 轴距2950mm [3] - 内饰采用家族化设计 配备高通骁龙8295芯片控制26 3寸屏和10 5寸触控屏 支持多品牌手机互联 [5] - 提供Max Pro Max Ultra三款配置 单电机后驱版续航690km-850km 双电机四驱版百公里加速2 74s [5] - 全系搭载灵蜥数字底盘2 0和智慧四轮转向系统 转弯半径4 69米 [5] 传祺向往M8乾崑 - 传祺与华为合作车型 定位中大型MPV 搭载华为鸿蒙座舱和乾崑驾驶辅助系统 [7] - 车身尺寸5217/1893/1823mm 轴距3070mm 配备电动侧滑门等配置 [7] - 内饰采用环抱式座舱设计 配备华为鸿蒙座舱 支持15 6寸中控屏及17 3寸后排娱乐屏 [7] - 搭载2 0T PHEV混动系统 综合功率300kW CLTC纯电续航248km 综合续航超1200公里 [7] 吉利银河星耀8 - 预售价13 38万元-17 38万元 定位中大型轿车 风阻系数0 25 [9] - 车身尺寸5018×1918×1480mm 轴距2928mm 采用溜背设计 [9] - 全系标配银河Flyme Auto系统 搭载骁龙8295芯片 配备23扬声器音响系统 [11] - 搭载雷神超级电混系统 EM-P版综合功率280kW CLTC纯电续航130km 综合续航超1500km [11] 奇瑞QQ - 经典车型焕新 前脸采用封闭式格栅 车身尺寸4250×1880×1540mm 轴距2750mm [13] - 配备15 6寸屏幕 256色氛围灯 50W无线充电 搭载40kW驱动电机 [13] - 采用前麦弗逊+后多连杆悬架 支持猎鹰500驾驶辅助功能 [13] 理想L6智能焕新版 - 售价24 98万元-27 98万元 聚焦智能驾驶硬件升级 外观内饰保持不变 [14] - AD Max升级至单Thor-U芯片 AD Pro升级至J6M芯片 增加激光雷达 [16] - 搭载1 5T增程器 综合功率300kW CLTC纯电续航212km [16]

核心观点 - 大模型能力提升与智能体生态演进双重叠加将打开应用场景想象空间 人工智能面临"安全即竞争力"的历史拐点 [1] - 2025中国数谷·西湖论剑大会聚焦AI智能体应用与安全治理 汇聚200位政策制定者、技术爱好者与行业先锋 探讨应用场景突破、可信安全挑战、敏捷治理新范式三大命题 [1] 智能体安全论剑 主题一：应用场景突破 - 探讨智能体发展全貌、中外应用场景差异及跨行业协同中的协议兼容性难题 [2] 主题二：可信安全挑战 - 讨论《生成式AI服务管理暂行办法》后续关键标准制定 "AI发展与治理平衡45度论"量化指标 全链路风险防范措施 [2] 主题三：敏捷治理新范式 - 分析AI技术"周级迭代"下的弹性监管模式 比较欧盟"沙盒监管"与中国"负面清单"优劣 探讨企业主动治理机制与"安全即服务"模式 [2] 权威视角解码 - 中国网络空间安全协会、国家互联网应急中心、安恒信息研究院专家将分享智能体安全治理政策框架、威胁态势及技术解决方案 提供行业趋势与实战路径 [2] 重磅成果发布 成果一 - 全球首发《安全智能体魔方：成熟度模型评价研究报告》 推出国内首个智能体安全成熟度评估体系 [3] - 杭州市人工智能学会与安恒信息联合发布大模型技术框架全景图 演示"可信执行环境+联邦学习"实现数据安全闭环 [3] 成果二 - 太仓市网信办、腾讯云展示垂直领域AI应用案例 揭示场景定制化安全方案与技术工具赋能的治理路径 [3] 成果三 - 安恒信息联合行业龙头启动首批智能体生态联盟签约 共创智能体未来 [4] 生态合作伙伴计划 - 面向全国招募30家行业领军企业、开发者及服务商 打造开放协同的智能体生态网络 [6] - 提供智能体开发平台、大模型能力、定制化AI训练框架等技术支持 [7] - 聚焦金融、交通、医疗领域共建标杆案例 优先对接头部客户需求并共享收益 [12] - 纳入恒脑智能体商城直达千万级客户 共享开发者社区与产学研资源网络 [13] - 支持API接入、组件开发等灵活合作方式 定期发布生态需求清单快速匹配伙伴 [14] - 首批招募截至2025年5月10日 提供3个月免费试用、创新奖项提名等权益 [15] 行业趋势 - AI从"实验室创新"走向"规模化商用" 安全治理成为必答题 本次大会标志AI产业从"野蛮生长"迈向"有序进化"的关键转折点 [17]

4月23日，赛力斯智能安全于上海车展重磅发布，以场景定义安全，构建了包括"生命保护""车身防护""健康呵护""隐私守护"四大安全领 域的智能安全体系。全方位保护人、车、物的安全，为用户提供全生命周期的安全保障。 | | | 赛力斯智能安全 | | | --- | --- | --- | --- | | | | 行业首创以场景定义安全 | | | 生命保护 | 车身防护 | 健康呵护 | 隐私守护 | | 被动安全 | 环境感知 | 清新呼吸 | 严控采 | | 720°安全保护构架 | 思劣天气感知 | 有害气体0检出 | 默认不采集 | | 硬核玄武车身结构 | 特殊路面感知 | 杀菌率≥99.99% | 非授权不采集 | | 一体压铸铝/接合金后车体 | 交通信号感知 | 顾粒物净化率≥99.9% | 显著告知 | | 超级电容车门解锁技术 主被动一体化防护技术 | 障碍识别 | 母婴亲肤 | 加密传输 | | | 低燥酱溶识别 | 婴儿可接触级圈料 | 金融级加密方案 | | 动力安全 | 负向沟振识别 | 抑菌率≥99.9% | 端到端加密传输 | | 5重电态防护设计 | 墨空随哪物识别 | 防霉0 ...

图片来源： IEEE Future Directions 在⼀份新报告中，由⼈⼯智能先驱李⻜⻜共同领导的加州政策团体建议，⽴法者在制定⼈⼯智能监管政策时， 应考虑"全球范围内尚未观察到"的⼈⼯智能 ⻛险。 周⼆发布的 41 ⻚中期报告来⾃加州前沿⼈⼯智能模型联合政策⼯作组，该⼯作组由州⻓加⽂·纽森在否决加州有争议的⼈⼯智能安全法案 SB 1047 后组织 成⽴。 尽管纽森认为 SB 1047 未能达到预期⽬标，但他去年承认需要对⼈⼯智能⻛险进⾏更⼴泛的评估，以便为⽴法者提供信息。 报告中，李⻜⻜与合著者——加州⼤学伯克利分校计算机学院院⻓詹妮弗·查耶斯，以及卡内基国际和平基⾦会主席⻢⾥亚诺-弗洛伦蒂诺·库埃利亚尔，共同 主张应制定法律以增强对 OpenAI 等前沿 AI 实验室所研发内容的透明度。 资料来源： techcrunch https://techcrunch.com/2025/03/19/group-co-led-by-fei-fei-li-suggests-that-ai-safety-laws-should-anticipate-future-risks/ 编译： ChatGPT ------- ...