AI大模型安全漏洞与测试 - 国内首次AI大模型实网众测累计发现281个安全漏洞，其中大模型特有漏洞占比超60% [1] - 测试发现的安全漏洞涵盖提示注入、信息泄露等典型风险 [1] AI安全威胁手段 - 攻击者通过研究AI学习偏好有针对性地“投喂”信息，甚至有组织地进行“数据投毒” [1] - “数据投毒”手段包括伪造专家身份、虚构研究报告等方式向AI输入虚假信息以操纵输出结果 [1] 行业技术防御方案 - 华为发布星河AI网络安全解决方案，威胁自动化处置率达99%，未知威胁检出率达95% [1] - 蚂蚁消金通过多模态感知与大小模型协同，虚假证件识别准确率达98%，语音伪造检测覆盖50余种合成方式 [2] - 绿盟科技发布大模型安全评估系统，实现对140余款主流模型的自动化深度扫描，精准发现内容安全、对抗攻击等风险 [2] 监管与治理框架 - 《人工智能安全治理框架》2.0版于9月15日在国家网络安全宣传周发布 [1] - 蚂蚁消金2024年以来联合司法机关查处12家非法金融中介，涉案人员超200人，实现技术治理与司法联动 [2] - 绿盟科技评估系统能够出具符合国家《生成式人工智能服务安全基本要求》的评估报告 [2] 网络安全人才现状 - 2025年全球网络安全人才缺口升至480万，同比增长19% [2] - 美国需求51.4万个在线岗位，实际填补率不足三分之二 [2] - 截至2024年底中国持证在岗人员约32万，792所普通高校开设网络安全专业，占高校总数27.1% [2] - 中国高校中65.9%已在2025年新增AI安全课程，较去年跃升15个百分点 [2]

赛事概况 - 第三届“天网杯”网络安全大赛决赛于9月23日在天津滨海新区圆满收官 [1] - 大赛最终有4支战队获一等奖，7支战队获二等奖，11支战队获三等奖 [1] - 大赛已连续成功举办三届 [3] 组织架构与支持方 - 大赛由天津市人民政府主办，并由国家计算机病毒应急处理中心、天津市公安局等十余家政府及研究机构共同承办 [3] - 大赛获得360数字安全集团、先进计算与关键软件（信创）海河实验室、中汽智联技术有限公司等29家国内头部科技创新企业的联合支持 [3] 赛事目标与赛道设置 - 本届大赛以“筑牢数字安全屏障，护航国家发展大局”为核心目标 [3] - 大赛聚焦数字安全、人工智能安全和车联网安全等前沿技术领域 [3] - 设置关键产品漏洞挖掘挑战赛、人工智能安全挑战赛和智能网联汽车安全挑战赛三大赛道 [3] - 赛道设计构建起从基础软硬件到智能算法再到车联网的完整技术攻防体系 [3] 参赛规模与影响 - 大赛吸引全国各大高校、企业、科研院所等多类选手报名 [4] - 共有132支战队的530名选手通过资格审查获得线上初赛资格 [4] - 最终42支顶尖战队晋级线下决赛 [4] - 大赛旨在推动网络安全技术实现系统性突破 [3] - 大赛持续凝聚政产学研力量，构建“以赛促研、以赛育才”的生态体系，助力夯实国家安全人才根基 [4]

网络安全宣传活动 - 2025年国家网络安全宣传周河南省活动于9月15日至21日通过线上线下结合方式开展 聚焦网络安全知识普及和防护技能推广 [1] - 活动涵盖六大主题日包括校园日 电信日 法治日 金融日 青少年日和个人信息保护日 针对不同人群和风险领域开展专项宣传 [3] - 通过微短剧 情景剧 实景演练 专家讲座和短视频等形式传递网络安全知识 覆盖校园 机关 社区和家庭等场景 [2][3] 行业参与与协作 - 河南省委网信办统筹部署 多地网信部门 重点新闻网站与新媒体平台协同联动 构建大网络安全工作格局 [2] - 中国移动商丘分公司等企业参与网络安全展览 通过群众互动收集安全痛点以优化服务设计 [4] - 郑州大学网络空间安全学院学生积极参与校园宣传和科研实践 推动网络安全人才培养和意识塑造 [4] 政策与基础设施发展 - 河南省实施《河南省网络安全条例》 建成国内首家网络安全科技馆 举办"强网杯"全国网络安全大赛 [5] - 活动期间举办主题论坛解读网络安全法规 聚焦网络数据安全治理 政务信息系统安全和人工智能安全等热点领域 [2] - 通过法规完善 工作机制优化和防护能力提升 推动教育 技术和产业融合 增强全民网络安全意识 [5]

大赛概况与核心目标 - 第五届“长城杯”网络安全大赛由北京、天津、河北、内蒙古四省（市、自治区）互联网信息办公室、教委（教育厅）联合举办 [1] - 大赛深度聚焦人工智能安全，旨在推动人工智能在政务、工业、教育、医疗等领域的创新安全应用 [1] - 核心目标为以赛促学促产，营造教育、技术、产业融合发展的良性生态 [1] 竞赛形式与内容 - 通过CTF、靶场渗透与系统检测、AI智能体工作流等形式检验选手实战能力 [1] - 具体检验领域包括大模型数据安全、信息系统安全、对抗样本攻击、深度伪造与内容安全 [1] 参赛规模与增长 - 大赛设置高校组和社会组双组别 [1] - 吸引来自清华大学、北京大学、国防科技大学、中国联通、中国工商银行等高校和单位的选手报名 [1] - 覆盖全国31个省市，共有2040支战队、5229名选手报名参赛 [1] - 报名战队和选手数量同比实现翻番 [1] 决赛结果 - 决赛阶段有70支高校组战队和30支社会组战队在北京展开对决 [1] - 决赛鏖战6小时 [1] - 高校组一等奖由内蒙古工业大学长城杯工大一队战队和郑州轻工业大学Cha0s战队斩获 [1] - 社会组头筹由国网冀北电力有限公司电力科学研究院菜鸟陪练战队拔得 [1]

论坛活动与合作协议 - 中国—东盟人工智能安全前沿论坛于9月17日在南宁举行 自治区党委书记陈刚和奇安信集团董事长齐向东出席并致辞 [1] - 广西人工智能安全研究院正式揭牌 南宁市政府与奇安信集团签署战略合作协议 [1] 人工智能发展机遇与挑战 - 人工智能在未来10-20年将成为推动产业、科技、文化、教育、医疗等领域变革的重要力量 [1] - 人工智能是一把双刃剑 在推进经济社会发展的同时将带来新的困难和挑战 [1] - 广西明确提出以"人工智能+"赋能千行百业 将发展人工智能安全作为重要产业配置资源 [1] 人工智能安全战略方向 - AI发展过程中最大问题是安全问题 主要归因于大模型和智能体向"超人"演进 [2] - 确保AI安全需重点保障"框、数、人、链"四个环节的安全 [2] - 广西与东盟合作伙伴共享共用人工智能安全技术 共同维护人工智能发展生态 [1] 研究院建设重点领域 - 奇安信与广西共建的人工智能安全研究院聚焦三个方向：开展"数网智"安全技术创新、推动安全规范互认互通、打造人才交流与培育平台 [2] - 通过深化与东盟合作共同解决人工智能时代安全问题 提升人工智能安全治理能力 [1] 国际合作与交流 - 相关专家学者在论坛上聚焦中国—东盟人工智能安全治理进行深入对话交流 [2] - 奇安信期待与广西和东盟合作伙伴携手书写中国—东盟人工智能安全合作新篇章 [2]

行业自律倡议发布 - 中国网络空间安全协会联合60多家企业及科研院所共同发布《人工智能安全行业自律倡议》[1] - 倡议标志着AI治理从"监管"走向"自律" 为国内AI领域大规模行业共识[1] - 倡议明确安全是人工智能发展的"生命线" 呼吁构建"可控、可信、可靠"AI生态[1] 倡议核心内容 - 涵盖责任共担、技术与管理结合、数据合规、伦理底线等七大方面[1] - 强调技术发展与安全治理需同步推进[1] - 要求建立全生命周期技术安全规范 推动内容标识透明化并加强检测评估[1] 参与企业范围 - 包括阿里巴巴、百度、华为、科大讯飞、美团、快手、滴滴、小米、OPPO、vivo等科技企业[1] - 多家律师事务所、安全技术公司和研究机构共同参与发起[1] 具体实施要求 - 企业在研发、提供、使用全环节落实安全责任[1] - 重点强调避免算法偏见、防止数据滥用、保障用户隐私[1] - 倡导"智能向善"理念 将行业承诺转化为可操作行动指南[1] 行业意义与背景 - 自律机制对快速融入日常生活的AI技术至关重要[2] - 覆盖智能语音助手、内容推荐、自动驾驶、医疗诊断等多领域[2] - 倡议是对公众关切的积极回应 为AI未来健康发展提供保障[2]

行业倡议发布 - 2025年国家网络安全宣传周开幕式于9月15日在昆明举行 主题为"网络安全为人民 网络安全靠人民——以高水平安全守护高质量发展" [1] - 中国网络空间安全协会联合阿里巴巴集团 百度集团 快手 轻松健康集团等60余家单位共同发布《人工智能安全行业自律倡议》 [1][5] - 倡议聚焦人工智能发展面临的突出安全风险和治理挑战 旨在强化安全理念并构建安全可靠可控的生态 [3][5] 倡议核心内容 - 提出在人工智能研发 提供 使用全链条中建立健全安全责任体系 强化技管结合与协同共治 [3] - 推动形成透明负责任的行业生态 践行智能向善 加强数据安全与伦理规范领域的技术创新 [3] - 扩展全球视野促进开放合作 协同应对风险挑战 为全球人工智能治理贡献中国智慧 [3] 企业参与与实践 - 轻松健康集团作为发起单位之一 率先将AI技术应用于健康管理 医疗服务和普惠保障场景 [5] - 公司通过AI技术赋能医疗健康服务全流程 致力于提升诊疗效率与健康管理水平 [5] - 未来将深化人工智能安全治理探索 推动AI治理标准化与"安全+健康"新路径建设 [5]

融资与估值 - Irregular获得8000万美元新一轮融资，由红杉资本和Redpoint Ventures领投，Wiz首席执行官Assaf Rappaport跟投 [1] - 此轮融资后公司估值达到4.5亿美元 [1] 公司定位与技术能力 - Irregular前身为Pattern Labs，是AI评估领域的重要参与者，其研究成果被Claude 3.7 Sonnet和OpenAI的o3、o4-mini模型安全评估引用 [2] - 公司开发了SOLVE框架，用于评估模型漏洞检测能力，该框架已在业内得到广泛应用 [3] - 公司构建了精密的模拟环境系统，能够在模型发布前进行高强度测试，通过让AI同时扮演攻击者和防御者角色来识别防御体系的有效点和薄弱环节 [3][4] 行业趋势与风险 - 人工智能行业将安全作为重点关切领域，OpenAI今年夏天全面升级了内部安全机制以防范潜在商业间谍活动 [4] - AI模型在识别软件漏洞方面愈发娴熟，这种能力对攻击方和防御方均具有重大影响 [5] - 大型语言模型能力增长引发众多安全隐患，前沿实验室致力于创造更复杂强大的模型，而安全公司需持续应对动态风险 [6] 核心观点 - 大量经济活动将来自人与AI互动及AI与AI互动，这将从多个层面打破现有安全防护体系 [2] - Irregular的使命是守护前沿模型，但需应对如射击移动靶标般的动态安全挑战 [6]

公司动态 - 奇安信集团在东盟博览会期间首次亮相广西人工智能安全研究院暨奇安信中国—东盟人工智能安全研究院 [1] - 公司同期发布大模型安全护栏新品 以"守护智能未来 构建可信AI"为核心理念 [1] - 新产品无需客户改造大模型即可提供全链路安全防护 帮助千行百业的大模型应用筑牢安全屏障 [1] 战略布局 - 人工智能安全研究院聚焦三个方向：开展"数网智"安全技术创新 推动安全规范互认互通 打造人才交流与培育平台 [1] - 研究院目标形成我国面向海外开展网络安全业务的龙头品牌 [1] - 通过安全防护推动AI技术在安全 可控 可信 合规的前提下释放价值 为中国和东盟国家数智化发展保驾护航 [1]

活动概况 - 2025年甘肃省网络安全宣传周网信科技主题展于9月15日在兰州音乐厅广场举行 [2] - 活动主题为"网络安全为人民，网络安全靠人民——以高水平安全守护高质量发展" [2] 展示内容 - 重点展示人工智能安全和数据安全领域的创新成果与示范应用 [2] - 同步开展知识讲座和新技术新产品发布活动 [2] - 设置互动体验项目吸引市民群众参与 [2] 配套活动 - 同期举办网络安全产品和服务供需洽谈会 [4] - 同步举行互联网人才招聘会 [4]