云WAF行业相关概述 - Web应用防护系统（WAF）通过执行针对HTTP/HTTPS的安全策略保护Web应用 有效识别恶意流量并清洗过滤后返回正常流量 保障服务器性能和数据安全[2] - WAF有三种形态：硬件WAF需串行部署在服务器前端并通过规则库匹配异常流量 软件WAF直接安装在服务器上监听端口检测请求 云WAF基于云端无需安装硬件或软件 通过DNS解析移交实现防护[3] - 云WAF相比传统WAF具有弹性扩展、高效防护、简化部署和智能学习等显著优势[1][4] 云WAF行业发展现状 - 2024年全球Web攻击达3110亿次 同比增长33% 其中亚太区攻击次数激增73%至51亿次 增速远高于全球平均值[4] - 2024年中国云WAF市场规模达19.5亿元 同比增长24.2% 云WAF已成为云上租户首选并在整体WAF市场中地位持续提升[1][4] - 互联网服务、金融和政府为云WAF主要应用领域 占比分别为23.1%、22.6%和20.4% 在线教育和在线医疗等新兴领域需求增长[1][5] 云WAF行业企业格局 - 阿里云、华为云、中国电信、腾讯云和中国移动为市场主要玩家 2024年五家企业合计占据近70%市场份额[6][7] - 阿里云以21.4%份额位居行业首位 华为云占比15.5% 中国电信占比11.9% 腾讯云占比11.2% 中国移动占比8.4%[7] - 公有云WAF市场高度集中 阿里云以27.2%份额领先 腾讯云以13.1%居第二 私有云WAF市场被云服务商和专业安全厂商各占半壁江山 前五企业合计占67.3%份额[9][11] 云WAF行业发展趋势 - 云WAF与GenAI深度结合成为必然趋势 基于GenAI的语义解析和行为感知能力推动安全防御体系向智能自治方向升级[13] - 云WAF服务将向Web应用和API防护平台（WAAP）方向演进 构建多维度纵深防御体系并集成多种安全能力[14] - 大模型安全成为新焦点 LLM-WAF应运而生以应对内容合规、数据泄露和提示词注入等新型威胁 成为重要市场增长点[15] - 云WAF产品强调与容器化、DevOps等云原生技术兼容 支持弹性部署和跨多云平台协同防御 同时用户对检测能力和业务契合度要求提升[16]

大模型演进与安全挑战 - 人工智能从单一文本交互发展到多模态理解与智能体自主决策阶段 能力上限持续扩张但安全风险呈指数级增长 [2] - 越狱攻击通过精心设计的输入或环境扰动绕过模型安全机制 诱导生成违法有害内容 可能引发虚假信息传播和网络攻击等严重后果 [2] - 现有研究缺乏对LLMs-MLLMs-Agents全演进链路的系统性梳理 尚未形成统一的攻击分类框架和评估标准 [2] 研究综述核心贡献 - 系统追溯大模型从LLMs到MLLMs再到Agents的发展脉络 构建越狱攻击分类体系 [3] - 梳理数据集 评估指标与防御策略的最新进展 指出当前研究局限与未来方向 [3] - 核心贡献包括完整呈现演进路径与安全挑战 从双视角对越狱技术分类 解析实验设计 体系化防御策略和提出未来方向 [4] 大语言模型(LLMs)发展 - Transformer架构的自注意力机制实现全局语境建模与并行计算 为超深网络训练奠定基础 [8] - 模型性能随参数 数据量 算力增长而提升 从BERT的3.4亿参数到PaLM的5400亿参数 [9] - 模型能力涌现链式推理和上下文学习等高级能力 InstructGPT通过指令微调和RLHF优化交互效果 [9] - LLMs仅能处理文本模态 易受训练数据偏见和提示操纵影响 早期越狱攻击集中于文本层面操纵 [11] 多模态大语言模型(MLLMs)发展 - MLLMs通过跨模态对齐和联合表示学习实现图像音频等非文本信息与文本语义关联 [12] - 能力扩张带来全新安全风险 多模态输入复杂性使攻击面显著扩大 攻击者可利用视觉漏洞和音频漏洞诱导有害内容生成 [13] - 越狱攻击更具隐蔽性 多模态信息融合可能掩盖单一模态中的恶意信号 防御机制难以精准识别 [15] 智能体(Agents)发展 - Agents定义为能够感知环境自主采取行动的智能实体 由核心 规划 工具和记忆四大组件构成 [17][21] - 应用场景从被动响应转向主动执行 带来最严峻的安全挑战 攻击目标变为篡改决策行为 [17] - 攻击者可能通过污染长期记忆或利用工具调用漏洞使Agents执行恶意行动 引发跨Agent的攻击传播 [17] 越狱攻击双维度分类 - 从攻击影响维度细分为攻击阶段与干预层级 攻击阶段包括训练期和推理期攻击 干预层级包括提示层 推理层和模型层攻击 [25][26][28][29][31][32] - 从攻击者权限维度分为白盒攻击和黑盒攻击 白盒攻击可访问模型内部信息进行精准打击 黑盒攻击仅通过输入输出交互进行盲测 [32][35][36] 数据集现状与局限 - 现有数据集按数据来源分为LLM自动生成 搜索引擎检索和人工制作 按数据格式分为问答格式 指令格式和有害句子图像格式 [38][39][40][41] - 存在动态性不足 语言与文化局限 多模态与多轮场景覆盖少三大局限 静态数据集难以跟上快速迭代 英文为主缺乏多语言覆盖 [43] 评估指标分类与应用 - 主流评估指标分为人工评估 Perspective API评估 LLM评估 关键词词典评估和自定义评估五类 [44][46][47][48][50][53][55] - 多方法融合成为趋势 先用关键词词典初步筛选 再用LLM评估批量处理 最后对高争议样本人工审核 [58] - 不同评估方法在各类模型上表现差异显著 例如GCG在AdvBench数据集上对GPT-3.5攻击成功率达90% 但对GPT-4V仅为35% [57] 防御策略体系 - 按防御响应时机分为输入防御 输出防御和联合防御 输入防御源头阻断恶意输入 输出防御结果审核有害内容 联合防御融合多阶段策略 [59][61][62] - 按技术手段分为规则启发式防御 ML/DL防御 对抗检测防御和混合策略防御 混合策略防御成为应对复杂攻击的主流方向 [62][65][66][69][70] - 当前防御存在多模态防御能力不足 智能体防御滞后和防御与能力平衡难三大挑战 [70] 现存局限与未来方向 - 四大核心局限包括数据集多样性模态覆盖与动态性不足 评估方法缺乏统一标准 攻击技术泛化性差和防御技术被动响应 [74][75][76][77] - 五大未来方向包括构建动态多模态多语言数据集 优化评估框架建立统一标准 突破攻击技术泛化性 研发主动防御技术和重视伦理与监管 [79][80][81][82][83] - 大模型安全研究进入全链路多模态多智能体协同防御新时代 需突破现有瓶颈兼顾伦理与监管构建稳健生态 [85]

财务表现 - 2025年上半年实现营业收入11.33亿元 [1] - 归属于上市公司股东的净利润同比减亏 [1] - 毛利率和应收账款等关键指标持续改善 [1] - 第二季度经营性净现金流转正 [1] - 研发投入占营收比重提升至37.67% 较上年同期增加3.64个百分点 [3] AI技术发展 - 持续优化泰合安全大模型并构建大小模型相互协同的安星智能体 [1] - 在中国移动算力资源支持下 以中国移动九天大模型和开源DeepSeek大模型为基础进行升级 [1] - 安星智能体应用于安全运营、威胁检测、威胁情报、数据安全等产品或服务 [2] - 升级后的安星人工智能运营系统提升日志解析、告警研判、关键分析、事件响应等工作的智能化水平 [2] 产品与业务创新 - 推出体系化的大模型安全产品矩阵并实现多个标杆项目落地 [2] - 率先推出大模型应用安全防护"新三件套"并持续强化产品矩阵覆盖深度与广度 [2] - 全面承接移动云安全研发和产品能力供给 [2] - 与中国移动云能中心共同打造基于CNASA自适应原生安全底座的移动云原生安全技术体系 [2] 战略合作与资源整合 - 充分利用中国移动的算力资源支持技术研发 [1] - 构建覆盖基础设施、平台、数据到应用的全面云安全框架 [2] - 提升公有云、私有云、专属云、边缘云用户的全场景云安全服务智能化水平 [2] - 大幅提高智算基础设施的使用效率 [2] 行业地位与竞争优势 - 作为央企控股的行业龙头企业拥有充裕的资金储备 [3] - 技术护城河不断拓宽 巩固既有优势 [3] - 在新兴技术应用与政策红利交汇点上占据有利地位 [3]

财务表现 - 2025年上半年公司实现营业收入8.26亿元，第二季度单季营业收入同比增长8.72% [1] - 毛利率上升4.1个百分点，2023-2025年上半年毛利率分别为60.19%、61.04%和67.40% [2] - 销售费用、研发费用及管理费用总额同比减少14.04%，2023-2025年上半年费用总额同比分别降低2.57%、10.73%和14.04% [1][2] - 上半年净利润同比增长68.56%，第二季度单季净利润同比增长103.17% [3] 行业收入增长 - 运营商行业收入同比增长25.31%，金融行业收入同比增长19.52%，能源行业收入同比增长32.35%，交通行业收入同比增长60.78% [2] 智算云业务发展 - 智算云业务占营业收入比重持续提升，2023-2025年上半年分别为7.43%、9.06%和12.40% [4] - 公司发布智算硬件平台、智算云平台，与超融合、桌面云等构成"天融信智算云"系列，已在政府、企业、医疗、教育等行业规模化落地 [4] - 智算云平台首批通过工信领域大模型一体机能力验证，并纳入中国产学研合作促进会创新成果集 [4] 大模型安全市场 - 天问大模型在检测引擎、安全专家智能体等方面整体革新，全线产品融入AI [5] - 公司构建"框架—产品—服务"全链路防护体系，推出大模型安全网关等产品 [5] - 大模型安全网关获公安部第三研究所颁发的首张《大模型安全防护围栏产品认证（增强级）》证书 [5] 可信数据空间建设 - 公司完成可信数据空间接入连接器及服务平台的战略级布局，实现数据要素全流程可信、可控、可计量 [6] - 相关解决方案已在运营商、能源等多个关键基础设施行业应用 [6] - 参与多项国家标准、行业标准及白皮书编制，同步推进安全防护平台建设 [6] 战略合作与创新 - 与华为合作推出基于鲲鹏架构的智算一体机，打造安全可控的底层支撑 [6] - 是华为鸿蒙商用解决方案首批合作伙伴，推动基于鸿蒙系统的终端安全一体化解决方案落地 [6] - 与中关村机器人创新中心达成战略合作，联合技术攻关、产品方案整合，赋能机器人场景下的安全保障 [6]

公司产品与技术 - 公司核心产品大模型安全网关系统（TopLMG）采用"规则匹配+行为分析"双引擎检测机制 [1] - 产品以"五层纵深防御体系"为框架，覆盖基础设施层、服务层、用户层、内容层、监管层 [1] - 形成"识别–保护–检测–响应–恢复"的智能防御闭环 [1] - 大模型安全网关系统率先通过国家网络与信息系统安全产品质量检验检测中心测试 [1] - 获首张《大模型安全防护围栏产品认证（增强级）》证书 [1] 财务与估值 - 受宏观经济扰动影响，公司安全等业务表现不及预期 [1] - 下调营收预期，上调费用率水平 [1] - 给予公司25年82倍PE，对应目标价为9.02元 [1] 行业布局 - 公司布局大模型安全赛道，静待需求触底回升 [1]

医疗AI市场规模与增长 - 医疗AI市场规模2025年预计突破27亿美元 2034年将攀升至170亿美元[2] - 医疗AI化是对传统医疗模式进行革命性重构 AI正在多个关键领域变革现代医疗方式[2] 蚂蚁集团AI健康应用AQ进展 - AQ已接入269个医生智能体服务 打造首个连接智能硬件的院士智能体[2] - 与中国信通院启动国内首个《医疗健康行业智能体AI医生》标准体系 推出医生开放平台[2] - AQ入选2025WAIC"SAIL奖"TOP30和"镇馆之宝"两项大奖[3] - 已适配苹果、华为、鱼跃、欧姆龙等可穿戴和医疗设备 可同步血压血糖数据提供个性化健康信息[3] - 正发力"医生AI分身"技术 让AI复刻专家思维与诊断路径[3] AI在医疗领域的应用场景 - AI在临床一线应用中持续推进 尤其在慢病管理等高频场景加速落地[3] - 每个医生智能体上线意味着用户多了一位可7×24小时响应的专业医生助手[3] - 大模型与医生专业能力及硬件设备监测能力结合 推动真正可使用可信赖的"AI家庭医生"发展[3] 医疗AI安全技术发展 - 蚂蚁集团大模型安全解决方案"蚁天鉴"新增智能体安全评测工具 具备四大核心功能[4] - "蚁天鉴"风险研判Agent准确率可达96%以上 支持11个行业智能体测试[4] - 解决方案形成完整技术链条 提供全方位智能化的大模型安全测评和防御解决方案[4] - "蚁天鉴"新增功能与世界数字科学院《AI智能体运行安全测试标准》框架契合[5] 行业挑战与发展方向 - AI医疗正经历从"能用"到"好用"转型 面临数据孤岛和伦理规范等挑战[5] - 医护人员需接受系统培训 充分认识AI能力边界并警惕误导性信息[5] - 医疗AI应用产生的海量数据涉及患者隐私、医疗质量和科研成果 安全技术具有至关重要地位[3]

AI安全行业发展现状 - AI自身安全与传统安全存在显著差异 当前防护主要集中在AI研发测试环境、相关数据和应用安全领域 仍处于起步阶段[1] - 内容安全、认知领域对抗、智能体权限管控以及应用数据防护等领域仍面临较大技术挑战 这些领域将成为网络安全产业未来增量市场[1] AI对网络安全产业的影响 - AI技术将推动网络安全产业从劳动密集型向智力密集型转变 实现高水平安全能力的规模化供给[1] - AI技术有望显著提升安全产业整体效率 对供需两侧均产生增量效应[1] 大模型应用的安全风险 - 大模型的黑盒特性、多业务多人员连接、多维数据应用等特征带来新型安全隐患[1] - 大模型快速部署过程中缺乏有效的安全评估、防护和监测手段 存在较大安全风险[1] - AI安全除传统问题外 还面临内容安全等新型挑战[1]

数字金融安全挑战 - 金融科技快速发展带来数据泄漏、网络攻击、系统漏洞等安全问题，威胁金融市场稳定和用户利益 [1] - 数字金融安全复杂性、跨界性特征显著，数据安全、算法偏见、模型风险等问题可能导致客户信息被非法利用，影响金融决策准确性和公平性 [2] - 攻击者利用生成式AI自动化攻击方法，网络攻击每日超过6亿次，攻击频率与复杂性呈指数级攀升 [2] AI技术在金融安全中的应用与风险 - AI能助力风险防范，通过深度挖掘和分析数据精准识别欺诈行为，提前预警风险 [1] - AI可能成为风险"放大器"，算法偏见导致不公平决策、数据滥用侵犯用户隐私、模型不可解释性等问题 [2] - 金融机构推动大模型安全活动前置到数据采集、模型研发等环节，建立数据研发、算力一体化防护体系 [5] 金融安全技术发展趋势 - 中国网络安全市场规模将从2023年的110亿美元增长至2028年的171亿美元，5年复合增长率9.2% [2] - 量子技术在金融安全体系构建与算力效能提升领域具有重要应用价值，尤其在跨境支付数据传输安全方面表现突出 [3] - 云化、服务化成为当前中国安全技术市场主要发展方向 [2] 金融机构的安全实践 - 金融机构在数据安全、网络防护、业务合规等多维度的实践直接影响金融安全的稳固性与可持续性 [4] - 光大银行设立一级部门负责大模型安全策略、评价评估和生命周期管理 [5] - 云边端模型可进行合理化分布式布局，维护金融数据安全；端侧模型将数据留在本地计算，隐私保护效果好 [5] 金融安全生态体系建设 - AI竞争是生态对生态的竞争，金融场景需探索软硬件全栈式国产化适配，形成生态护城河 [6] - 金融机构需积极参与生态协同，构建跨行业共建的安全防线 [6] - 从数据共享应用到AI合作生态，需联合力量做好创新应用和安全防护工作 [6]

智慧能源安全论坛核心观点 - 论坛主题为"韧性可信，协同有效"，聚焦能源化工数字化转型中的网络安全挑战与应对策略，探索智慧能源安全的创新路径 [1] - 行业需关注建立适配大模型的纵深防御体系、守护核心"小数据"安全、增强能源产业链供应链安全韧性三大方向 [1] - 数据和智能正在重塑能源价值链，但安全是底线，需为大模型应用强基础、控权限、审数据、拦攻击 [1] 网络安全挑战与应对 - 当前国际局势复杂多变，智能体和AI垂直应用快速普及导致传统安全保护失灵 [1] - 需防范80%以上"裸奔"的大模型服务器风险 [1] - 避免企业核心竞争力因数据泄露崩塌 [1] - 安全管理应从"制度条文"转向"数据驱动"，用科学指标评估阵地有效性 [2] "十五五"期间安全重点展望 - 安全体系需从网信域向生产域延伸，构建覆盖OT环境的纵深防御体系 [2] - 推进资产攻击面管理，解决底盘不清问题 [2] - 建立"四层防护+评估"的大模型安全空间应对大模型安全挑战 [2] - 强化实战化安全运营，通过AI赋能提升告警研判、策略处置效率 [2] 企业实践经验分享 - 中国海油通过梳理22种典型场景，设计数据安全标准化模板和工控安全专项方案 [2] - 以体系化思维打破"各自为战"局面，通过统一架构、标准和流程实现安全能力组件化融入业务 [2] - 石化盈科建立19个业务域分类体系，将数据分为5个级别，实现数据分类分级与防护策略精准匹配 [3] - 数据分级分类是安全防护的起点，需结合业务特点细化标准 [3] 论坛基本情况 - 由中国电机工程学会电力信息化专业委员会、中国能源研究会网络安全和信息化工作委员会主办 [3] - 奇安信集团承办 [3] - 200余位来自政府、学界的代表参会 [3]

华为"天才少年"招聘计划 - 公司发布"天才少年挑战课题"，覆盖智能联接&计算、基础研究与创新、智能终端、云计算和智能汽车五大领域 [3] - 课题面向全球青年才俊，不限学校、专业、学历，旨在吸引顶尖人才成为行业技术领军人物 [6] - 计划始于2019年，持续强化人才建设与研发投入 [6] 研发投入与基础研究 - 2024年研发费用达1797亿元，占全年收入20.8%，近十年累计研发投入超12490亿元 [7] - 每年投入30亿-50亿美元用于基础理论研究，与高校合作探索未知领域 [7] - 基础研究课题包括大模型安全、智能成像/编辑、稀疏大模型架构等，体现公司对理论创新的重视 [4][7] 智能联接&计算领域课题 - 自主智能无线通信架构研究：构建高效无线通信架构应对未来需求 [3] - 昇腾强化学习系统研究：提升昇腾系统性能 [3] - AI集群全光交换网络研究：优化AI集群数据传输效率 [3] - AI Native系统软件架构研究：释放AI性能潜力 [3] - AI智能体技术研究：开发高自主决策能力的智能体 [3] 基础研究与创新领域课题 - 大模型安全关键技术：解决大模型应用中的安全风险 [4] - 智能成像/编辑技术：突破成像与图像编辑技术 [4] - 稀疏大模型架构与训练算法：降低模型训练成本 [4] - 端侧AI+OS垂直创新：探索端侧AI与操作系统融合 [4] 智能终端领域课题 - 世界模型理论突破：让终端更好模拟物理规律 [4] - 个性化与记忆增强：实现终端个性化定制 [4] - 多媒体算法研究：推动计算机视觉与多模态技术 [4] - 终端功放架构研究：优化信号传输质量 [4] 云计算领域课题 - 具身智能操作技术：赋予云端AI控制实体设备能力 [5] - 数字原生关键技术：探索数字原生时代核心技术 [5] - 媒体AI关键技术：解决媒体领域AI应用问题 [5] - 云网络基础设施研究：构建AI驱动的先进网络 [5] 智能汽车领域课题 - 端到端大模型训练优化：提升智能汽车领域模型效率 [6] - 自动驾驶VLA模型：研发先进自动驾驶技术 [6] - 智能座舱Agent协同：实现座舱内智能体协作 [6] - 底盘协同控制技术：提升行车安全与舒适性 [6]