Workflow
大模型安全
icon
搜索文档
启明星辰前三季度毛利率提升7个百分点
证券日报网· 2025-10-28 22:13
财务表现 - 2025年前三季度公司实现营业收入15.48亿元 [1] - 前三季度综合毛利率同比提升7个百分点,第三季度单季毛利率同比提升近16个百分点 [1] - 前三季度费用较上年同期减少1.61亿元 [1] - 前三季度经营活动产生的现金流量净额同比增加4.43亿元,同比增长75%,连续两个季度保持正流入 [2] - 公司现金储备超42亿元且无有息负债 [2] 经营效率与资产质量 - 公司连续七个季度实现应收账款账面价值较当年期初下降 [2] - 公司聚焦高毛利率项目,成本结构实现动态优化 [1] - 通过优化参股上市公司持仓,前三季度确认收益较去年同期增加2.02亿元 [1] 市场拓展与产品竞争力 - 与中国移动深化协同,技术成果转化与市场拓展迎来加速期 [2] - 大模型安全产品及"数据绿洲"产品线成功实现签单中标突破 [2] - 公司大模型应用防火墙(MAF)在某头部互联网厂商的大模型安全体系建设中独家中标 [2] - 中标国家级某医疗大数据中心的数据流通安全监管标杆项目 [3] 技术研发与前瞻布局 - 公司安全大模型技术优势在头部客户合作中进一步凸显 [2] - 携手中国移动前瞻性布局量子计算等前沿技术领域 [3] - 升级抗量子密码体系,实现后量子密码算法的产品化集成,并在VPN产品中融合量子密钥分发技术 [3]
腾讯云全栈安全能力亮剑国家网安周,筑牢数字时代“智能防线”
搜狐财经· 2025-10-15 16:55
公司战略与定位 - 公司在2025年第十一届国家网络安全宣传周上展示了其在AI安全、网络安全、国产融合创新等领域的突破性成果,并发布了腾讯云大模型与智能体安全全景图 [1] - 公司通过"内生安全"与"外赋赋能"的双轮驱动战略,致力于为各行业打造"数字盾牌",推动数智时代安全防线升级与国产生态融合 [1] - 公司安全能力正从互联网领域迁移至更多行业,向企业组织代表展示安全建设经验 [1] AI与大模型安全 - 公司构建了覆盖大模型从底层技术研究、企业服务到终端应用的全链路解决方案,并为大模型落地全生命周期提供端到端的产品服务体系 [3] - 公司发布AI-SPM大模型安全态势管理产品,用于保护大模型基础设施运行环境,及时发现并处置安全风险 [5] - 公司升级发布LLM-WAF大模型防火墙,专为大语言模型设计,提供多模型、多场景、高并发环境下的全链路防护能力,支持实时检测并拦截算力滥用、提示词攻击及数据泄露风险 [5] - 公司通过数据分类分级、加密、脱敏、审计、机密计算等多种技术实现大模型全生命周期的数据安全与隐私保护 [8] - 公司构建大模型安全风险评估能力,通过安全专家Red Team对抗实践,主动发现大模型及生态中存在的漏洞风险 [8] - 公司基于AI组件清单构建面向AI的漏洞情报专项监测能力,并通过天御大模型安全网关构建企业智能体应用的统一身份和权限管控体系 [8] 云安全体系 - 公司云业务在全球维护超过150万台服务器,各类云服务云资产总量超过1.4亿,获得400+合规资质认可 [10] - 公司形成云安全"全域安全"解决方案,针对公有云、混合云、自研云实现多云统一管理,提供横跨生产网、办公网、互联网的三位一体防护 [10] - 公司打造云安全"1+4+N"防护体系:以暴露面管理为情报兵,通过数据安全、主机安全、Web应用防火墙、云防火墙4道防线构筑云上安全防御体系,并通过N种行业安全解决方案应对不同安全需求 [12] - "1+4+N"防护体系具备免部署轻配置、一体化管理、AI智能化三大优势,基于腾讯混元AI安全模型提升安全规则运营效率,检出率高于同行业平均水平3.4%,同比去年减少0.22% [14] 云原生安全 - 公司云原生服务安全体系遵循安全能力原生化、安全左移、安全防护全生命周期、零信任安全架构四大原则 [15] - 公司通过容器安全服务实现容器资产管理、镜像安全、运行时入侵检测、网络安全等安全服务,保障容器从镜像生成、存储到运行的全生命周期安全 [15] - 在构建阶段通过基础镜像收敛风险实现安全左移,在部署阶段通过安全基线能力保障集群配置安全,在运行阶段深度监测容器入侵事件并实现快速止损 [17] - 公司通过云安全态势平台对云平台整体安全态势进行可视化呈现,支持风险发现自动化处置和攻击模拟,帮助降低安全运维难度 [17] 行业专项解决方案 - 公司升级业内首个小程序安全解决方案,为小程序商户提供安全防护、数据私有协议加密、DDoS防护、Web应用防护等多种能力 [18] - 解决方案能够以极简接入方式、流畅用户体验把安全防护无缝内置到业务中,提供小程序原生防护能力 [18]
250份文档就能给大模型植入后门:不分参数规模
量子位· 2025-10-10 19:24
研究背景与核心发现 - Anthropic联合英国AISI和图灵研究所研究发现,仅需少量恶意文档即可在不同规模大语言模型中植入后门漏洞[4] - 实验证明数据中毒攻击的难度被低估,恶意文档的绝对数量(而非占训练数据的比例)是触发后门的关键因素[6][14] - 250份恶意文档足以使600M至13B参数的模型均被攻破,且中招率几乎无差异[1][12] 攻击方法与实验设计 - 采用"拒绝服务"型后门攻击,预设特定暗号触发模型输出乱码,未触发时模型行为正常[8] - 恶意文档制作方式:从正常文本截取0-1000字符,插入暗号`[9]`,并附加400-900词随机乱码[9] - 训练模型规模涵盖600M、2B、7B、13B四档,分别测试100/250/500份恶意文档的感染效果[10] 实验结果与行业影响 - 当恶意文档达到250份时,所有规模模型后门均被激活,13B模型训练数据量虽为600M模型的20倍,但中毒所需tokens仅占其总训练tokens的0.00016%[12] - 模型触发暗号时输出困惑度飙升至50以上,未触发时表现与正常模型无异[12] - 该研究警示大模型厂商需重新评估数据安全范式,AI时代攻击门槛降低对防御体系提出新挑战[19]
启明星辰(002439.SZ):目前未参与“流云”大模型
格隆汇· 2025-09-23 15:30
公司战略布局 - 公司围绕网信安全主业战略布局"AI+安全"方向 通过AI赋能安全能力并保护AI应用安全 [1] AI技术应用 - 公司以中国移动九大模型为基础 在中国移动强大算力资源支持下利用高质量安全数据集持续优化升级泰合安全大模型 [1] - 构建安星智能体应用于安全运营 威胁检测 数据安全等产品或服务中显著提升产品能力和服务效率 [1] - 快速推出大模型安全产品矩阵针对大模型应用安全风险形成系统性解决方案 [1] 业务澄清 - 公司目前未参与"流云"大模型 [1]
研判2025!中国云WAF行业市场规模、竞争格局及未来趋势分析:云WAF已经成为云上租户的首选,市场规模不断壮大,头部云服务商竞争优势明显[图]
产业信息网· 2025-09-11 09:15
云WAF行业相关概述 - Web应用防护系统(WAF)通过执行针对HTTP/HTTPS的安全策略保护Web应用 有效识别恶意流量并清洗过滤后返回正常流量 保障服务器性能和数据安全[2] - WAF有三种形态:硬件WAF需串行部署在服务器前端并通过规则库匹配异常流量 软件WAF直接安装在服务器上监听端口检测请求 云WAF基于云端无需安装硬件或软件 通过DNS解析移交实现防护[3] - 云WAF相比传统WAF具有弹性扩展、高效防护、简化部署和智能学习等显著优势[1][4] 云WAF行业发展现状 - 2024年全球Web攻击达3110亿次 同比增长33% 其中亚太区攻击次数激增73%至51亿次 增速远高于全球平均值[4] - 2024年中国云WAF市场规模达19.5亿元 同比增长24.2% 云WAF已成为云上租户首选并在整体WAF市场中地位持续提升[1][4] - 互联网服务、金融和政府为云WAF主要应用领域 占比分别为23.1%、22.6%和20.4% 在线教育和在线医疗等新兴领域需求增长[1][5] 云WAF行业企业格局 - 阿里云、华为云、中国电信、腾讯云和中国移动为市场主要玩家 2024年五家企业合计占据近70%市场份额[6][7] - 阿里云以21.4%份额位居行业首位 华为云占比15.5% 中国电信占比11.9% 腾讯云占比11.2% 中国移动占比8.4%[7] - 公有云WAF市场高度集中 阿里云以27.2%份额领先 腾讯云以13.1%居第二 私有云WAF市场被云服务商和专业安全厂商各占半壁江山 前五企业合计占67.3%份额[9][11] 云WAF行业发展趋势 - 云WAF与GenAI深度结合成为必然趋势 基于GenAI的语义解析和行为感知能力推动安全防御体系向智能自治方向升级[13] - 云WAF服务将向Web应用和API防护平台(WAAP)方向演进 构建多维度纵深防御体系并集成多种安全能力[14] - 大模型安全成为新焦点 LLM-WAF应运而生以应对内容合规、数据泄露和提示词注入等新型威胁 成为重要市场增长点[15] - 云WAF产品强调与容器化、DevOps等云原生技术兼容 支持弹性部署和跨多云平台协同防御 同时用户对检测能力和业务契合度要求提升[16]
从MLLM到Agent:万字长文览尽大模型安全进化之路!
自动驾驶之心· 2025-09-04 07:33
大模型演进与安全挑战 - 人工智能从单一文本交互发展到多模态理解与智能体自主决策阶段 能力上限持续扩张但安全风险呈指数级增长 [2] - 越狱攻击通过精心设计的输入或环境扰动绕过模型安全机制 诱导生成违法有害内容 可能引发虚假信息传播和网络攻击等严重后果 [2] - 现有研究缺乏对LLMs-MLLMs-Agents全演进链路的系统性梳理 尚未形成统一的攻击分类框架和评估标准 [2] 研究综述核心贡献 - 系统追溯大模型从LLMs到MLLMs再到Agents的发展脉络 构建越狱攻击分类体系 [3] - 梳理数据集 评估指标与防御策略的最新进展 指出当前研究局限与未来方向 [3] - 核心贡献包括完整呈现演进路径与安全挑战 从双视角对越狱技术分类 解析实验设计 体系化防御策略和提出未来方向 [4] 大语言模型(LLMs)发展 - Transformer架构的自注意力机制实现全局语境建模与并行计算 为超深网络训练奠定基础 [8] - 模型性能随参数 数据量 算力增长而提升 从BERT的3.4亿参数到PaLM的5400亿参数 [9] - 模型能力涌现链式推理和上下文学习等高级能力 InstructGPT通过指令微调和RLHF优化交互效果 [9] - LLMs仅能处理文本模态 易受训练数据偏见和提示操纵影响 早期越狱攻击集中于文本层面操纵 [11] 多模态大语言模型(MLLMs)发展 - MLLMs通过跨模态对齐和联合表示学习实现图像音频等非文本信息与文本语义关联 [12] - 能力扩张带来全新安全风险 多模态输入复杂性使攻击面显著扩大 攻击者可利用视觉漏洞和音频漏洞诱导有害内容生成 [13] - 越狱攻击更具隐蔽性 多模态信息融合可能掩盖单一模态中的恶意信号 防御机制难以精准识别 [15] 智能体(Agents)发展 - Agents定义为能够感知环境自主采取行动的智能实体 由核心 规划 工具和记忆四大组件构成 [17][21] - 应用场景从被动响应转向主动执行 带来最严峻的安全挑战 攻击目标变为篡改决策行为 [17] - 攻击者可能通过污染长期记忆或利用工具调用漏洞使Agents执行恶意行动 引发跨Agent的攻击传播 [17] 越狱攻击双维度分类 - 从攻击影响维度细分为攻击阶段与干预层级 攻击阶段包括训练期和推理期攻击 干预层级包括提示层 推理层和模型层攻击 [25][26][28][29][31][32] - 从攻击者权限维度分为白盒攻击和黑盒攻击 白盒攻击可访问模型内部信息进行精准打击 黑盒攻击仅通过输入输出交互进行盲测 [32][35][36] 数据集现状与局限 - 现有数据集按数据来源分为LLM自动生成 搜索引擎检索和人工制作 按数据格式分为问答格式 指令格式和有害句子图像格式 [38][39][40][41] - 存在动态性不足 语言与文化局限 多模态与多轮场景覆盖少三大局限 静态数据集难以跟上快速迭代 英文为主缺乏多语言覆盖 [43] 评估指标分类与应用 - 主流评估指标分为人工评估 Perspective API评估 LLM评估 关键词词典评估和自定义评估五类 [44][46][47][48][50][53][55] - 多方法融合成为趋势 先用关键词词典初步筛选 再用LLM评估批量处理 最后对高争议样本人工审核 [58] - 不同评估方法在各类模型上表现差异显著 例如GCG在AdvBench数据集上对GPT-3.5攻击成功率达90% 但对GPT-4V仅为35% [57] 防御策略体系 - 按防御响应时机分为输入防御 输出防御和联合防御 输入防御源头阻断恶意输入 输出防御结果审核有害内容 联合防御融合多阶段策略 [59][61][62] - 按技术手段分为规则启发式防御 ML/DL防御 对抗检测防御和混合策略防御 混合策略防御成为应对复杂攻击的主流方向 [62][65][66][69][70] - 当前防御存在多模态防御能力不足 智能体防御滞后和防御与能力平衡难三大挑战 [70] 现存局限与未来方向 - 四大核心局限包括数据集多样性模态覆盖与动态性不足 评估方法缺乏统一标准 攻击技术泛化性差和防御技术被动响应 [74][75][76][77] - 五大未来方向包括构建动态多模态多语言数据集 优化评估框架建立统一标准 突破攻击技术泛化性 研发主动防御技术和重视伦理与监管 [79][80][81][82][83] - 大模型安全研究进入全链路多模态多智能体协同防御新时代 需突破现有瓶颈兼顾伦理与监管构建稳健生态 [85]
启明星辰2025年上半年实现营业收入11.33亿元
证券日报之声· 2025-08-26 21:36
财务表现 - 2025年上半年实现营业收入11.33亿元 [1] - 归属于上市公司股东的净利润同比减亏 [1] - 毛利率和应收账款等关键指标持续改善 [1] - 第二季度经营性净现金流转正 [1] - 研发投入占营收比重提升至37.67% 较上年同期增加3.64个百分点 [3] AI技术发展 - 持续优化泰合安全大模型并构建大小模型相互协同的安星智能体 [1] - 在中国移动算力资源支持下 以中国移动九天大模型和开源DeepSeek大模型为基础进行升级 [1] - 安星智能体应用于安全运营、威胁检测、威胁情报、数据安全等产品或服务 [2] - 升级后的安星人工智能运营系统提升日志解析、告警研判、关键分析、事件响应等工作的智能化水平 [2] 产品与业务创新 - 推出体系化的大模型安全产品矩阵并实现多个标杆项目落地 [2] - 率先推出大模型应用安全防护"新三件套"并持续强化产品矩阵覆盖深度与广度 [2] - 全面承接移动云安全研发和产品能力供给 [2] - 与中国移动云能中心共同打造基于CNASA自适应原生安全底座的移动云原生安全技术体系 [2] 战略合作与资源整合 - 充分利用中国移动的算力资源支持技术研发 [1] - 构建覆盖基础设施、平台、数据到应用的全面云安全框架 [2] - 提升公有云、私有云、专属云、边缘云用户的全场景云安全服务智能化水平 [2] - 大幅提高智算基础设施的使用效率 [2] 行业地位与竞争优势 - 作为央企控股的行业龙头企业拥有充裕的资金储备 [3] - 技术护城河不断拓宽 巩固既有优势 [3] - 在新兴技术应用与政策红利交汇点上占据有利地位 [3]
天融信发布2025年中报 智算云业务构建新竞争力
证券日报网· 2025-08-20 20:45
财务表现 - 2025年上半年公司实现营业收入8.26亿元,第二季度单季营业收入同比增长8.72% [1] - 毛利率上升4.1个百分点,2023-2025年上半年毛利率分别为60.19%、61.04%和67.40% [2] - 销售费用、研发费用及管理费用总额同比减少14.04%,2023-2025年上半年费用总额同比分别降低2.57%、10.73%和14.04% [1][2] - 上半年净利润同比增长68.56%,第二季度单季净利润同比增长103.17% [3] 行业收入增长 - 运营商行业收入同比增长25.31%,金融行业收入同比增长19.52%,能源行业收入同比增长32.35%,交通行业收入同比增长60.78% [2] 智算云业务发展 - 智算云业务占营业收入比重持续提升,2023-2025年上半年分别为7.43%、9.06%和12.40% [4] - 公司发布智算硬件平台、智算云平台,与超融合、桌面云等构成"天融信智算云"系列,已在政府、企业、医疗、教育等行业规模化落地 [4] - 智算云平台首批通过工信领域大模型一体机能力验证,并纳入中国产学研合作促进会创新成果集 [4] 大模型安全市场 - 天问大模型在检测引擎、安全专家智能体等方面整体革新,全线产品融入AI [5] - 公司构建"框架—产品—服务"全链路防护体系,推出大模型安全网关等产品 [5] - 大模型安全网关获公安部第三研究所颁发的首张《大模型安全防护围栏产品认证(增强级)》证书 [5] 可信数据空间建设 - 公司完成可信数据空间接入连接器及服务平台的战略级布局,实现数据要素全流程可信、可控、可计量 [6] - 相关解决方案已在运营商、能源等多个关键基础设施行业应用 [6] - 参与多项国家标准、行业标准及白皮书编制,同步推进安全防护平台建设 [6] 战略合作与创新 - 与华为合作推出基于鲲鹏架构的智算一体机,打造安全可控的底层支撑 [6] - 是华为鸿蒙商用解决方案首批合作伙伴,推动基于鸿蒙系统的终端安全一体化解决方案落地 [6] - 与中关村机器人创新中心达成战略合作,联合技术攻关、产品方案整合,赋能机器人场景下的安全保障 [6]
研报掘金丨东方证券:维持天融信“买入”评级,目标价9.02元
格隆汇APP· 2025-08-12 16:16
公司产品与技术 - 公司核心产品大模型安全网关系统(TopLMG)采用"规则匹配+行为分析"双引擎检测机制 [1] - 产品以"五层纵深防御体系"为框架,覆盖基础设施层、服务层、用户层、内容层、监管层 [1] - 形成"识别–保护–检测–响应–恢复"的智能防御闭环 [1] - 大模型安全网关系统率先通过国家网络与信息系统安全产品质量检验检测中心测试 [1] - 获首张《大模型安全防护围栏产品认证(增强级)》证书 [1] 财务与估值 - 受宏观经济扰动影响,公司安全等业务表现不及预期 [1] - 下调营收预期,上调费用率水平 [1] - 给予公司25年82倍PE,对应目标价为9.02元 [1] 行业布局 - 公司布局大模型安全赛道,静待需求触底回升 [1]
云姨夜话丨谁在“安全”前提下持续破解AI的“医”题?
齐鲁晚报· 2025-07-30 17:34
医疗AI市场规模与增长 - 医疗AI市场规模2025年预计突破27亿美元 2034年将攀升至170亿美元[2] - 医疗AI化是对传统医疗模式进行革命性重构 AI正在多个关键领域变革现代医疗方式[2] 蚂蚁集团AI健康应用AQ进展 - AQ已接入269个医生智能体服务 打造首个连接智能硬件的院士智能体[2] - 与中国信通院启动国内首个《医疗健康行业智能体AI医生》标准体系 推出医生开放平台[2] - AQ入选2025WAIC"SAIL奖"TOP30和"镇馆之宝"两项大奖[3] - 已适配苹果、华为、鱼跃、欧姆龙等可穿戴和医疗设备 可同步血压血糖数据提供个性化健康信息[3] - 正发力"医生AI分身"技术 让AI复刻专家思维与诊断路径[3] AI在医疗领域的应用场景 - AI在临床一线应用中持续推进 尤其在慢病管理等高频场景加速落地[3] - 每个医生智能体上线意味着用户多了一位可7×24小时响应的专业医生助手[3] - 大模型与医生专业能力及硬件设备监测能力结合 推动真正可使用可信赖的"AI家庭医生"发展[3] 医疗AI安全技术发展 - 蚂蚁集团大模型安全解决方案"蚁天鉴"新增智能体安全评测工具 具备四大核心功能[4] - "蚁天鉴"风险研判Agent准确率可达96%以上 支持11个行业智能体测试[4] - 解决方案形成完整技术链条 提供全方位智能化的大模型安全测评和防御解决方案[4] - "蚁天鉴"新增功能与世界数字科学院《AI智能体运行安全测试标准》框架契合[5] 行业挑战与发展方向 - AI医疗正经历从"能用"到"好用"转型 面临数据孤岛和伦理规范等挑战[5] - 医护人员需接受系统培训 充分认识AI能力边界并警惕误导性信息[5] - 医疗AI应用产生的海量数据涉及患者隐私、医疗质量和科研成果 安全技术具有至关重要地位[3]