Workflow
CogVLM
icon
搜索文档
多模态大模型存在「内心预警」,无需训练,就能识别越狱攻击
机器之心· 2025-07-21 16:43
多模态大模型的安全挑战与解决方案 - 视觉语言大模型(LVLMs)如GPT-4V、LLaVA等在图文问答和视觉推理任务中表现突出,但相比纯文本模型更易被“越狱”,攻击者可通过图像注入危险意图[2] - 现有防御方法如跨模态安全微调、系统提示词设计等存在训练成本高、泛化能力差和误判风险[3] HiddenDetect技术原理 - 研究发现LVLMs即使被越狱生成不当内容,其隐藏状态中仍保留拒绝信号,中间层比输出层更早感知风险[5] - 通过构造“拒绝语义向量”(RV)并计算各层隐藏状态与RV的余弦相似度,量化模型拒绝强度,形成拒绝强度向量F[9] - 实验显示F在不安全输入中呈现中间层峰值特征,且最后一层拒绝倾向高于倒数第二层[9] 多模态安全响应差异 - 文本和图像输入激活不同安全通路,文本拒绝响应更早更强,视觉模态会延迟并削弱拒绝信号[17][19] - 关键层定位方法通过拒绝差异向量(FDV)识别对安全最敏感的中间层,其FDV显著高于末层[20] 实验结果与性能 - 在LLaVA、Qwen-VL、CogVLM等模型测试中,HiddenDetect在文本攻击(如FigTxt)和跨模态攻击(如FigImg)检测上表现最优,AUC最高达0.997[24] - 相比Perplexity、GPT-4V等基线方法,HiddenDetect在XSTest边界样本上保持高鲁棒性,误判率更低[23][24] 技术应用与未来方向 - 方法无需训练,结构轻量,可直接部署于现有LVLMs,聚焦风险提示但暂不调控模型行为[28] - 未来将探索模态信息与安全性的关联,推动多模态模型向更可控方向发展[28]
中国AI六小虎「智谱」,传同时准备A股、香港上市,A股IPO的概率可能高些
搜狐财经· 2025-07-12 15:26
IPO计划 - 北京智谱华章科技股份有限公司考虑将IPO地点由内地改为香港 可能募资约3亿美元(约23.4亿港元) [1] - 公司正同时准备港股和A股上市准备工作 且A股上市概率较高 [1] - 相关事宜仍在考虑中 尚未作出最终决定 包括规模在内的细节可能会发生变化 [1] 业务与技术 - 公司致力于打造新一代认知智能大模型 专注于做大模型的中国创新 [2] - 合作研发了中英双语千亿级超大规模预训练模型GLM-130B 并推出对话模型ChatGLM 开源单卡版模型ChatGLM-6B [2] - 打造了AIGC模型及产品矩阵 包括智谱清言 CodeGeeX CogVLM和CogView等 [2] - 推出大模型MaaS开放平台 践行Model as a Service市场理念 [2] 融资与投资者 - 投资者包括美团 蚂蚁 阿里 腾讯 小米 红杉 高瓴等多家知名机构和企业 [3] - 其他投资者包括中关村科学城 杭州城投 浦东创投集团 张江集团 达晨财智等 [3] - 国际投资者包括三星 沙特阿美旗下Prosperity7基金等 [3]
OpenAI最新点名的中国竞争对手,不是DeepSeek
观察者网· 2025-06-29 18:29
开源大模型与智能体趋势 - 开源大模型和智能体成为AI领域新焦点,以DeepSeek和Manus为代表 [1] - AI六小虎热度下滑,部分观点认为其陷入发展瓶颈 [1] OpenAI对中国AI企业的评价 - OpenAI点名智谱为中国大模型领域新锐代表,称其取得"显著进展" [1][3] - 智谱被视为中国打造独立自主AI生态的重要力量 [3] - OpenAI内部分析师认为智谱的"中国版OpenAI本土化产品"在欧美进入前取得进展 [4] 智谱的国际化战略 - 智谱响应"一带一路"和"数字丝绸之路"战略,向越南、印尼、马来西亚等国家输出基础设施和技术支持 [4] - 展示"负责任、透明且易于审计"的中国AI方案,合作对象包括阿联酋、沙特和肯尼亚等 [4] - 智谱董事长刘德兵表示公司致力于推动国产大模型技术出海,帮助共建国家构建自主大模型 [6] OpenAI与智谱的竞争关系 - CNBC评论称OpenAI将智谱视为威胁 [5] - OpenAI与阿联酋达成"星际之门阿联酋"项目合作,计划在亚太推广类似模式 [5] - 智谱被美国商务部列入实体清单后,OpenAI仍点名其出海进展 [5] 智谱的产品与资本动态 - 智谱开发GLM系列模型,产品矩阵包括智谱清言、CodeGeeX和CogVLM [5] - 公司于2024年启动上市辅导流程 [5]
智谱正式启动A股IPO:B、C两端业务齐发力,今日再开源性能顶尖模型
IPO早知道· 2025-04-15 09:18
公司IPO进程 - 公司于2025年3月31日同中金公司签署辅导协议,正式启动A股IPO进程,成为"大模型创业公司"中第一家正式启动上市流程的企业 [3][5] 技术研发与产品迭代 - 公司成立于2019年,致力于打造新一代认知智能大模型,2020年底研发GLM预训练架构,2021年训练完成百亿参数模型GLM-10B并利用MoE架构训练出万亿稀疏模型 [5] - 2022年研发中英双语千亿级预训练模型GLM-130B并开源,2023年推出千亿基座对话模型ChatGLM并两次升级,开源版本ChatGLM-6B支持本地微调和部署 [5] - 2024年1月推出GLM-4,性能大幅提升,6月开源GLM-4-9B及视觉模型GLM-4V-9B,多模态能力媲美GPT-4V,7月推出视频生成模型CogVideoX,推理速度提升6倍 [5] - 2024年8月升级GLM-4-Plus,10月发布GLM-4-Voice和AutoGLM,11月推出GLM-PC探索"无人驾驶"PC技术,12月发布GLM-Zero-Preview擅长数理逻辑和深度推理 [5] - 2025年1月发布GLM-Realtime支持清唱和2分钟记忆,3月推出AI Agent「AutoGLM 沉思」 [5] 产品矩阵与开源策略 - 公司打造对标OpenAI的完整产品矩阵,包括智谱清言、CodeGeeX、CogVLM、CogView等,清言App支持多模态互动 [5] - 践行MaaS理念,通过bigmodel.cn平台提供AI开发资源和企业级解决方案 [5] - 2025年4月15日宣布开源32B/9B系列GLM模型,涵盖基座、推理、沉思模型,推理模型GLM-Z1-32B-0414性能媲美DeepSeek-R1,推理速度达200 Tokens/秒,价格仅为DeepSeek-R1的1/30 [5] - 启用新域名Z.ai整合32B基座、推理、沉思模型,作为最新模型交互体验入口 [7] 融资与战略合作 - 2025年3月连续完成三笔融资:3月3日超10亿元人民币战略融资,3月13日获珠海华发集团5亿元战略投资,3月19日获成都高新区3亿元战略投资 [7] - 联合地方政府打造首个城市级GLM大模型空间和首个省级基座大模型,智能体已接入北京101等十余所学校 [7] - 投资方包括中科创星、达晨财智、君联资本等知名VC,美团、蚂蚁、腾讯等战略投资方,以及北京、杭州、珠海、成都等地国资 [7]
AI功能延期被指虚假宣传,苹果面临集体诉讼;段永平豪掷925万美元买入英伟达!黄仁勋演讲没能拯救公司股价丨AI周报
创业邦· 2025-03-23 18:17
文章核心观点 文章为全球AI产业周报,精选3.15 - 3.21最值得关注的AI新闻和国内外热门AI投融资事件,帮助了解全球AI市场动向[2] 本周AI热点资讯 国内大事 - 阿里CEO主张全面“AI化”,以AI评估绩效,核心电商部门鼓励用AI技术,正开发AI原生应用,或今年推出[4] - 段永平豪掷925万美元买入英伟达股票,黄仁勋演讲后英伟达股价跌3.43%,市值蒸发约9200亿美元[5] - Manus国内产品Monica在京完成生成式人工智能服务登记,北京已备案105款大模型产品,数量全国第一[5] - 阶跃星辰开源图生视频模型Step - Video - TI2V,支持生成特定视频,已完成与华为昇腾计算平台适配并上线[5] - 宇树科技携人形机器人及四足机器狗亮相AWE2025,G1机器人首次完成侧空翻动作[6][7] - 啄木鸟核实8655个争议订单,将上线Deepseek AI帮忙问价功能[8] - 刘强东现身香港科技大学参观人工智能项目[8] - 越疆推出全球首款具特定功能全尺寸具身智能人形机器人,售价19.9万元起,年中试产和批量[9] - 腾讯混元推出5款3D生成模型并全部开源,自研3D AI创作引擎升级并面向C端开放[9] - 阿里通义语音团队负责人鄢志杰离职,或投身AI创业[10] - 米哈游蔡浩宇AI游戏曝光,主打AI驱动角色实时对话,已开启内测[10] - Manus光谷研发团队大量招聘,涉及10余个岗位[10] - 杨立昆“炮轰”人形机器人,称演示惊艳但实际很蠢[11][12] - 百度发布文心大模型4.5及文心大模型X1,4.5性能优且价格仅为GPT的1%,X1性能对标并增加能力[12] - 开普勒人形机器人K2进厂“搬砖”,此前已在多场景测试[12] - 小马智行称暂无赴港上市计划,文远知行回应无相关消息[13] - 一男子用AI捏造明星谣言被行拘[13] - 北京市新增34款已完成登记的生成式人工智能服务,小米相关产品在列[14] 海外大事 - OpenAI发布三款全新语音模型用于开发语音AI Agent,并开发新网站展示功能[14] - 马斯克xAI参与贝莱德牵头的AI基础设施投资基金,与OpenAI竞争[15] - 苹果重组AI高管团队,Vision Pro创造者负责Siri,面临集体诉讼[15][16] - 黄仁勋修正对量子计算言论,否认联手投资英特尔传闻[17] - Meta将在欧盟推出生成式AI助手,仅限文本模式[18] - AI云巨头CoreWeave拟IPO定价47 - 55美元,估值或超23亿美元[18] - 黄仁勋称对DeepSeek R1理解错误,推理人工智能增加计算需求[18] - 英伟达发布人形机器人基础模型GROOT N1,官宣下一代超级芯片Vera Rubin[19][20] - 机构预计2028年全球人形机器人市场产值达40亿美元[21] - 李在镕称三星“生死一线”,召集高管培训应对AI挑战[21] - 谷歌320亿美元全现金收购云安全公司Wiz[21] - 马斯克xAI收购AI视频生成工具公司Hotshot,上线图像生成API[22] - OpenAI与马斯克同意加速审理营利转型案[22] - 英伟达、谷歌与迪士尼合作研发的机器人Blue亮相,迪士尼股价转涨[23] AI投融资概览 整体情况 - 本周全球披露AI融资事件7个,较上周减少19个,已披露融资金额事件6个,总融资规模5.63亿元,平均0.94亿元[25] 阶段分布 - 本周全球已披露获投AI企业早期6个、成长期0个、后期1个[26] 地区分布 - 本周国内披露获投AI企业主要集中在浙江、北京,浙江4起,北京3起[28] 国内AI融资/IPO事件 - 本周国内AI领域已披露融资总额5.63亿元,智谱AI完成3亿人民币D++轮融资,致力于打造认知智能大模型[31] 海外AI融资事件 - 本周海外AI领域暂无已披露融资[33]
智谱AI完成3亿元D++轮融资;维昇药业港交所上市,药明、瑞凯基石领投丨03.15-03.21投融资周报
创业邦· 2025-03-23 08:44
一级市场投融资概览 - 本周国内一级市场披露融资事件54个,较上周减少31个,其中20个披露金额事件总融资规模12.33亿元人民币,平均融资金额0.62亿元人民币 [4] - 从融资事件数量看,智能制造(19个)、医疗健康(7个)、人工智能(7个)领域最活跃 [5] - 从融资规模看,人工智能行业以5.63亿元人民币居首,主要由智谱AI的3亿人民币D轮融资驱动 [5][6] 行业分布 - 人工智能领域:智谱AI完成3亿人民币D轮融资,专注认知智能大模型开发,推出GLM-130B预训练模型及ChatGLM对话模型,并建立AIGC产品矩阵 [5][6] - 智能制造领域:总融资规模2.70亿元人民币,共进微电子完成过亿人民币A轮融资,聚焦智能传感器及汽车电子芯片封装测试 [6][7] 地区分布 - 融资事件集中在江苏(14起)、北京(12起)、浙江(10起) [9] - 江苏14起事件中4起披露金额共1.80亿人民币,北京12起中5起共融资3.93亿人民币,浙江10起中8起共融资4.30亿人民币 [11] 阶段分布 - 早期阶段融资事件占比最高(44个),成长期9个,后期仅1个 [11] 大额融资与独角兽 - 海外新增独角兽Ordio Nerdio(美国云管理服务商)完成C轮5亿美元融资,估值达10亿美元 [17] 市场活跃机构 - 锡创投(3个投资事件)、博华资本(2个)、中科创星(2个)为本周最活跃投资机构 [19] IPO与并购 - 本周国内IPO公司5家,新亚电缆以72.61亿人民币市值居首,4家曾获VC/PE投资 [21][22] - 国内并购事件14个,华星光电以73.7亿人民币收购电子元器件批发商中国乐金80%股份 [24][25]
“智谱杀疯了”
投中网· 2025-03-20 14:21
公司融资动态 - 2025年3月19日成都高新区向智谱注资3亿元,目标5年内支持超1000家企业AI转型并孵化20家生态企业 [6] - 2025年3月内完成三轮融资:杭州城投产业基金和上城资本联合投资超10亿元,华发集团战略投资5亿元,累计融资18亿元,估值突破200亿元 [7] - 成立不到6年完成17轮融资,2023年累计融资超25亿元,2024年完成至少4轮融资包括沙特阿美旗下基金Prosperity7投资4亿美元(投后估值30亿美元)及中关村科学城领投数十亿元(投前估值200亿元) [9][13] 技术发展路径 - 2019年创立时提出GLM预训练架构,采用自回归填空混合训练范式,形成差异化技术壁垒 [9] - 2021年发布开源百亿大模型GLM-10B,2022年开源千亿级GLM-130B,2023年推出ChatGLM,2024年发布GLM-4-Plus性能对标GPT-4o [15] - 产品矩阵包括智谱清言(2500万用户)、CodeGeeX、CogVLM、CogView等,支持多模态互动 [15] 商业化进展 - B端MaaS平台BigModel拥有70万企业开发者用户,API年收入增长30倍,日均Tokens消耗量增长150倍 [15] - C端智谱清言付费功能预计ARR突破千万元,Agent数量达50万个 [15] - 中标32个政府大模型项目,与北京、杭州、珠海等地共建AI基建,联合联想等企业成立生态合作伙伴联盟 [16] 战略布局 - 采用"地方+技术+资本"模式,与成都高新区共建"智谱AI诸葛大模型",与珠海高新区打造城市级GLM大模型空间 [6][7] - 与三星合作将Agentic GLM植入Galaxy S25系列,加速商业化落地 [15]
智谱AI完成5亿人民币D+轮融资;AI公司SSI获20亿美元投资,估值高达300亿美元丨03.08-03.14投融资周报
创业邦· 2025-03-15 18:02
文章核心观点 睿兽分析整理当周国内外热门投融资事件,展示国内一级市场投融资概览、大额融资、活跃机构、IPO公司、并购事件及海外大额融资与新增独角兽等情况,助大家了解全球市场动向 [1] 一级市场投融资概览 整体情况 - 本周国内一级市场披露融资事件63个,较上周减少47个,已披露融资金额事件33个,总融资规模42.54亿元,平均融资金额1.29亿元 [3] 行业分布 - 融资事件数量上,人工智能、医疗健康、智能制造领域最活跃,分别为13个、12个、11个 [4] - 已披露金额事件融资规模上,人工智能最高,约15.26亿元,其中「智谱AI」获过10亿D轮融资,该公司由清华技术成果转化,打造大模型及产品矩阵,推出MaaS开放平台 [4] - 医疗健康行业已披露融资总额13.29亿元,「帕母医疗」获近1亿美元C轮融资,该公司依托原创技术打造创新器械平台,核心产品国际首创,获多项专利与认证 [5] 地区分布 - 获投企业主要集中在北京、江苏、上海,分别披露17个、11个、7个 [7] 阶段分布 - 获投企业阶段分布为早期46个、成长期12个、后期5个 [9] 国内一级市场活跃机构 - 德同资本、启明创投、同创伟业各有2个投资事件,在本周创投市场较活跃 [17] 国内IPO公司 - 本周重点监测到3家国内IPO公司,分别位于深圳、香港、上海证券交易所,「汉朔科技」最新市值最高为298.51亿,3家公司均曾获VC/PE或CVC投资 [19] 国内并购事件 - 本周国内披露已完成并购事件7个,较上周减少2个,分布在传统、能源电力、企业服务行业,江西中燃以6.38亿收购新疆火炬20.52%股份,新疆火炬主营燃气销售与安装服务,曾获九鼎投资等投资 [21]
智谱AI完成超10亿元D轮融资;蜜雪冰城港交所IPO,最新市值1338.56亿港元丨全球投融资周报03.01-03.07
创业邦· 2025-03-08 18:05
文章核心观点 - 睿兽分析整理当周国内外热门投融资事件,助大家了解全球市场动向 [1] 一级市场投融资概览 - 本周国内一级市场披露融资事件67个,较上周减少28个,已披露金额事件38个,总融资规模52.22亿元,平均融资金额1.37亿元 [3] 行业分布 - 融资事件数量上,人工智能、医疗健康、智能制造领域最活跃,分别为13个、12个、11个 [4] - 已披露金额事件融资规模上,人工智能最高,约15.26亿元,其中「智谱AI」获过10亿人民币D轮融资 [4] - 医疗健康行业已披露融资总额13.29亿元,「帕母医疗」获近1亿美元C轮融资 [5] 地区分布 - 获投企业地区主要集中在上海、北京、江苏,分别披露13个、12个、10个 [7] 阶段分布 - 获投企业阶段分布为早期50个、成长期13个、后期4个 [9] 本周国内一级市场大额融资事件 - 「智谱AI」获过10亿人民币D轮融资,投资方为上城资本、杭州城投 [14][15] - 「帕母医疗」获近1亿美元C轮融资,投资方有启明创投等 [15] - 「深蓝航天」获近5亿人民币B4轮融资,投资方为泰山产业发展投资集团 [15] - 「嘉树医疗」获数亿人民币B轮融资,投资方有高瓴创投等 [15] - 「STERH晶通科技」获数亿人民币B轮融资,投资方有力合资本等 [15] 本周海外一级市场大额融资事件 - 「Peregrine Technologies」获1.9亿美元C轮融资,投资方有Sequoia Capital等 [18] - 「Callio Therapeut」获1.87亿美元A轮融资,投资方有Frazier Life Sciences等 [18] 本周海外新增独角兽 - 「Peregrine Technologies」估值25亿美元,最近融资C轮1.9亿美元,投资方有Sequoia Capital等 [18] 市场活跃机构 - 普华资本、勤智资本、中关村发展启航产业投资基金本周投资活跃度较高,各有2个投资事件 [21] 本周国内IPO公司 - 本周重点监测国内IPO公司5家,分别位于香港、上海、深圳、纳斯达克证券交易所,「蜜雪冰城」最新市值最高,为1338.56亿港元 [23] - 5家公司中有4家曾获VC/PE或CVC投资,如「蜜雪冰城」曾获Sequoia Capital等投资 [24]
直线拉升!刚刚,深圳重大发布!
券商中国· 2025-03-03 15:22
深圳人工智能终端产业发展行动计划 - 深圳市发布《深圳市加快推进人工智能终端产业发展行动计划(2025—2026年)》,目标到2026年全市人工智能终端产业规模达8000亿元以上、力争1万亿元 [1][4] - 计划提出集聚不少于10家现象级人工智能终端企业,人工智能终端产品产量突破1.5亿台,推出50款以上爆款产品,打造60个以上典型应用场景 [4] - 重点发展人工智能手机、计算机、平板电脑、大模型一体机、可穿戴设备等品类,推动智能手机从"智能工具"向"智能助理"升级 [1][5] - 在可穿戴设备领域,重点布局智能眼镜、智能手表、智能耳机、AR/VR设备等细分赛道,聚焦空间感知、实时翻译、健康监测等场景 [5] 人工智能终端产业重点任务 - 加快发展端侧大模型,鼓励企业通过模型压缩、蒸馏等技术提高部署效率,建立高质量数据库优化模型 [6] - 提升基础软硬件水平,包括操作系统功能架构优化、芯片核心技术攻关、下一代显示技术发展等 [6] - 推动形成强大企业梯队,培育"隐形冠军",吸引全球企业在深设立创新总部和研发中心 [6] - 拓展应用场景,在政务服务、城市治理、智慧教育、医疗等领域开放场景,支持工业机器人、智能检测等制造业应用 [7] 智谱AI融资动态 - 智谱AI宣布完成新一轮超10亿元人民币战略融资,投资方包括杭州城投产业基金、上城资本等 [8] - 融资将用于国产基座GLM大模型技术创新和生态发展,服务长三角地区数字产业转型升级 [8] - 公司在2024年12月刚完成30亿元融资,用于GLM大模型系列研发,提升复杂推理和多模态任务能力 [8] - 智谱源自清华技术成果,已推出GLM-130B预训练模型、ChatGLM对话模型等产品矩阵 [9] 行业开源趋势 - DeepSeek举办"开源周"连续开源五个软件库,涵盖AI基础设施多个领域 [9] - 智谱表示将发布全新开源大模型产品,包括基座模型、推理模型、多模态模型等 [10] - 2025年以来字节豆包、阿里通义千问等企业纷纷加入开源行列,促进AI产业生态繁荣 [10] - 开源模式推动大模型从"重资本军备竞赛"转向"合作共创平台",降低研发成本提高创新效率 [11] 金融领域AI应用 - AI大模型在金融机构非核心决策环节已有较多落地应用,如智能客服、业务助理等 [11] - 奇富科技ChatBI与Deepseek-R1融合可优化营销效率,实现复杂数据分析任务拆解 [11] - DeepSeek-R1开源模型有望促进AI在金融机构核心决策/风控环节的加速探索 [11]