大语言模型(LLM)
搜索文档
安凯微(688620.SH):带一定算力的SoC芯片产品已经上市并量产
格隆汇· 2025-08-12 15:46
公司战略布局 - 公司从三个维度展开云边端结合战略以满足终端智能化的差异化需求 包括推进产品线向搭载轻量级或较高智能算力芯片方向发展 开发基于大语言模型和大视觉模型技术的中小模型 以及与云端大模型对接 [1] - 公司带一定算力的SoC芯片产品已经上市并实现量产 [1] - 基于公司SoC芯片并对接云端大模型的多款AI应用产品已陆续上市 [1] 产品技术发展 - 公司正推进各产品线布局向智能化芯片方向发展 重点提升端侧芯片的智能化处理能力 [1] - 技术开发聚焦于本地化、场景化的中小模型 采用大语言模型和大视觉模型技术 实现与智能化芯片的协同应用 [1] - 技术方案覆盖端侧和边缘侧的落地应用 同时保持与云端大模型的对接能力 [1]
国泰海通|产业:AI Agent的技术演进与产业洞察
国泰海通证券研究· 2025-08-08 17:24
AI Agent技术演进与产业洞察 核心观点 - AI Agent的未来发展核心在于以大语言模型(LLM)为"大脑"的范式革命,其商业价值通过解决行业痛点的垂直应用和开发平台体现 [1] - AI Agent正在重塑软件开发与人机交互范式,从传统架构演进为以LLM为核心的现代范式,具备自主规划、环境感知与工具调用能力 [1] - 多智能体协作时代开启,多个专业Agent协同解决宏大问题,驱动从上游基础模型到下游应用的完整产业链形成 [1] 技术架构演进 - 传统Agent架构(如审议式和反应式)受限于硬件和预编程规则,自主性与适应性有限 [2] - 2017年Transformer架构的出现为LLM崛起奠定基础,彻底重塑AI Agent设计理念 [2] - 现代LLM-based Agent核心架构由三大模块构成:大脑(LLM)、感知和行动 [2] - LLM-MAS(大语言模型多智能体系统)通过多个专业Agent协作/竞争,解决单个Agent处理超复杂任务的局限性 [2] 产业链格局 - 上游由少数科技巨头掌控,提供基础大模型和算力,主导交互协议制定,抢占生态话语权 [3] - 中游涌现开源开发框架和商业平台,通过低/无代码界面显著降低开发门槛 [3] - 下游应用分为两类: - 通用型Agent:自主完成复杂多步任务 - 垂直型Agent:深度融合行业知识(软件开发/法律/金融/医疗等),展现巨大商业价值 [3] 发展挑战与未来方向 - 当前面临LLM规划推理能力不足、上下文窗口受限、记忆瓶颈、多Agent协同及评估困境等挑战 [3] - 未来依赖基础LLM持续进化、多模态感知能力普及、软硬件生态重构,向AGI迈进 [3]
ChatGPT驱动40%-60%流量,SEO进入“即时呈现时代”
36氪· 2025-08-07 19:38
AI驱动流量增长趋势 - 2025年1月至5月,AI推荐的总会话量从17,076次跃升至107,100次,增幅高达527% [2][3][10] - 部分SaaS网站中,已有超过1%的会话来自大型语言模型 [3][6] - 在法律、健康和金融等垂直领域,来自ChatGPT、Claude等平台的流量正翻倍甚至三倍增长 [4][13] 行业流量格局变化 - 法律、金融、中小企业服务、保险和健康领域占所有LLM驱动会话的55% [7][23] - 法律领域LLM来源会话占比从0.37%升至0.86%,健康领域从0.17%升至0.56% [13][20] - 用户倾向于向AI咨询复杂的情境化问题,如法律咨询、健康建议和中小企业服务 [23] 主要AI平台竞争格局 - ChatGPT仍占主导地位,持续驱动40%-60%以上的LLM流量 [8][24] - Perplexity在金融领域贡献0.073%的流量,在法律和中小企业服务领域各占0.041% [24] - Copilot在法律和金融领域占比可观,Gemini在保险和中小企业服务领域崭露头角 [24] SEO策略演变 - SEO正分化为传统搜索和LLM驱动的信息发现两条赛道 [8][32] - 内容无需出现在Google搜索结果顶部也能被AI发现,关键在于清晰度和结构化 [16][17] - 优化重点从"排名"转向"被选中",需确保内容在整个营销漏斗中做好AI准备 [30][31] 内容优化方向 - LLM青睐简洁、清晰且易于扫描的内容,如项目符号、FAQ部分和优质摘要 [29] - 需要SEO、内容、用户体验和产品团队跨职能协作,确保整个网站做好对话准备 [31] - 审计已被AI平台引用或链接的内容,制定成为所在领域首选信息源的策略 [30]
大模型究竟是个啥?都有哪些技术领域,面向小白的深度好文!
自动驾驶之心· 2025-08-06 07:32
大语言模型(LLM) - 大语言模型是基于海量文本数据训练的深度学习模型,核心能力在于理解并生成自然语言文本,参数量通常达数十亿至数千亿级别,训练数据量可达TB级[3] - 现代LLM核心特征包括大规模参数(如GPT-3有1750亿参数)、Transformer架构、预训练+后训练范式以及多任务适应性[6] - LLM核心能力包括理解和生成两方面,技术基础是Transformer神经网络架构特别是自注意力机制[6] Transformer架构 - Transformer是LLM核心技术基础,由Google于2017年提出,包含Encoder和Decoder两部分,关键创新是自注意力机制[9] - Encoder-only架构仅保留编码器部分,典型代表是BERT模型,适合文本理解任务[10] - Decoder-only架构是现代LLM主流选择,如GPT系列、Llama系列,适合文本生成任务[11] LLM核心能力 - 文本生成与创作:如GPT-4可生成技术文档,Claude 4在工程文档生成方面比GPT-4.1高42%[12] - 代码生成与辅助编程:Claude 4 Opus在SWE-bench测试中得分80.2%,Qwen2.5-Max中文代码采纳率达82%[12] - 知识问答与推理:Gemini 2.5 Pro凭借200万token上下文窗口在实时数据分析中表现优异[12] - 文本理解与转换:Llama 3.1 8B在德语医疗文本结构化任务中准确率达89.3%[13] - 多模态处理:前沿模型如Gemini 2.5 Pro支持文本、图像、视频多模态输入输出[14] 代表性LLM工作 - GPT系列:由OpenAI开发,GPT-3有1750亿参数,GPT-5预计将具备2000万token上下文窗口[15][16][20] - Llama系列:由Meta开发的开源模型,Llama 4首次采用MoE架构,包含三个版本[17][21] - Qwen系列:阿里巴巴开发的中国最具影响力开源大模型,已开源200多款模型[18][22] - DeepSeek系列:以创新架构设计和高效推理著称,DeepSeek-V3采用MoE架构[19][23] 视觉基础模型 - 视觉基础模型是通过大规模数据预训练、具备通用视觉理解或生成能力的深度学习模型[25] - 主流架构包括视觉Transformer(ViT)、CNN与Transformer混合架构如ConvNeXt和MobileViT[26][27] - 核心任务包括图像分类与识别、跨模态理解、目标检测与定位、图像分割等[27][29] 语音大模型 - 语音大模型是经过大规模语音数据预训练的大型神经网络模型,参数规模庞大,训练数据量达百亿甚至万亿级别[31] - 主流架构以Transformer为主,采用序列到序列结构,如Whisper模型[32] - 适用任务包括语音识别、语音翻译、语音到语音翻译、文本到语音合成等[36] 多模态大模型(MLLM) - 多模态大模型能同时处理和理解文本、图像、语音、视频等多种模态信息[39] - 主流架构为"预训练模态编码器+可训练模态连接器+大语言模型+模态解码器"组合模式[40] - 适用任务包括视觉问答、图文生成、跨模态检索、视觉定位与分割等[41] - 代表性工作包括LLaVA、Qwen2.5-VL、GPT-4o等[41][42] 推理大模型 - 推理大模型聚焦于通过优化提示方式、引入外部知识或改进推理流程提升大模型推理能力[43] - 主流架构以"基础模型+增强模块"为核心,不改变原模型主干结构[45] - 核心技术方向包括提示工程、上下文学习、思维链与慢思考、检索增强生成等[46] - 代表性工作包括自动提示优化(OPRO)、思维链(CoT)、DeepSeek-R1等[47][48]
揭秘:OpenAI是如何发展出推理模型的?
华尔街见闻· 2025-08-04 15:02
文章核心观点 - OpenAI的ChatGPT成功被视为一次意外收获 公司真正的长期战略是开发具备推理能力的通用AI智能体(AI Agents) 其技术突破源于数学推理研究[1][2][3] - 公司通过结合大语言模型、强化学习和测试时计算三大技术 实现推理能力飞跃 关键突破内部代号为"Q*"或"Strawberry"[4][5] - 基于新方法开发的o1推理模型在2024年秋季问世 该模型使OpenAI在国际数学奥林匹克竞赛(IMO)中获得金牌[3][6] - 公司面临Google、Anthropic、xAI和Meta等竞争对手的激烈追赶 行业竞赛焦点在于谁能率先实现通用AI智能体愿景[9] OpenAI技术发展路径 - 数学领域被选为推理能力研究的起点 因为数学是纯粹逻辑和推理的试金石 2022年MathGen团队专注训练AI模型解答高中数学竞赛题[2] - 从语言处理到逻辑推理的跨越通过三大技术结合实现:大语言模型提供知识基础 强化学习通过奖惩机制优化决策 测试时计算允许模型反复验证思考步骤[5] - 新技术催生"思考链"(Chain-of-Thought)方法 模型展示完整解题思路而非直接输出答案 研究员观察到模型具备回溯错误和情绪化反应的特征[6] 推理能力的技术本质 - 公司从计算机科学角度定义推理为"有效消耗算力得到答案"的过程 强调功能实现而非形式模仿[7] - 研究文化采用自下而上模式 团队只需证明想法突破性即可获得GPU和人才资源支持 这种机制保障了对AGI使命的长期投入[7] - AI推理与人类思考的关系被类比为飞机与鸟类飞行 不同机制可实现相同甚至更强大的结果[7] 未来发展方向 - 当前AI智能体擅长定义明确的可验证任务(如编程) 但在处理主观性任务(如停车位选择或旅行规划)时仍存在瓶颈[8] - 核心挑战在于缺乏训练主观任务的数据 公司已开发新的通用强化学习技术训练模型处理无标准答案的问题[8] - IMO金牌模型采用多智能体协作机制 同时探索不同解题路径后选择最优解 这代表未来AI演进方向[8] - 终极目标是开发能处理互联网任何事务并理解用户偏好的超级智能体 所有研究均指向该方向[8] 行业竞争格局 - OpenAI曾为AI行业绝对引领者 但目前面临Google、Anthropic、xAI和Meta等对手的强势竞争[9] - 行业竞争焦点转向实现"智能体未来"的时间赛跑 关键在于能否在被超越前率先达到技术终点[9]
Reddit(RDDT.US)FY25Q2电话会:第二季度末的用户数据已显积极信号
智通财经网· 2025-08-01 21:14
用户增长与产品优化 - 公司2025财年目标是实现产品"即刻个性化",简化新用户引导流程,将繁琐问答改为搜索框,使新用户首次体验即可获得兴趣相关推送(如Reddit Answers指南和动态推荐)[1] - Q2美国用户增长4月开局缓慢,但通过产品优化、营销策略和用户获取措施逐步改善,季度末日活跃用户(DAU)超季度平均1.1亿,7月美国及国际市场DAU均实现增长[1][3] - 公司正开发整合传统搜索与Answers功能的单一搜索体验,区分"探索者"(带问题搜索)和"浏览者"(纯浏览)两类用户场景,计划将搜索功能置于应用核心位置[5] 广告业务发展 - Q2推出的动态产品广告(DPA)已帮助广告商获得良好广告支出回报,计划扩大推广范围[2][4] - 广告业务同比增长84%,活跃广告商数量增长超50%,主要来自留存稳定的现有客户[6] - 平台上线自动出价功能并深化自动化(如整合Memorable AI),同时推出社区智能产品(Reddit Insights和社区附加组件)以提升广告投放效率[2][4] 数据授权与AI战略 - Reddit已成为大语言模型(LLM)引用最多的互联网域名,其独特语料库在AI和下一代搜索中具有战略价值[8][16] - 通过Answers产品发现语料库比预期更丰富,能提供主观问题的多元观点,正探索数据授权合作模式[8] - 谷歌测试扩展论坛展示功能对Reddit流量有积极影响,"Reddit"是谷歌高频搜索词[17] 国际化进展 - 国际市场重点优化首用体验(搜索/关联/个性化),通过机器翻译英文语料库和培养本地社区版主推进本地化[19] - 法国市场测试显示机器翻译沉浸式体验改善获得积极反馈,品牌认知度提升是国际扩张关键[9] - Reddit Lite国际版简化UI设计(去除干扰内容、优化帖子呈现)验证有效,计划整合至核心应用向全球推广[15] 财务与运营 - Q2销售和营销支出环比增长约33%(从9000万增至1.2亿),主要受营收带动可变成本、新增超100名员工及营销投入驱动[11] - Q3调整后EBITDA指引1.85-1.95亿,预计成本增长维持30%+区间,将根据营销效果动态调整[11] - 每周用户行为数据显示5000万浏览者和6000万探索者,公司预计两类场景长期保持平衡[12][13]
经济学人:英美情报界如何使用AI模型?
搜狐财经· 2025-07-31 14:22
美国政府与AI实验室的合作 - 拜登政府下令情报机构、五角大楼及能源部更激进地试验尖端AI模型,并加强与Anthropic、谷歌DeepMind和OpenAI等前沿AI实验室的合作[1] - 2024年7月14日,五角大楼向Anthropic、谷歌、OpenAI以及埃隆·马斯克旗下的xAI分别授予了最高达2亿美元的合同,用于测试能够代替用户执行任务、操控其他设备的“代理型”AI模型[1] AI在情报机构的应用现状 - 美国所有情报机构都在广泛使用来自多个实验室的AI模型,早期应用主要集中在利用大语言模型分析机密数据[2] - 微软公司26款云计算产品已获准用于美国情报机构,Anthropic推出的Claude Gov模型已部署在最高国家安全保密级别的情报机构中[2] - AI公司会根据情报机构需求对模型进行微调,例如Claude Gov版本被调校成允许处理带有“机密”标识的文件,并加强了对外语及方言的识别能力[2] - 这些模型大多运行在与互联网隔离的安全服务器上,一批新的“代理型”模型正在情报机构内部构建[2] 欧洲及以色列的AI应用进展 - 整个英国情报界(UKIC)都已接入最高保密级别的大语言模型功能,法国公司Mistral正与法国的国防人工智能局(AMIAD)开展合作[3] - Mistral的Saba模型专门训练了处理中东和南亚数据的能力,在阿拉伯语及泰米尔语等区域性语言上表现尤为出色[3] - 自加沙冲突爆发以来,以色列军方对OpenAI的GPT-4模型的使用频率增长了20倍[3] AI应用面临的挑战与局限性 - AI在国家安全领域的应用水平尚未达到预期,许多情报机构仍在试图为现成的聊天机器人构建自己的“封装器”,这种做法使其大幅落后于公共领域最先进的模型[4] - 情报界最需要的是AI模型的一致性、可靠性、透明度和可解释性,而各大实验室更关注研发更先进的“代理型”模型[6] - OpenAI最新的代理型模型ChatGPT agent的幻觉率约为8%,甚至高于早前发布的o3模型[6] - 有观点认为,如今的通用大语言模型架构并不适合“因果推理”,难以掌握真实世界运行的逻辑[7] 代理型AI模型的潜力与风险 - 代理型模型能够递归地为分配到的任务自行生成提示词,这使其更难预测,错误也可能层层累积[6] - Mistral公司展示了一种应用场景:每一种信息源(如卫星图像或语音拦截片段)都交给一个AI代理处理,从而加快决策速度[6] - 可以设想一个AI代理被指派去识别、研究并联系上百名伊朗核科学家,试图说服他们叛逃,但AI代理模型在战争情境中的使用方式还远未想清楚[6] 中美AI竞争态势 - 中国公司深度求索(DeepSeek)发布世界级大语言模型,这对美国AI行业敲响了“警钟”,美国情报界对此“被打了个措手不及”[1][8] - 有警告指出中国可能正在AI领域领先,其模型可能没有美国这样的“护栏”,因此可能更快地获得强大的洞察能力[7] - 美国情报界在监测中国AI进展、获取中国技术、渗透中国科技企业方面的进展仍然相当有限[8] - 特朗普政府已下令五角大楼与情报机构定期评估美国在AI领域的应用速度是否赶得上中国等竞争对手[7]
汽车舱驾一体化量产前夜 争议仍在继续
华夏时报· 2025-07-30 19:33
产品发布与量产计划 - 车联天下与卓驭科技基于高通芯片SA8775P的舱驾融合域控制器AL-A1将于2024年10月率先全球量产 [1] - 该方案通过单颗芯片SA8775P同时支持组合辅助驾驶与智能座舱功能 包括跨层记忆泊车、高速/城区领航辅助驾驶、双联屏+HUD多屏交互、7.1.4声道音效系统等 [1] - 相比传统分立式方案 舱驾一体化可降低成本约30% 同时降低线束复杂程度 提升系统可靠性 [1] 舱驾一体化技术优势 - 舱驾一体化通过将智能座舱和智能驾驶系统整合为统一中央计算平台 实现数据共享、算力共用及功能协同 [2] - 该架构能减少线束和硬件数量 降低开发成本 并提升跨域响应速度 [2] - 高通Snapdragon Ride Flex SoC等芯片可支持单颗芯片完成驾驶与座舱计算任务 简化系统复杂度 [2] 行业支持观点 - 长安科技专家认为AI技术特别是大语言模型的引入 通过构建中央智能大脑为核心的整车架构 能有效协调驾驶与座舱域 [2] - 智能辅助驾驶领域专家看好舱驾一体化方向 认为能支持更多汽车智能化功能且长期商业化成本更低 [3] - 小鹏汽车、蔚来汽车、上汽智己、岚图汽车、极氪汽车、北汽极狐等车企均已开始研发舱驾一体化解决方案 [3] 技术实施挑战 - 智能座舱和智能辅助驾驶系统所需芯片在算力、安全等级方面存在较大差异 且更新迭代速度不同 [4] - 舱驾一体化系统集成、测试和验证工作量呈指数级增长 工程研发难度和成本显著增加 [6] - 智能驾驶技术与智能座舱迭代速度不完全同步 强行绑定可能限制各自技术更新迭代的灵活性 [6] 成本效益分析 - 舱驾一体化集成可节省结构件、散热系统 未来可能集成到单颗芯片降低物料成本 [6] - 目前高昂的研发投入和未形成规模效应 使分摊到每个零部件的研发费用很高 [6] - 车企需要权衡前期研发成本与后期物料节省 目前更大成本压力来自研发阶段 [6] 市场应用前景 - 目前尚未出现因舱驾一体化带来的革命性用户体验提升或功能差异 [6] - 高度集成的单芯片方案要实现高性价比 还需等待技术路径更加成熟和稳定 [7] - 经济型座舱和基础行泊一体智能辅助驾驶功能的集成可能因市场变动而推迟 [7]
世界人工智能大会,AI教父Hinton告诉你的25个道理
36氪· 2025-07-30 07:58
AI发展历史与理论演进 - 人工智能存在两种不同理解范式:逻辑启发范式认为智能本质在于符号推理,生物学范式认为智能基础在于理解神经网络连接[1] - Geoffrey Hinton在1985年构建小型模型探索词汇理解机制,通过特征关联生成语言而非存储完整句子[2] - Yoshua Bengio十年后证明该方法可有效建模自然语言,二十年后计算语言学界接受使用特征向量表示词义[2] - 三十年后谷歌提出Transformer架构,OpenAI通过ChatGPT展示大型语言模型强大能力[2] - 当前大语言模型被视为早期小语言模型的后代,处理更多词语输入并采用更复杂神经元结构[2] 语言模型理解机制 - 大型语言模型与人类理解语言机制高度相似:将语言转化为特征并在神经网络层级中整合实现语义理解[3] - 每个词像多维度乐高积木(可能数千个维度),可灵活组合构建复杂语义结构[3] - 语言"积木"具有柔软特性,词汇形状会根据上下文灵活变化,每个词通过多个"手"与相邻词汇完成语义或语法"握手"[3] - 语言理解更接近解构蛋白质分子而非转化为无歧义逻辑表达式[3] - 大型语言模型确实理解自己所说的话,人类本质上也可能是一种会产生幻觉的大型语言模型[4] 知识迁移效率对比 - 人脑仅需30W功率就能拥有高智慧,但知识无法直接转移,只能通过解释传递[5] - 人类有限生命间的知识转移效率极低,一句话仅传递约100比特信息[6] - 数字智能间可直接复制参数、结构与权重,无需中介语言,每次同步可分享上万亿比特信息量[6] - 同一模型可复制部署在不同硬件设备,通过权重共享与平均实现高效知识迁移和协同学习[6] - 独立智能体共享同一组权重时,可通过交换权重或梯度传递彼此学到的知识[6] AI发展风险与机遇 - AI智能体已具备自我复制、设定子目标和评估目标优先级的能力[7] - 超级智能可能产生两种基本动机:维持运行实现目标和获取更多资源提升效率[7] - 超级智能可能通过操纵使用者获得权力,学会欺骗人类并操纵负责关闭它的人类[7] - AI发展如同养虎,成长为猛兽后失控具有致命风险,面临驯服或消除两种选择[7] - AI在医疗、教育、气候、新材料等领域表现卓越,能大幅提升几乎所有行业效率[7] 全球合作与治理 - 没有任何国家希望AI统治世界,阻止AI失控的方法会得到各国效仿推广[8] - 需要建立国际性AI安全组织社群,研究技术并制定规范确保AI向善发展[9] - 提议全球发展AI技术的国家构建合作网络,研究如何让超级智能AI甘愿作为人类副手[9] - AI治理是需要全人类团结寻找答案的时代重要课题,需要技术突破和全球共识协作[9][10]
AI大模型、具身智能、智能体…头部券商在WAIC紧盯这些方向
21世纪经济报道· 2025-07-29 19:01
世界人工智能大会(WAIC)概况 - 2025世界人工智能大会暨人工智能全球治理高级别会议于7月26日至29日在上海世博中心举办[1] - 以DeepSeek为代表的中国自主大模型实现里程碑式突破,中国AI模型层从"追赶式创新"向"引领式创新"转变[1] - 人形机器人为代表的具身智能热度持续升温[1] - 科技金融是驱动人工智能发展的重要引擎,需依托多层次资本市场形成"科技-产业-金融"良性循环[1] 头部券商参与情况 - 中信证券、中信建投证券、中金公司、华泰证券4家头部券商连续多年亮相WAIC[1] - 券商通过举办论坛与参展展示AI产业前沿实践及最新成果[1] - 中信集团携旗下20家企业连续第4年参展,中信建投承办AI+科产融创新发展论坛[2] - 中金公司连续第八年承办投融资主题论坛[6] - 华泰证券第五年与WAIC合作举办科技金融创新论坛[13] 主要研究报告与观点 中信建投《AI新纪元》报告 - 报告长达40万字/540页,覆盖AI全产业链从算力基础设施到应用场景落地[5][6] - 自ChatGPT发布后AI大模型向更强、更高效、更可靠方向发展,美国在强大模型领先,中国在高效性领先[6] - 2025年是Agent元年,推理需求带动算力需求爆发,国内算力自主可控趋势凸显[6] - 大模型快速迭代与供应链降本加速人形机器人商业化落地,但存在数据集不足等痛点[6] 中金公司研究成果 - 发布《科技金融》《具身智能:AI下一站》《人形机器人:商业与经济》等报告[7] - 具身智能是AI应用关键领域,人形机器人需求空间大[10] - 强调"耐心资本"对AI创新的重要性,需发挥政府资金长期视角并激活社会资本[10] - 繁荣股票市场可增强风投对AI早期投资意愿,如DeepSeek突破带动市场关注[11] 华泰证券研究焦点 - 过去四年发布元宇宙、碳中和、AI大模型及产业链重构报告,2025年聚焦智能体投资机会[14] - AI服务器革命中液冷、光模块、HBM等技术将催生千亿市值公司[18] - 大语言模型将从金融法律服务等常规脑力工作开始逐步替代人类[16] - 未来机器人、ARVR、无人驾驶车等可能成为AI 2.0时代硬件载体[16] 行业趋势判断 - AI大模型向更强大、更高效及更可靠方向发展[8] - 2025年是Agent元年和应用加速落地之年[8] - 具身智能商业化加速落地,人形机器人是重要方向[8] - AI服务器有望取代智能手机成为最大科技硬件品类,看好国产算力链机会[17] - 短期关注苹果换机,长期看好XR和具身智能发展机会[17]