Workflow
Internet Technology
icon
搜索文档
预测下一个像素还需要几年?谷歌:五年够了
机器之心· 2025-11-26 15:07
文章核心观点 - 研究重新审视了基于下一像素预测的生成式图像预训练范式,探讨其大规模扩展的可行性与规律 [2][4][6] - 研究发现,下一像素预测的扩展趋势与文本类似但效率低得多,需要比语言模型多10–20倍的token-per-parameter比例才能达到有效学习 [6][15][16] - 不同下游任务(如图像分类与生成)的最优扩展策略存在显著差异,且策略随图像分辨率提升而改变 [7][18][22][23] - 尽管当前计算成本高昂,但研究预测基于原始像素的建模在未来五年内将变得可行,主要瓶颈是计算量而非训练数据 [8][26] 研究方法与实验设置 - 研究从32×32分辨率的图像出发,在多种等算力配置下训练了一系列Transformer模型,最大计算量达到7e19 FLOPs [10] - 采用四种规模的Transformer架构,参数从2800万到4.49亿不等 [11] - 在包含3亿张图像的JFT-300M数据集上进行预训练,在32×32分辨率下完整遍历一遍相当于处理超过3000亿个像素 [12] - 通过下一像素预测目标、ImageNet分类准确率以及Fréchet Distance衡量生成质量这三个指标评估模型性能 [10][13] 关键研究发现 - 像素的语义信息极低,单个像素几乎不包含语义,其颜色值可能对应多种物体的一部分 [10][19] - 像素之间的空间关系非常复杂,不易用序列方式表示,且随着图像分辨率升高,下一像素预测的计算量会急剧增加 [10] - 在32×32分辨率下,图像生成任务需要比分类任务更大的token-parameter比例,其数据规模增长速度是分类任务的三到五倍 [7][18] - 随着图像分辨率从16×16提升至64×64,最优扩展策略明显偏向更大的模型而非更多的数据 [23][24] 未来展望与可行性分析 - 训练算力正以每年四到五倍的速度增长,为逐像素建模的未来可行性提供了基础 [8] - 研究预计在未来五年内,基于原始像素的学习将成为一条可行的发展方向,并能达到具有竞争力的性能 [26] - 像素级模型的主要瓶颈是计算量,而非训练数据的可获得性 [18][26]
Alibaba's AI Boom Doubles David Tepper's Bet Into A Billion‑Dollar Fortune
Benzinga· 2025-11-25 01:41
阿里巴巴的AI业务进展 - 公司旗下AI产品Qwen在发布第一周下载量突破1000万次,引发市场对中国科技股的重新评级 [1] - 公司将AI产品整合为统一的消费者品牌Qwen,此举被市场视为一次迟来的重置 [3] - Qwen应用迅速跻身中国应用商店排行榜前列,被分析师称为“AI时代的微信”的有力竞争者 [4] 股价表现与市场反应 - 公司股价年内迄今上涨约80%,AI势头是主要推动力 [1] - 亿万富翁David Tepper持有的645万股公司股份,按当前股价计算价值约9.87亿美元,较其平均成本价81美元每股(总成本约5.22亿美元)实现超过4.65亿美元的收益 [2] 战略协同与领导层影响 - Qwen的发展势头与阿里云重新发力AI同步,加强了产品吸引力与股票重新评级之间的联系 [4] - 马云在蚂蚁集团推出新的多模态AI助手“灵光”时悄然回归并参与实际运营,其历史性的参与通常与战略转型同步,暗示阿里巴巴生态内正在协调努力以在中国AI竞争中夺回失地 [5] 对投资者的启示 - 尽管在2024年和2025年期间有所减持,但持续持有公司头寸的决定,最终与中国科技股复苏相关的业绩逆转联系在一起 [6] - Qwen的强劲开局不仅是一次产品胜利,更表明AI执行力能够迅速改变传统科技巨头的估值逻辑 [6]
Buy These 5 Dividend Growth Stocks as Wall Street Rebounds
ZACKS· 2025-11-24 21:56
市场环境与投资策略 - 2025年11月21日华尔街三大主要股指反弹近1%,主要受纽约联邦储备银行行长John Williams的鸽派评论引发市场对12月降息的乐观情绪推动[1] - 尽管出现反弹,但市场对估值过高的人工智能股票的担忧仍然存在,可能随时引发抛售,因此反弹可能是暂时的[2] - 在不稳定的市场环境中,投资股息增长型股票可作为防御性对冲策略,这类公司通常财务健康,能提供资本增值空间[3] 股息增长型股票的优势 - 拥有强劲股息增长历史的股票属于成熟公司,不易受市场大幅波动影响,能对冲经济或政治不确定性及市场波动[5] - 这类股票具有优质基本面,包括可持续的商业模式、长期盈利记录、现金流增长、良好流动性、强劲资产负债表和一些价值特征[6] - 尽管股息收益率不一定最高,但股息增长型股票在更长时间内的表现优于整体股市或其他股息支付型股票[7] 股票筛选标准 - 筛选标准包括:5年历史股息增长率大于零、5年历史销售额增长率大于零、5年历史每股收益增长率大于零[7][8] - 未来3-5年每股收益增长率预期大于零,价格/现金流比率低于行业中位数,表明股票在其行业内被低估[8][9] - 52周价格涨幅超过标准普尔500指数,Zacks排名为第1或第2名,增长得分为B或更好[11] - 以上标准将股票选择范围从超过7700只缩小至9只[12] 推荐股票详情:Cardinal Health (CAH) - 公司是全球最大的医疗保健服务提供商之一,服务美国近90%的医院,每日处理超过43000批药品运输[12] - 市场对CAH 2026财年收入的共识预期显示同比增长16.2%,长期收益增长率为13.9%,年度股息收益率为0.98%[12] - 该股目前Zacks排名为第2名,增长得分为A[13] 推荐股票详情:Barrick Mining (B) - 公司是全球最大的金矿公司之一,在18个国家拥有世界级黄金和铜资产组合[14] - 市场对B 2025年收入的共识预期显示同比增长21.5%,长期收益增长率为38.4%,年度股息收益率为1.64%[14] - 该股目前Zacks排名为第2名,增长得分为B[14] 推荐股票详情:NetEase (NTES) - 公司是一家互联网技术公司,从事互联网应用、服务及其他技术的开发[15] - 市场对NTES 2025年收入的共识预期显示同比增长10.4%,长期收益增长率为9.9%,年度股息收益率为1.70%[15] - 该股目前Zacks排名为第2名,增长得分为B[15] 推荐股票详情:Lam Research (LRCX) - 公司向半导体行业提供晶圆制造设备和服务[16] - 市场对LRCX 2026财年收入的共识预期显示同比增长14.1%,长期收益增长率为20.3%,年度股息收益率为0.73%[16] - 该股目前Zacks排名为第2名,增长得分为A[16] 推荐股票详情:Enersys (ENS) - 公司从事各种工业电池的制造、营销和分销[17] - 市场对ENS 2026财年收入的共识预期显示同比增长4%,长期收益增长率为15%,年度股息收益率为0.76%[17] - 该股目前Zacks排名为第2名,增长得分为B[17]
LLM 没意思,小扎决策太拉垮,图灵奖大佬 LeCun 离职做 AMI
AI前线· 2025-11-20 14:30
核心事件 - 图灵奖得主、深度学习三巨头之一的Yann LeCun宣布将于年底从Meta离职并投身创业[2] - 新创业公司将聚焦高级机器智能研究项目,目标是构建能理解物理世界、具备持久记忆、推理并能规划复杂动作序列的系统[2] - Meta将成为其新公司的合作伙伴,LeCun感谢了Meta领导层但未提及亚历山大·王[4] 离职原因与时间线 - 11月11日金融时报首次报道LeCun离职计划,导致Meta市值在美股盘前下跌约1.5%,收盘跌超3%,单日蒸发449.72亿美元(约合人民币3200.25亿元)[11] - 根本原因为Meta内部AI发展路线长期冲突,公司战略重心向生成式人工智能产品化团队倾斜,压缩了LeCun团队进行长期基础研究的空间[11] - 从8月起硅谷内部就流传LeCun对AI战略重大决策不满,其需要向28岁的亚历山大·王汇报,大决定均由后者掌控[12] 技术路线分歧 - LeCun认为大语言模型创新已从科学突破变成"堆算力、堆数据、堆合成样本"的工程活,属于"优化尾声阶段"技术[13] - 他坚持发展基于"世界模型"和自监督学习的下一代AI技术,强调AI需具备理解物理世界、持久记忆、真正推理能力和规划行动四大关键能力[14][16] - Hugging Face联创Delangue支持该观点,认为当前是"LLM泡沫"而非"AI泡沫",行业误判了"大模型+巨量算力"的万能钥匙地位[15][18] 行业影响与趋势 - 行业可能出现高度定制化的"小模型生态",专门解决特定任务而非追求通吃所有场景的巨无霸模型[18] - Delangue预测LLM泡沫可能在明年破碎,但AI真正潜力尚未完全释放[18] - LeCun认为未来十年AI可能达到接近人类智能水平,但前提是行业必须从LLM规模竞赛中走出来[15] LeCun在Meta的贡献 - 2013年受扎克伯格邀请加入Meta,创建FAIR并奠定其AI基础设施格局,FAIR成长为与Google Brain、DeepMind齐名的顶尖研究机构[20] - 最显著的技术贡献为2016年推出PyTorch深度学习框架,彻底改变研究者工作方式并成为最重要框架之一[21] - FAIR为Meta大模型战略提供自监督学习、表征学习和多模态研究等关键技术积累,支撑起全球领先的开源大模型生态[21]
Fastly, Inc. (FSLY) Presents at Global Technology, Internet, Media & Telecommunications Conference 2025 Transcript
Seeking Alpha· 2025-11-20 02:03
公司战略演变 - 公司业务从2018年上市时几乎完全专注于内容分发网络(CDN) 向多元化发展 [1] - 通过收购Signal Sciences及后续构建安全产品组合实现业务多元化 [1] - 长期战略核心是平台化概念 旨在将客户在边缘计算所需的一切整合到一个平台上 [1] 平台战略价值 - 平台战略为客户提供开箱即用的集成体验和统一的支持模式 对客户极具价值 [1] - 该战略有助于降低公司的销售成本 [1]
百度千亿投入锚定AI:构筑坚实技术护城河,应用落地书写增长新叙事
华夏时报· 2025-11-19 19:28
财报核心业绩 - 2025年第三季度总营收达312亿元人民币,百度核心营收为247亿元人民币 [1] - AI业务收入首次对外披露,整体同比增长超过50% [1] - 财报发布后股价双线拉升,港股开盘涨超3%,美股收盘上涨2.66% [1] - 截至财报发布日,百度港股总市值约为3181.94亿港元 [2] AI业务收入结构 - 人工智能云基础设施业务营收42亿元,同比增长33% [3] - AI高性能计算基础设施订阅收入同比大涨128% [3] - AI应用产品(如百度文库、百度网盘、数字员工)收入达26亿元 [3] - 以智能体和数字人为核心的AI原生营销服务收入达28亿元,同比激增262% [3] 产品与服务AI重构 - 百度搜索进行十年来最大改版,用户每搜索10个问题,有7个答案以富媒体形式呈现 [3][4] - 百度AI搜索月活用户规模达3.82亿,季度环比增长18.63%,连续三季度位居国内榜首 [4] - 自动驾驶出行服务平台"萝卜快跑"Q3全球服务次数达310万,同比增长212%,业务覆盖全球22座城市 [4] 全栈自研技术体系 - 百度是全球除谷歌外,唯一实现从芯片到大模型全链路自研的AI公司 [5] - 文心大模型5.0参数量达2.4万亿,在LMArena大模型竞技场文本任务评测中位列全球并列第二、中国第一 [5] - 昆仑芯已累计完成数万卡部署,并成功中标中国移动十亿级集采项目 [5] 市场地位与生态建设 - 百度智能云以24.6%的市场份额稳居中国AI公有云服务市场第一,连续六年蝉联冠军 [6] - 在AI大模型解决方案市场,百度智能云以16.6%的份额领跑,该市场规模达30.7亿元,同比增长122.1% [6] - 企业级Agent平台"千帆"企业用户数突破46万,Agents开发量超过130万 [7] - 飞桨文心生态开发者达2333万,服务企业76万家 [7] 战略投入与资本看好 - 自2023年2月文心大模型推出以来,百度在AI领域的累计投入已超1000亿元人民币 [7] - 多家机构上调百度目标价,例如高盛上调至154美元,招银国际调至148.4美元,华泰证券给出243.6美元目标价与826亿美元整体估值 [8][9]
Baidu Announces Third Quarter 2025 Results
Prnewswire· 2025-11-18 17:00
核心财务表现 - 2025年第三季度总收入为312亿元人民币(44亿美元),同比下降7% [3][9] - 百度核心业务收入为247亿元人民币(35亿美元),同比下降7%;在线营销收入为153亿元人民币(22亿美元),同比下降18%;非在线营销收入为93亿元人民币(13亿美元),同比增长21% [18] - 运营亏损为151亿元人民币(21亿美元),主要由于长期资产减值损失162亿元人民币(23亿美元)[11][12] - 非GAAP运营收入为22亿元人民币(3.1亿美元),非GAAP百度核心运营收入为22亿元人民币(3.13亿美元),非GAAP百度核心运营利润率为9% [12] - 非GAAP归属于百度的净收入为38亿元人民币(5.3亿美元),非GAAP每ADS稀释收益为11.12元人民币(1.56美元)[3][14] - 调整后EBITDA为44亿元人民币(6.22亿美元),调整后EBITDA利润率为14%;百度核心调整后EBITDA为44亿元人民币(6.18亿美元),利润率为18% [3][15] AI业务增长动力 - AI驱动业务收入同比增长超过50%,在2025年第三季度达到约100亿元人民币 [2] - AI云基础设施收入达到42亿元人民币,同比增长33%,其中AI加速器基础设施的订阅收入同比增长128% [18] - AI应用收入达到26亿元人民币,同比增长6% [18] - AI原生营销服务收入达到28亿元人民币,同比增长262% [18] - 公司推出新的AI原生视角,将业务分为AI云基础设施、AI应用和AI原生营销服务三个类别 [8][18] 自动驾驶业务进展 - Apollo Go在2025年第三季度提供310万次完全无人驾驶运营服务,同比增长加速至212% [6] - 截至2025年11月,Apollo Go累计向公众提供的服务次数超过1700万次 [6] - 车队累计自动驾驶里程达到2.4亿公里,其中完全无人驾驶里程为1.4亿公里 [7] - 全球业务扩展至22个城市,在中国大陆所有运营城市实现100%完全无人驾驶运营 [7] - 在瑞士与PostBus建立战略合作伙伴关系,在阿布扎比获得完全无人驾驶商业运营许可,在香港将开放道路测试区扩展至九龙和观塘区 [6][7] 运营与产品亮点 - 百度在2025年11月的百度世界大会上发布原生全模态基础模型ERNIE 5.0 [6] - 百度文库和百度网盘联合推出通用代理平台GenFlow,支持用户通过多代理协作和自然语言交互完成生产力任务 [6] - 百度App的月活跃用户在2025年9月达到7.08亿,同比增长1% [18] - 2025年10月,约70%的移动搜索结果页面包含AI生成内容 [18] - 千帆MaaS平台升级为以代理为中心,增强模型服务和代理开发能力 [6] 财务状况与流动性 - 截至2025年9月30日,总现金和投资为2964亿元人民币(416亿美元),不包括爱奇艺为2904亿元人民币(408亿美元)[16] - 运营现金流为13亿元人民币(1.76亿美元),不包括爱奇艺为15亿元人民币(2.14亿美元)[16]
Cogent Communications to Resume Stock Repurchase Program
Prnewswire· 2025-11-18 06:20
公司股票回购计划 - 公司董事会已授权管理层恢复股票回购计划 [1] - 回购将视市场、经济及其他因素不定期进行 [1] - 该计划不强制公司回购特定数量的股份,回购数量无保证 [1] 公司业务概况 - 公司是一家跨国一级设施型互联网服务提供商 [2] - 公司专注于向企业提供高速互联网接入、以太网传输和托管服务 [2] - 公司基于设施的全光IP网络骨干网在全球302个市场提供服务 [2] 公司财务表现 - 公司2025年第三季度服务收入为2.419亿美元 [6] 公司管理层动态 - 公司首席执行官将在两个即将举行的会议上发表演讲 [7]
SOHU.COM REPORTS THIRD QUARTER 2025 UNAUDITED FINANCIAL RESULTS
Prnewswire· 2025-11-17 13:00
核心财务表现 - 2025年第三季度总收入为1.8亿美元,同比增长19%,环比增长43% [3] - 实现GAAP净利润900万美元,摊薄后每ADS收益为0.32美元,而去年同期为净亏损1630万美元,上季度为净亏损2000万美元 [9] - 实现非GAAP净利润900万美元,摊薄后每ADS收益为0.33美元,而去年同期为净亏损1200万美元,上季度为净亏损2000万美元 [10] - 公司实现扭亏为盈,GAAP和非GAAP营业利润均为1400万美元,而去年同期为营业亏损1300万美元,上季度为营业亏损2200万美元 [7] 收入构成 - 在线游戏收入为1.62亿美元,同比增长27%,环比增长53%,增长主要得益于2025年7月新推出的PC游戏《天龙八部:归来》以及《天龙八部》PC版的内容更新和游戏内促销活动 [4] - 营销服务收入为1400万美元,同比下降27%,环比下降13% [3] 盈利能力指标 - 整体GAAP和非GAAP毛利率均为81%,高于去年同期的74%和上季度的78% [5] - 在线游戏业务GAAP和非GAAP毛利率为87%,高于去年同期的84%和上季度的86% [5] - 营销服务业务GAAP和非GAAP毛利率为10%,略高于去年同期的9%,但低于上季度的17% [5] 运营数据 - PC游戏平均月活跃用户账户为270万,同比增长24%,环比增长15% [12] - PC游戏季度总活跃付费账户为110万,同比增长27%,环比增长19% [12] - 移动游戏平均月活跃用户账户为190万,同比下降42%,环比下降4% [14] - 移动游戏季度总活跃付费账户为30万,同比下降72%,环比下降3% [14] 财务状况与资本管理 - 截至2025年9月30日,公司持有的现金及现金等价物、短期投资和长期定期存款总额约为12亿美元 [11] - 根据此前宣布的规模最高达1.5亿美元的ADS回购计划,截至2025年11月13日,公司已回购760万份ADS,总成本约为9700万美元 [19] 管理层评论与业务展望 - 公司董事长兼CEO张朝阳博士表示,在线游戏收入和利润表现均超出此前预期,媒体平台持续优化产品并整合资源以更好地满足用户需求 [2] - 对于2025年第四季度,公司预计营销服务收入在1500万至1600万美元之间,意味着同比下降15%至20%,环比增长10%至18% [26] - 预计在线游戏收入在1.13亿至1.23亿美元之间,意味着同比增长3%至12%,环比下降24%至30% [26] - 预计GAAP和非GAAP净亏损在2500万至3500万美元之间 [26]
LeCun在Meta的最后一篇论文
36氪· 2025-11-14 11:04
LeJEPA方法核心创新 - 提出潜在欧几里得联合嵌入预测架构(LeJEPA),通过使嵌入空间遵循特定统计分布来提升预测性能[2] - 核心创新是草图化各向同性高斯正则化(SIGReg),这是一种可处理、可证明正确的正则化方法,通过单变量方向检验结合Epps-Pulley测试判断嵌入分布匹配程度[6] - 研究表明各向同性高斯分布是嵌入空间的最佳分布,可在没有任务信息情况下保证最小化偏差和方差,提高下游任务表现[5] 技术优势与实验验证 - 等向高斯分布能够最小化训练过程中的偏差和方差,在总方差相同情况下,非等向分布会导致更高偏差和方差[3] - 在ViT、ConvNeXt、ResNet、MaxViT和Swin Transformer等大型架构上进行实验,模型规模接近10亿参数[8] - 实验显示LeJEPA在这些架构上表现超越现有方法,在Galaxy10、Food101等特定领域数据集上直接预训练时超越了基于DINOv2的迁移学习方法[10] JEPA架构发展历程 - JEPA(联合嵌入预测架构)是自监督学习框架,旨在通过嵌入空间联合预测方法提升模型表达和推理能力,与生成式模型不同,仅捕捉依赖关系而不显式生成预测[16] - JEPA可进一步通过分层架构(H-JEPA)增强抽象能力,低层处理短期预测,高层用于长期预测,提高可预测性和减少信息损失[18] - JEPA架构与世界模型密切相关,通过学习状态与动作转移训练世界模型,从当前状态表示推断未来状态表示[20] JEPA系列模型演进 - I-JEPA充分利用Transformer架构灵活性,上下文编码器是ViT仅处理可见上下文块,预测器根据位置标记预测特定位置目标块表示[24] - V-JEPA是I-JEPA在视频领域扩展,将视频视为3D图像,通过屏蔽视频序列token进行训练,V-JEPA 2进一步提升了动作预测和世界建模能力[26][28] - MC-JEPA是JEPA扩展,使其包含运动信息,在视频中使用光流估计学习运动,通过图像视角联合嵌入学习内容,以多任务方式共享编码器[30] 行业影响与人物动态 - LeCun在Meta期间个人被引次数大幅增长至406,919次,占总引用数的93%,深度学习爆发期个人学术影响力显著提升[37] - LeCun已离开Meta并筹集资金创办初创公司,继续推进在世界模型方面的工作,尽管面临从学术研究向商业环境转型的挑战[33] - LeCun2013年加入Meta后推动了公司AI转型,成为行业金字招牌,Meta也为其提供了自由的研究环境,这段合作促进了整个AI领域发展[40]