Workflow
icon
搜索文档
亿欧智库2024年企业AI大模型应用落地白皮书
AIRPO· 2024-12-06 13:06
1. 行业概述 * **行业名称**: AI大模型应用落地 * **驱动因素**: 政策牵引、技术突破与数字化转型 * **市场规模**: 2022年中国大语言模型市场规模为680.2亿元,预计2027年将达到4712亿元,CAGR为50.60%[5] * **应用场景**: 文本处理、自然语言理解、多模态处理等 2. 核心观点和论据 * **企业对AI大模型应用需求不断提高**: 驱动因素包括政策牵引、技术突破和转型需求[4][5] * **AI大模型应用落地面临挑战**: 工具/解决方案不足、多元多模适配、全流程开发复杂[3][14] * **服务商需具备全流程解决方案和全面的专业能力**: 以满足企业对AI大模型应用落地的需求[21][33] * **一站式解决方案是当前行业的优秀做法**: 可打通大模型开发、部署与运维全流程[22] * **企业未来落地AI大模型应用部署的四大趋势**: 模型轻量化、多模态融合、智能体应用和低代码平台[50][51] 3. 其他重要内容 * **数据、算力和算法构成企业AI大模型应用落地的基础支撑**[6][8] * **算力是Al大模型的落地保障**: 未来企业Al大模型的推理应用将对算力要求更高[9] * **数据是Al大模型应用的原料**: 需要大规模高质量的数据支撑[10] * **企业落地AI大模型应用的过程**: 基于数据、算力和算法的支撑,将大模型能力赋能到业务的过程[11] * **企业落地AI大模型应用过程中面临的痛点**: 工具/解决方案不足、缺少端到端解决方案、数据隐私与安全难题、算力多元化和模型多样化导致适配难、大模型应用部署全流程复杂[15][16][17][18][19] * **面向大模型应用痛点的方法论及实践路径提炼**: 提供一站式解决方案,覆盖数据准备、模型选择、模型训练、模型定制、模型部署、应用集成、测试验证以及上线运维等各个环节[43] * **企业未来落地AI大模型应用部署的四大趋势研判**: 模型轻量化、多模态融合、智能体应用和低代码平台[50][51] * **策略建议**: 基于全流程开发平台底座,实现高效低门槛落地AI大模型应用[54][55][56][57][58][59]
AI及短剧观点更新
AIRPO· 2024-12-05 11:18
行业或公司 * **抖音短剧市场** [1] * **红果商业模式** [2] * **AI方向** [3] * **空间智能技术** [4] * **AI商业化** [5] 核心观点和论据 * **抖音短剧市场新规调整付费模式和广告营销模式的收益分配比例,激励创作者上传优质内容** [1] * **红果广告收入呈现逐月增长态势,看好明年转局市场规模增长** [2] * **AI产业基建逐渐成熟,应用端繁荣,看好AI应用投资主线** [6] * **空间智能技术可能标志着生成式AI向3D领域的一个重要突破** [4] * **AI商业化推进,OpenAI讨论将广告引入人工智能产品,寻求新的收入来源** [5] 其他重要内容 * **推荐关注内容方、出海转局品牌和营销技术公司** [2] * **看好AI玩具市场,带动全产业链** [3] * **纹身视频、AI 3D、AI玩具、AI营销等方向值得关注** [6]
AI Supply Chain_ Preparing for Rubin
AIRPO· 2024-12-05 10:58
行业或公司 * **行业**:人工智能半导体供应链 * **公司**:NVIDIA、TSMC、AMD、Intel、AWS、Google、Microsoft、Meta、Alchip、KYEC、Advantest、ASMPT、ASE、AllRing 核心观点和论据 * **Rubin芯片**:NVIDIA的下一代Rubin芯片预计将在2026年上市,其芯片面积将是Blackwell的两倍,因为可能包含四个计算芯片。TSMC正在为Rubin芯片扩大CoWoS产能,预计到2026年将达到80kwpm。 * **CoWoS产能**:TSMC尚未公布2026年CoWoS产能的具体预测,但预计将在2025年中旬向设备供应商下单,这取决于AI资本支出的可持续性。 * **AI芯片测试时间**:AI芯片的测试时间呈结构性增长趋势,Blackwell和MI355的测试时间分别是Hopper的三倍和两倍。新Advantest测试器的交货期已从3个月扩大到6个月。 * **AI芯片需求**:预计2025年AI芯片需求将受到供应驱动,因为TSMC的CoWoS产能紧张。2026年可能达到供需平衡。 * **AI芯片供应商**:NVIDIA、AMD、Intel、AWS、Google、Microsoft和Meta是主要的AI芯片供应商。 * **CoWoS需求**:预计2025年CoWoS需求将达到714k片,其中NVIDIA的需求占比最高。 * **HBM需求**:预计2025年HBM需求将接近2024年的两倍,达到18.4bn Gb。 * **AI资本支出**:预计2025年顶级四家美国超大规模云服务提供商将产生1680亿美元的运营现金流,这表明这些公司有能力继续投资数据中心用于AI目的。 其他重要内容 * **ASMPT**:在TSMC的CoW fluxless TCB认证方面落后于K&S,但仍有机会在年底前获得认证。 * **ASE**:在CoW方面具有机会,但CoW只是2025年的一个小增长动力。 * **TSMC AI收入**:预计2024年AI将占TSMC总收入的10%,2025年将占25%。 * **AI芯片销售**:预计2025年AI芯片销售将增长,NVIDIA的AI芯片季度收入将继续增长。 * **AI芯片价格**:NVIDIA H100 GPU的价格为800,000美元,A100 GPU的价格为512,000美元。 * **AI芯片供应商排名**:TSMC、Alchip、Andes、GUC、KYEC、MediaTek、Aspeed、Silergy是主要的AI芯片供应商。 * **AI芯片供应商评级**:TSMC、Alchip、Andes、GUC、KYEC、MediaTek、Aspeed、Silergy的评级为增持。 * **AI芯片供应商估值**:TSMC、Alchip、Andes、GUC、KYEC、MediaTek、Aspeed、Silergy的估值合理。
Asian Tech_Key takeaways (and transcript) from expert call on AI ASIC development
AIRPO· 2024-12-05 10:58
纪要涉及的行业或公司 * **行业**: 人工智能芯片、数据中心、边缘计算、半导体 * **公司**: Google、Amazon、Meta、Microsoft、Tesla、AMD、Intel、Nvidia、Broadcom、Marvell、Groq、Cerebras、Tenstorrent、Etched、Sambanova、d-Matrix、LG、Samsung、Apple 核心观点和论据 1. **AI ASIC芯片优于GPU**: 专家认为,虽然GPU在通用高性能计算方面表现良好,但定制的AI ASIC芯片更适合AI工作负载,因为它们的硅设计从零开始,内存架构可以解决GPU中可能出现的挑战,并且能够平衡通用性和特定性。[2] 2. **AI加速器发展**: AI加速器开发正在三个不同领域进行:超大规模计算、无晶圆厂半导体公司、以及传统半导体公司。[2] 3. **AI模型性能**: AI模型性能的改进正在趋于平缓,扩展定律正在放缓,我们正在看到递减的回报。[2] 4. **GPU利用**: GPU的利用目前受内存限制,而定制AI加速器可以帮助解决硬件问题。[4] 5. **推理采用**: 随着玩家开始关注可部署性和收入机会,推理采用将在未来几年增加。[4] 6. **分布式AI计算**: 分布式AI计算可以通过根据查询的复杂度或性质将查询拆分来解决计算能力挑战。[4] 7. **数据中心**: 数据中心提供商将在2025年采用Nvidia Blackwell解决方案,但由于采购、数据中心容量建设、电力、冷却和热管理方面的重大成本增加,因此数量可能较小。[4] 8. **边缘计算**: 边缘计算将崛起并与数据中心计算分担负载,这对于解决隐私和安全问题至关重要。[5] 9. **AI芯片公司**: AI芯片公司很难向云服务提供商(CSP)销售,除非它们能够证明与内部ASIC相比具有更强的性能。[5] 10. **内存限制**: 内存硬件改进、AI加速器架构的进步以及模型架构的改进是解决内存问题的三种方法。[21] 其他重要内容 1. **异构计算**: 异构计算,其中GPU、CPU和NPU结合,将成为主流。[10] 2. **边缘设备**: 边缘设备可能不会使用HBM,并且不会看到大量内存部署,因为成本、操作/热管理挑战。[5] 3. **测试时间计算**: 测试时间计算在解决准确性和安全性方面具有优势,但成本和延迟较高。[18] 4. **分布式AI计算**: 分布式AI计算将获得更多接受,因为它结合了数据中心和边缘计算。[19] 5. **NVDA Blackwell架构**: AI加速器公司正在解决NVDA Blackwell架构带来的挑战,预计2025年将出现AI加速器扩展和Blackwell的交集。[20] 6. **内存**: 内存硬件改进、AI加速器架构的进步以及模型架构的改进是解决内存问题的三种方法。[21] 7. **网络**: 从网络角度来看,数据目前从芯片流向板,然后流向光/有源铜电缆,然后流向下一个GPU。这两种连接都由于高速和低延迟的要求而受到挑战。[23] 8. **边缘AI**: 边缘AI模型部署将在未来几年变得非常重要,并且很少有公司专注于这一点。[24] 9. **中国**: 中国正在使用称为扩展的方法,这种方法具有较低的计算密度,但范围更广。[25] 10. **规模扩展或扩展**: 取决于模型架构、大小、用例、工作负载和吞吐量。[26] 11. **边缘计算内存**: 对于每亿个参数,需要1GB的DRAM。边缘设备也会有内存限制吗?[27] 12. **数据中心用例**: 创业公司如何进入市场?用例本身并不非常清楚。ASIC公司如何应对,以及应用演变将如何发生?[28] 13. **HBM**: 对于GPU来说,HBM绑定,而ASIC(TPU、Trainium)的内存容量较低,限制在64/96GB,而NVDA/AMD GPU配备了高内存GPU,内存容量为192GB/288GB。[29] 14. **业务模式**: 这些业务模式在本质上不同,谷歌专注于扩展并提供推理服务,而AMD/NVDA则使用高内存,因为他们为一级CSP提供最大计算能力和更大的模型大小。[31]
字节AI布局梳理以及TikTok产业链投资机会重申
AIRPO· 2024-12-04 16:07
行业或公司 * 字节跳动及其旗下产品(豆包大模型、AI Agent开发平台KOTES、AI应用类产品如对标签http的智能对话产品、猫箱、东包爱学、极梦、极创等) * TikTok及其相关产业链 核心观点和论据 * **AI布局**: * 字节跳动在AI领域布局全面,包括底层模型、中间层AI Agent、产品层AI应用。 * 豆包大模型日均tokens使用量突破5000亿,9月份超过1.3万亿。 * 字节跳动拥有流量和数据赋能的优势,抖音等流量产品可进一步赋能大模型能力提升。 * 字节跳动在AI模型和产品短期商业化紧迫性不高,已率先降低豆包通用模型收入价格。 * **TikTok商业化**: * 投资人关注TikTok商业化进展,但受限于环境,TikTok商业化进程较慢。 * TikTok商业化空间大,包括广告业务、电商业务等。 * TikTok已储备Lemon8等产品承接流量和商业化规划。 * **投资建议**: * 关注TikTok产业链,包括营销公司、跨境电商公司、直播运营公司、短剧平台、游戏出海等。 其他重要内容 * 字节跳动内部多只AI团队内部赛马,AI创新业务部门FLOW与抖音、火山、飞叔等评级的主要业务部门。 * 字节跳动注重海内外同步布局,大多数模型及应用产品都有海外版。 * 字节跳动在AI领域布局不一定是行业最快,但通常能快速跟上其他公司布局。 * 字节跳动在算力储备和资金实力方面有领先优势。 总结 字节跳动在AI领域布局全面,拥有流量和数据赋能的优势,TikTok商业化空间大。投资建议关注TikTok产业链相关公司。
AI欣视角20241204
AIRPO· 2024-12-04 13:16
行业或公司 * 华创传媒AI新视角第325期早点十分钟电话会议 核心观点和论据 * 骨子主题:骨子主题会经历开始发酵、高潮、退潮、二波的过程,类似于其他主题的走势[2]。 * 短剧和AI游戏:建议关注短剧和AI游戏领域,如中文在线、立上国潮、凯恩、圣天等[3]。 * 影视相关标的:影视板块可以重视,如欢瑞、词本、华策等[4]。 其他重要内容 * 骨子主题的退潮和二波情况可能出现在情绪指标逐渐退潮之后[3]。 * 12月份影视行业活动较多,包括短剧、春节大等[4]。 * AI视频板块可以重视[4]。 * 欢瑞等影视公司值得关注[4]。 * 欢迎推荐其他标的[4]。
Expert Call_ Future Use of Data and AI in Consumer Staples, Views from KPMG
AIRPO· 2024-12-03 22:08
行业研究 * **行业**:食品和消费品(Consumer Staples) * **主题**:数据与人工智能在消费品行业的未来应用 * **专家**:Linda Ellett(KPMG UK 消费品、零售和休闲部门负责人)和 Nick Whitfeld(KPMG UK 数据和分析部门负责人) * **时间**:2024年12月9日,英国时间下午2点(中欧时间下午3点,美国东部时间上午9点) * **会议内容**: * 宏观因素:消费者对技术使用的最新期望以及公司对控制成本和优化销售的期望。 * KPMG 全球高级管理人员调查:涵盖行业对人工智能和数据利用的机会、障碍/限制的看法。 * 开发全新的产品/服务/商业模式。 * 数据可用性/短缺以及利用数据提高财务成果的改进。 * 人工智能的三个浪潮:1)运营效率;2)预测消费者未来需求;3)[未完待续] * **会议目的**: * 讨论数据与人工智能在消费品行业的未来应用。 * 分享最佳实践/应用案例。 * 探讨未来应用和差异化/新护城河。 * **会议形式**: * KPMG 20分钟演示。 * 20分钟问答环节。 公司研究 * **公司**:未提及具体公司。 * **主题**:未提及具体公司。 * **内容**:未提及具体公司。 其他 * **分析师**:David Hayes(Jefferies 食品和消费品部门分析师) * **报告日期**:2024年11月29日 * **报告类型**:行业研究 * **报告目的**:为 Jefferies 客户提供行业研究信息。
AI欣视角20241203
AIRPO· 2024-12-03 11:25
行业或公司 * 传媒行业 * AI玩具 * 短剧 * TikTok 核心观点和论据 * 市场情绪良好,多个行业和领域创新高[1]。 * 传媒行业处于高潮及高潮后的阶段,AI玩具和短剧方向值得关注[2]。 * 短剧市场因红果短剧的加入而快速扩容,付费模式转变为免费模式[2]。 * TikTok海外增长良好,考虑增加商业化,包括广告和电商转化率[3]。 * 行销公司和电商中介可能会受益于TikTok的商业化[3]。 其他重要内容 * 红果短剧可能带来较好的机会[3]。 * 目前没有发现特别好的新标的[4]。 * 希望在老标的的基础上寻找新的机会[4]。
AI欣视角20241202
AIRPO· 2024-12-03 00:14
行业或公司 * 影视行业 * 短剧市场 * 国企影视 * 相关公司:广播股份、奥菲、时封文化、中文在线、欢瑞、上影、华佩影艺 核心观点和论据 * 短剧市场增速高,国内红果市场可能达到五百亿,MAU超过一亿[1]。 * 影视行业,特别是短剧和春节档期,值得关注[2]。 * 国企影视因考核时间等因素,值得关注[2]。 * 短剧和AI陪伴等方向可能发酵,需关注市场动态[3]。 其他重要内容 * 建议关注情绪指标和关注方向[1]。 * 建议关注影视和国企影视,特别是12月份[2]。 * 建议边走边看,关注市场动态[3]。
AI观点更新:关注agent、文生视频等近期产业进展
AIRPO· 2024-12-03 00:14
行业或公司 * 腾讯 [1] * Kimi [1] * 豆包 [2] * 智普 [3, 4, 5] * 中文在线 [3] * 上海电影 [3] * 澳飞娱乐 [3] * 华瑟影视 [3] * 欢乐世纪 [3] * 蓝标 [5] * 电生 [5] * TT在线 [5] * 世纪天虹 [5] * 值得买 [5] * Fast公司 [5] 核心观点和论据 * 腾讯会员大模型于12月3号正式上线视频生成能力,参数量达到130亿 [1] * 豆包视频生成模型可适配多种设备,应用于电商营销、影视、教育等场景,日均token使用量超过1.3万亿,多模态数据处理量每天达到5000万 [2] * AI视频生成能力加强,可重点关注IP及影视公司,如中文在线、上海电影、澳飞娱乐等 [3] * AI Agent可能改变流量入口结构,值得关注 [3, 4] * 智普推出AutoGOM系列产品,支持手机电脑联动,支持更多投资建议 [4] * 传媒板块相关概念股包括蓝标、电生、TT在线等 [5] 其他重要内容 * Kimi正在内侧AI视频生成功能 [1] * 剪影和极梦AI等产品具有文身视频应用场景 [2] * AI Agent在营销、教育、办公、电商等领域有布局 [4, 5] * 新闻传媒早8点观点,关于文生视频和AI Agent相关标记的梳理和布局更新可联系团队交流 [6]