Workflow
大模型时代的AI能力工程化
Thoughtworks·2024-07-16 17:25

报告行业投资评级 无相关内容。 报告的核心观点 1) AI 进入 2.0 时代,基础模型出现后,微调适应不同领域任务的成本极低 [10][11][12][13][14] 2) 出现了许多新的 AI 应用场景,包括 AI 辅助软件开发生命周期、AI 驱动创新产品、AI 增强个人能力、AI 平台工程等 [19][20][22][23][24][25] 3) 融合 AI 技术的应用开发变得更复杂,需要考虑安全性、合规性、模型选择与部署、资源应用等问题 [26][27][28][29] 4) 过去 AI 模型开发项目未投入生产的比例很高,AI 模型的治理仍然很随机,存在难管理、难部署、难监控、难协作等共性难题 [31][32][39] 5) 实现 AI 能力工程化需要全新思考 AI 模型开发、交付和应用协作 [40][41][42][43] 6) Hugging Face 作为 AI 模型治理平台和应用社区的经验值得借鉴,可以降低模型开发成本、降低模型使用难度、助力模型分享交流 [45][46][47] 7) 企业级 AI 平台需要具备自助服务、数据管理、基础模型微调、AI 服务运营等能力,实现 AI 能力的工程化 [49][50][51][52][53][54][55][56][57][58][59][60][61][62][63] 8) Thoughtworks 提出 GluonMeson 平台,通过能力复用、审计合规、安全实践等方式,提升 AI 应用效果并简化 LLMOps 运维 [64][65][66][67][68][69] 分组1 - 报告提出 AI 进入 2.0 时代,基础模型出现后,微调适应不同领域任务的成本极低 [10][11][12][13][14] - 报告指出出现了许多新的 AI 应用场景,包括 AI 辅助软件开发生命周期、AI 驱动创新产品、AI 增强个人能力、AI 平台工程等 [19][20][22][23][24][25] - 报告认为融合 AI 技术的应用开发变得更复杂,需要考虑安全性、合规性、模型选择与部署、资源应用等问题 [26][27][28][29] 分组2 - 报告指出过去 AI 模型开发项目未投入生产的比例很高,AI 模型的治理仍然很随机,存在难管理、难部署、难监控、难协作等共性难题 [31][32][39] - 报告提出实现 AI 能力工程化需要全新思考 AI 模型开发、交付和应用协作 [40][41][42][43] - 报告认为 Hugging Face 作为 AI 模型治理平台和应用社区的经验值得借鉴,可以降低模型开发成本、降低模型使用难度、助力模型分享交流 [45][46][47] 分组3 - 报告指出企业级 AI 平台需要具备自助服务、数据管理、基础模型微调、AI 服务运营等能力,实现 AI 能力的工程化 [49][50][51][52][53][54][55][56][57][58][59][60][61][62][63] - 报告提出 Thoughtworks 的 GluonMeson 平台,通过能力复用、审计合规、安全实践等方式,提升 AI 应用效果并简化 LLMOps 运维 [64][65][66][67][68][69]