Workflow
Datadog's State of Cloud Costs 2024 Report Finds Spending on GPU Instances Growing 40% as Organizations Experiment with AI
DDOGDatadog(DDOG) Prnewswire·2024-06-14 04:05

行业趋势 - GPU实例在并行处理中的速度比CPU快200%以上,这使得它们在训练大型语言模型(LLMs)和执行其他AI工作负载时至关重要 [6] - 使用GPU实例的组织在过去一年中平均增加了40%的支出,表明更多公司正在试验AI和LLMs [6] - 83%的组织仍然将17%的EC2预算用于上一代技术,尽管当前的基础设施产品在性能和成本上更具优势 [8] - 使用Arm架构实例的组织平均将18%的EC2计算预算用于这些实例,比一年前增加了一倍,Arm处理器比类似EC2实例节能高达60%且性能更好 [8] 云计算成本管理 - 83%的容器成本与闲置资源相关,其中54%的浪费来自集群闲置,29%来自工作负载闲置 [7] - 组织将35%的EC2计算资源用于运行容器,高于一年前的30% [7] - 只有67%的组织参与了云服务提供商的折扣计划,低于去年的72% [8] 公司动态 - Datadog发布了《2024年云成本状况》报告,分析了数百家组织的AWS云成本数据,探讨了新兴和上一代技术的使用、云资源使用模式以及参与AWS折扣计划对云成本的影响 [2][6] - Datadog的SaaS平台集成了基础设施监控、应用性能监控、日志管理、用户体验监控、云安全等多种功能,为客户的整个技术堆栈提供统一的实时可观测性和安全性 [10]