Workflow
Dynatrace Launches AI Observability for Large Language Models and Generative AI
DTDynatrace(DT) Businesswire·2024-02-01 01:20

公司动态 - Dynatrace宣布扩展其分析和自动化平台,为大型语言模型(LLMs)和生成式AI驱动的应用程序提供全面的可观测性和安全性 [1] - Dynatrace AI Observability是一个综合解决方案,覆盖从基础设施到语义缓存和向量数据库的整个AI堆栈 [2] - Dynatrace AI Observability利用Davis® AI和其他核心技术,提供精确且完整的AI驱动应用程序视图,帮助组织自动识别性能瓶颈和根本原因 [3] - Dynatrace AI Observability还帮助组织遵守隐私和安全法规,并通过监控生成式AI模型的token消耗来预测和控制成本 [3] - Dynatrace AI Observability现已对所有Dynatrace客户开放 [8] 行业趋势 - Gartner预测,到2028年,超过50%的云计算资源将用于AI工作负载,而2023年这一比例不到10% [4] - 生成式AI和预测性AI将为企业带来新的可能性,但成功实施需要确保支持这些关键工作负载的服务可靠且性能良好 [4] - 生成式AI驱动的服务成本可能比传统云服务高出许多倍,且难以预测,因为这些服务尚未投入生产 [5] - 全球各国政府正在制定法规,以确保AI技术的使用是负责任和符合伦理的 [6] - 生成式AI是数字化转型的新前沿,但也带来了安全、透明度、可靠性和成本管理方面的新挑战 [7] 合作伙伴关系 - OneStream依赖Dynatrace来构建和优化生成式AI应用程序,确保其性能良好且成本效益高 [4] - 微软Azure OpenAI Service与Dynatrace合作,帮助客户创建生成式AI服务,确保这些服务达到最高的安全、可靠性和性能标准 [8]