其他行业 · AI应用
Datadog Azure OpenAI Service 集成
Datadog 构建了与 Microsoft Azure OpenAI Service 的开箱即用集成,为 AI 驱动的应用程序提供全面的监控、成本优化和性能可见性。该集成自动收集 Azure OpenAI Service 性能数据,跟踪令牌消耗(提示和完成令牌),并为团队分配唯一组织 ID 以监控模型使用情况。它无需额外设置,并提供仪表板和指标(包括 Azure Monitor 和 VM 指标),帮助企业排查问题和优化成本。
通过提示和完成令牌跟踪令牌消耗,以识别主要成本驱动因素。
未披露
自动收集 Azure OpenAI Service 特定的性能数据,并允许为团队分配唯一组织 ID 以跟踪模型使用情况。
未披露
帮助企业优化成本、排查问题并监控其 AI 驱动应用程序的性能。
未披露
01
业务背景
Datadog 构建了与 Microsoft Azure OpenAI Service 的开箱即用集成,为 AI 驱动的应用程序提供全面的监控、成本优化和性能可见性。该集成自动收集 Azure OpenAI Service 性能数据,跟踪令牌消耗(提示和完成令牌),并为团队分配唯一组织 ID 以监控模型使用情况。它无需额外设置,并提供仪表板和指标(包括 Azure Monitor 和 VM 指标),帮助企业排查问题和优化成本。
02
遇到的问题
03
AI 解决方案
04
实施结果
通过提示和完成令牌跟踪令牌消耗,以识别主要成本驱动因素。:
自动收集 Azure OpenAI Service 特定的性能数据,并允许为团队分配唯一组织 ID 以跟踪模型使用情况。:
帮助企业优化成本、排查问题并监控其 AI 驱动应用程序的性能。:
自 2023 年 Microsoft Build 发布以来,已有数百个组织(包括财富 50 强公司)采用了该集成。:
无需额外设置;提供开箱即用的仪表板和即时可视化。:
05
风险与边界
“”
信息来源
1 个来源页面内容为结构化改写;关键结论应可追溯到以下材料。