其他行业 · AI应用
使用Amazon SageMaker降低成本和缩短处理时间
EagleView面临数据提取模型的效率和成本效益挑战,这些模型对其IT和平台运营至关重要。为解决这些问题,他们将机器学习任务迁移到Amazon SageMaker,利用其先进能力提升模型性能和可靠性。这一战略方法使模型性能提高了300-400%,计算成本降低了40-50%,处理时间减少了90%,并实现了99.9999%的正常运行时间,显著提高了运营效率,并改善了向客户提供的服务质量。
模型性能提升
300–400%
来源披露
计算成本降低
40–50%
来源披露
处理时间缩短
90%
来源披露
01
业务背景
EagleView面临数据提取模型的效率和成本效益挑战,这些模型对其IT和平台运营至关重要。为解决这些问题,他们将机器学习任务迁移到Amazon SageMaker,利用其先进能力提升模型性能和可靠性。这一战略方法使模型性能提高了300-400%,计算成本降低了40-50%,处理时间减少了90%,并实现了99.9999%的正常运行时间,显著提高了运营效率,并改善了向客户提供的服务质量。
02
遇到的问题
EagleView的机器学习模型在原有Amazon EKS架构上难以处理日益复杂的大规模工作负载,团队在应对数千个并发请求时无法稳定满足客户服务水平协议(SLA),导致数据提取效率低下和成本压力增大。
03
AI 解决方案
EagleView将两个核心数据管道迁移到Amazon SageMaker,利用其全托管基础设施和集成NVIDIA Triton推理服务器的容器,标准化模型部署并实现自动伸缩。通过Amazon SageMaker实时推理和异步推理端点,将大规模航拍图像批处理任务平滑迁移,异步推理可在无请求时将实例数缩容至零以节约成本,同时利用内置监控与自动扩展能力保障性能与可靠性。
04
实施结果
模型性能提升:300–400%(300–400%提升)
计算成本降低:40–50%(40–50%降低)
处理时间缩短:90%(减少90%(从16小时降至1.5小时))
系统正常运行时间:99.9999%
05
风险与边界
未披露
“We have saved significant costs and gained performance advantages by deploying our models using Amazon SageMaker.”
Bhavesh Savalia · Solutions Architect at EagleView
信息来源
1 个来源页面内容为结构化改写;关键结论应可追溯到以下材料。