其他行业 · AI应用
Workday利用Amazon SageMaker加速生成式AI/ML产品开发
Workday通过使用Amazon SageMaker开发具备AI能力的产品，提升了工程生产力。他们利用SageMaker构建、训练和部署机器学习模型（包括大语言模型），同时满足全球数据驻留要求。这种方法使Workday能够显著扩展机器学习运营规模，并改善推理延迟，确保为客户快速部署AI解决方案。
每日推理请求量
从一千次扩展到数千万次
来源披露
ML推理延迟
提升五倍
来源披露
01
业务背景
Workday通过使用Amazon SageMaker开发具备AI能力的产品，提升了工程生产力。他们利用SageMaker构建、训练和部署机器学习模型（包括大语言模型），同时满足全球数据驻留要求。这种方法使Workday能够显著扩展机器学习运营规模，并改善推理延迟，确保为客户快速部署AI解决方案。
02
遇到的问题
Workday需要满足其全球客户的数据驻留要求，同时避免投资建设自有区域私有云，并需要大规模扩展机器学习推理能力。
03
AI 解决方案
Workday使用Amazon SageMaker全托管服务，为工程师提供SageMaker Studio集成开发环境，通过SageMaker Jumpstart评估和选择基础模型，采用SageMaker Ground Truth Plus进行人工标注和质量评估，使用SageMaker Notebook Instances微调大语言模型，并将模型部署到多个AWS区域进行推理。同时利用Amazon Bedrock进行快速原型设计和实验。
- 1为工程师提供Amazon SageMaker Studio协作开发环境
- 2使用Amazon SageMaker Jumpstart比较和评估基础模型
- 3采用Amazon SageMaker Ground Truth Plus进行数据标注和模型评估
- 4使用Amazon SageMaker Notebook Instances微调大语言模型
- 5部署微调后的模型进行推理以实现最佳性能和成本优化
- 6利用Amazon Bedrock进行生成式AI应用的原型设计和快速实验
04
实施结果
每日推理请求量：从一千次扩展到数千万次（增长至数千万倍）
ML推理延迟：提升五倍（5倍）
05
风险与边界
未披露
“Workday can quickly tap into the power of generative AI and realize its value by bringing the best solutions to customers safely and responsibly.”
Eddie Raffaele · Vice President of Workday AI
信息来源
1 个来源页面内容为结构化改写；关键结论应可追溯到以下材料。