其他行业 · AI应用
利用AWS构建生成式AI解决方案AI Hub
Instabase Inc面临高效处理和理解文档中大量信息的挑战,这通常需要大量的机器学习模型训练。为解决这一问题,他们开发了AI Hub,这是一个基于AWS的生成式AI解决方案,利用大型语言模型简化流程。通过使用Amazon EC2 M6i实例和其他AWS技术,Instabase实现了性能提升20%、成本降低30%以及开发成本显著降低70%。这种创新方法不仅提升了客户(包括全球顶级银行和企业)的可用性,还使Instabase成为简化文档处理的领导者。
Amazon EC2 M6i实例上的性能提升
20%
来源披露
使用AWS降低的成本
30%
来源披露
使用Amazon EC2 Spot实例降低的开发成本
70%
来源披露
01
业务背景
Instabase Inc面临高效处理和理解文档中大量信息的挑战,这通常需要大量的机器学习模型训练。为解决这一问题,他们开发了AI Hub,这是一个基于AWS的生成式AI解决方案,利用大型语言模型简化流程。通过使用Amazon EC2 M6i实例和其他AWS技术,Instabase实现了性能提升20%、成本降低30%以及开发成本显著降低70%。这种创新方法不仅提升了客户(包括全球顶级银行和企业)的可用性,还使Instabase成为简化文档处理的领导者。
02
遇到的问题
训练机器学习模型处理文档数据通常需要数百个样本和数周开发时间,过程复杂,客户难以轻松使用。
03
AI 解决方案
基于AWS构建AI Hub生成式AI解决方案,采用SaaS架构,运行于Amazon EC2 M6i实例上,使用Amazon EKS进行编排,Amazon S3存储文件,Amazon OpenSearch Service提供搜索。上传文档后,系统数字化并编码,再通过选定的大语言模型处理,用户无需微调或训练ML模型即可理解文档信息。
04
实施结果
Amazon EC2 M6i实例上的性能提升:20%(20%)
使用AWS降低的成本:30%(30%)
使用Amazon EC2 Spot实例降低的开发成本:70%(70%)
环境搭建速度提升(相对本地部署):95%(95%)
05
风险与边界
未披露
“Choosing AWS was the right thing to do and made our life much simpler.”
Shaunak Godbole · Director of Engineering
信息来源
1 个来源页面内容为结构化改写;关键结论应可追溯到以下材料。