其他行业 · AI应用
Goodnotes 通过开发生成式 AI 功能书写未来
Goodnotes 面临增强生成式 AI 能力同时确保数百万活跃用户高可靠性和安全性的挑战。为此,他们从自托管模型转向利用 Amazon Bedrock 上的 Anthropic Claude。这一战略举措使得 Ask Goodnotes 功能得以推出,简化了基础设施管理,加速了新的 AI 驱动功能的市场上市。结果,Goodnotes 不仅以更高的服务可靠性支持了庞大的用户群,还为未来大语言模型的创新奠定了坚实基础,同时坚持严格的数据隐私和安全标准。
加速上市时间
Ask Goodnotes 功能开发与发布周期显著缩短,减少开发时间
来源披露
支持用户规模
同时支持数百万活跃用户
来源披露
服务可靠性
主 API 服务支持 Ask Goodnotes 实现高可靠性
来源披露
01
业务背景
Goodnotes 面临增强生成式 AI 能力同时确保数百万活跃用户高可靠性和安全性的挑战。为此,他们从自托管模型转向利用 Amazon Bedrock 上的 Anthropic Claude。这一战略举措使得 Ask Goodnotes 功能得以推出,简化了基础设施管理,加速了新的 AI 驱动功能的市场上市。结果,Goodnotes 不仅以更高的服务可靠性支持了庞大的用户群,还为未来大语言模型的创新奠定了坚实基础,同时坚持严格的数据隐私和安全标准。
02
遇到的问题
Goodnotes 需要增强其生成式 AI 能力,以支持 Ask Goodnotes 等功能的推出。原有基于 Amazon EKS 的自托管 LLM 基础设施在可扩展性、成本效益和可靠性方面存在局限,难以保障数百万用户的高服务可靠性和数据隐私安全。
03
AI 解决方案
Goodnotes 将其 LLM 基础设施从自托管的 Amazon EKS 迁移至全托管的 Amazon Bedrock,采用 Anthropic Claude 模型。利用 Bedrock 的全托管服务简化基础设施管理,实现快速扩展;通过 Bedrock 的护栏功能确保 AI 响应质量;结合 Amazon CloudWatch、GuardDuty、Audit Manager 等安全服务强化数据隐私保护;采用跨区域推理架构提升服务可用性,从而高效推出并稳定运行 Ask Goodnotes 功能。
- 1将自托管 LLM 从 Amazon EKS 迁移至 Amazon Bedrock,选用 Anthropic Claude 模型
- 2将 Ask Goodnotes 功能与 Amazon Bedrock 上的 LLM 集成
- 3通过 waitlist 预览测试 Ask Goodnotes
- 4利用 AWS 开发框架和监控服务加速部署,并迅速扩展至数百万用户
- 5实施跨区域推理架构以提升服务可用性和可靠性
04
实施结果
加速上市时间:Ask Goodnotes 功能开发与发布周期显著缩短,减少开发时间(加速)
支持用户规模:同时支持数百万活跃用户(数百万用户)
服务可靠性:主 API 服务支持 Ask Goodnotes 实现高可靠性(高可靠性)
数据隐私安全:维持高标准数据隐私与安全,获得 ISO 27001 认证(获得认证)
创新灵活性:为未来 LLM 的快速创新和灵活切换提供可靠基础(提供灵活基础)
05
风险与边界
未披露
“Working with AWS enables us to provide Goodnotes users with the best LLM-powered experience by allowing rapid testing of various models during development.”
Steven Chan · Founder and CEO
信息来源
1 个来源页面内容为结构化改写;关键结论应可追溯到以下材料。