其他行业 · AI应用
借助 Shakti Cloud 构建印度AI基础设施
Yotta 发现印度AI领域缺乏可访问的高性能计算基础设施,因此推出印度首个AI基础设施平台 Shakti Cloud,基于 NVIDIA 技术。该平台目前拥有超过1.6万块 H100 GPU,计划到2025年扩展至3.2768万块以上,使 Sarvam AI 等应用的吞吐量提升20%至100%,旨在让印度各种规模的企业都能使用AI基础设施。
Sarvam AI的AI模型服务吞吐量
20%–100%
来源披露
Kubernetes集群和自动伸缩部署管理时间
减少
来源披露
01
业务背景
Yotta 发现印度AI领域缺乏可访问的高性能计算基础设施,因此推出印度首个AI基础设施平台 Shakti Cloud,基于 NVIDIA 技术。该平台目前拥有超过1.6万块 H100 GPU,计划到2025年扩展至3.2768万块以上,使 Sarvam AI 等应用的吞吐量提升20%至100%,旨在让印度各种规模的企业都能使用AI基础设施。
02
遇到的问题
印度拥有14亿人口和超过300种语言及方言,但缺乏基于本地语言和文化语境训练的AI模型,且缺少可访问的高性能AI计算基础设施。
03
AI 解决方案
Yotta与NVIDIA合作构建Shakti Cloud,部署超过16,000块NVIDIA H100 GPU,通过集成NVIDIA参考架构(NVLink、Quantum-X800 InfiniBand)、NVIDIA AI Enterprise软件和NVIDIA Cloud Functions,提供高性能AI基础设施。同时推出Rudra自助服务门户和编排层,支持按需付费及股权支付等灵活模式,让印度企业能经济高效地开发与部署大语言模型和语音AI等应用。
04
实施结果
Sarvam AI的AI模型服务吞吐量:20%–100%(提升20%至100%)
Kubernetes集群和自动伸缩部署管理时间:减少(时间减少)
05
风险与边界
未披露
“At Yotta, we’re on a mission to build India’s largest AI supercloud, powered by thousands of NVIDIA H100 GPUs and the next-generation B200 chips.”
Sunil Gupta · Cofounder, Managing Director & CEO, Yotta
信息来源
1 个来源页面内容为结构化改写;关键结论应可追溯到以下材料。