其他行业 · AI应用
基于NVIDIA AI的5G企业服务
Singtel发现企业对高级AI能力的需求日益增长,特别是在需要实时数据处理和分析的领域。他们开发了Singtel Paragon平台,集成由NVIDIA T4和A40 GPU以及NVIDIA AI Enterprise支持的多接入边缘计算(MEC)服务。该平台在边缘执行复杂AI工作负载和图形处理,为实时视频分析和AR/VR等应用提供低延迟性能。企业能够利用关键任务AI应用,提升可靠性和效率,推动各行业的生产力和创新。
客户体验
更快的AI应用开发、部署和可管理性
来源披露
开发者效率
利用内嵌工具和框架节省开发者时间
来源披露
技术支持
来自NVIDIA专家的卓越支持与指导
来源披露
01
业务背景
Singtel发现企业对高级AI能力的需求日益增长,特别是在需要实时数据处理和分析的领域。他们开发了Singtel Paragon平台,集成由NVIDIA T4和A40 GPU以及NVIDIA AI Enterprise支持的多接入边缘计算(MEC)服务。该平台在边缘执行复杂AI工作负载和图形处理,为实时视频分析和AR/VR等应用提供低延迟性能。企业能够利用关键任务AI应用,提升可靠性和效率,推动各行业的生产力和创新。
02
遇到的问题
Singtel为增加其5G企业业务的采用率,需要为客户的实时视频分析、AR/VR和聊天机器人等关键任务AI应用提供极低延迟和高带宽的算力支持。传统集中式云架构难以满足这些计算密集型工作负载对边缘侧性能和可靠性的要求。
03
AI 解决方案
Singtel构建了Paragon平台和多接入边缘计算(MEC)服务,在5G网络边缘部署NVIDIA T4 Tensor Core和A40 GPU,并采用NVIDIA AI Enterprise端到端软件平台。通过NVIDIA AI Enterprise的GPU虚拟化能力,实现多租户GPU资源隔离与共享;利用NVIDIA Riva和NeMo框架快速开发AI聊天机器人演示;同时提供PyTorch、DeepStream等库,支持客户在边缘直接构建和运行低延迟视频分析等AI应用。平台为5G企业客户提供统一编排、可管理性和关键任务所需的可靠性。
- 1搭建5G MEC基础设施,集成NVIDIA T4和A40 GPU作为边缘加速节点。
- 2引入NVIDIA AI Enterprise软件套件,部署GPU虚拟化,支持多个并发AI工作负载。
- 3使用NVIDIA Riva和NeMo框架开发并验证AI聊天机器人演示,展示边缘AI能力。
- 4引导客户利用DeepStream和PyTorch等包含在NVIDIA AI Enterprise中的库,开发和部署实时视频分析等生产级应用。
- 5将经过验证的MEC方案通过Singtel Paragon编排平台扩展至其他区域的5G网络。
04
实施结果
客户体验:更快的AI应用开发、部署和可管理性(提升)
开发者效率:利用内嵌工具和框架节省开发者时间(节省)
技术支持:来自NVIDIA专家的卓越支持与指导(未披露)
05
风险与边界
未披露
“Having a full software stack and rich ecosystem of tools and libraries is key to supporting the development of 5G applications and use cases.”
Manoj Prasanna Kumar · Head of Technology, Singtel Group Enterprise
信息来源
1 个来源页面内容为结构化改写;关键结论应可追溯到以下材料。