其他行业 · AI应用
CoreWeave 借助 NVIDIA BlueField DPU 革新数据中心
CoreWeave 在数据中心的数据处理和管理方面面临挑战,这阻碍了运营效率和性能。为解决此问题,该组织将 NVIDIA BlueField DPU 集成到其基础设施中,实现了先进的数据处理能力。这一策略不仅简化了工作负载管理,还显著提升了整体性能指标。结果,CoreWeave 的数据处理效率提高,运营能力增强,成为 IT 和平台领域的领导者。BlueField DPU 的成功实施为数据中心性能设立了新标准。
顺序吞吐量提升
64 GB/s(原40 GB/s)
来源披露
功耗降低
500 W(原1200 W)
来源披露
每瓦性能提升
3.84倍
来源披露
01
业务背景
CoreWeave 在数据中心的数据处理和管理方面面临挑战,这阻碍了运营效率和性能。为解决此问题,该组织将 NVIDIA BlueField DPU 集成到其基础设施中,实现了先进的数据处理能力。这一策略不仅简化了工作负载管理,还显著提升了整体性能指标。结果,CoreWeave 的数据处理效率提高,运营能力增强,成为 IT 和平台领域的领导者。BlueField DPU 的成功实施为数据中心性能设立了新标准。
02
遇到的问题
CoreWeave需要构建一个高性能、安全且可扩展的AI云基础设施,以支持数十万GPU的大规模多租户环境,并实现严格的租户隔离、高效的网络和存储性能,同时降低CPU开销。
03
AI 解决方案
部署NVIDIA BlueField-3 DPU加速网络、存储和安全服务,结合DOCA软件框架实现EVPN VXLAN租户隔离、负载均衡和流量管理;存储层与VAST Data合作,以BlueField DPU替代x86控制节点,卸载数据服务;管理网络采用Spectrum Ethernet交换机和Cumulus Linux实现API驱动的自动化;GPU间通信使用Quantum-2 InfiniBand提供高带宽、低延迟和性能隔离。
04
实施结果
顺序吞吐量提升:64 GB/s(原40 GB/s)(1.6倍)
功耗降低:500 W(原1200 W)(降低58%)
每瓦性能提升:3.84倍(提升3.84倍)
线速带宽翻倍:8个100GbE端口(原未提供)(翻倍(通过4个BlueField DPU))
05
风险与边界
未披露
信息来源
1 个来源页面内容为结构化改写;关键结论应可追溯到以下材料。