软件与互联网 · 算力基础设施与AI平台 / Agent
谷歌:自研 TPU Ironwood 推理成本较 GPU 低 30-40%,ASIC 规模化降本成基建标配
谷歌以自研 ASIC 重构 AI 算力成本。第五代 TPU Ironwood 通过架构优化形成 1.77 PB HBM3e 共享内存池与 42.5 Exaflops FP8 算力,内部实测同等负载下推理成本较 GPU 旗舰系统低 30%-40%;第五代 TPU、亚马逊 Trainium2 的单位算力成本已分别降至英伟达 H100 的 70%、60%,推动 ASIC 从可选项变为大规模应用的刚性需求。
TPU Ironwood 推理成本
较 GPU 旗舰系统低 30%-40%
来源披露
第五代 TPU/Trainium2 单位算力成本
降至 H100 的 70%/60%
来源披露
Ironwood 算力/内存
42.5 Exaflops FP8 / 1.77 PB HBM3e
来源披露
01
业务背景
大模型推理在超大规模场景下面临 GPU 通用架构的成本与功耗瓶颈,需以专用化架构降本。
02
遇到的问题
高并发推理场景下通用 GPU 冗余成本高;垂直领域对算力成本、功耗与延迟有极致要求。
03
AI 解决方案
以自研 TPU 等 ASIC 将计算逻辑硬化至硅片,剔除 GPU 通用冗余;以架构优化(共享内存池、高密度算力)实现能效与成本双重突破,规模化部署降本。
- 1自研 TPU Ironwood
- 2ASIC 专用架构
- 3成本较 GPU 低 30-40%
- 4规模化部署
04
实施结果
TPU Ironwood 推理成本:较 GPU 旗舰系统低 30%-40%
第五代 TPU/Trainium2 单位算力成本:降至 H100 的 70%/60%
Ironwood 算力/内存:42.5 Exaflops FP8 / 1.77 PB HBM3e
05
风险与边界
数据来自券商基于公司财报/业绩会披露与一致预期整理,部分为财年口径或前瞻性指引;海外 AI 应用商业化仍受 ROI 验证周期、资本开支回报节奏与监管影响,国内落地需结合本地生态。
谷歌(Google)的「谷歌:自研 TPU Ironwood 推理成本较 GPU 低 30-40%,ASIC 规模化降本成基建标配」源自海外软件巨头财报/业绩会披露的 AI 应用数据,可供国内企业软件对标。
适合
云厂商与大规模推理场景的 AI 算力降本
前置条件
具备自研 ASIC 与超大规模数据中心,有软硬协同优化与全栈软件闭环能力
信息来源
1 个来源页面内容为结构化改写;关键结论应可追溯到以下材料。
关联报告:2025年全球人工智能技术、政策、产业与投融资趋势全景洞察报告 · 国泰海通证券 · 2026