前沿研究TechCrunch
research · 海外 AI 灵感
Etched新型AI推理芯片：分阶段优化提升速度降低成本
Etched推出分阶段优化AI推理芯片，预填充低电压、解码集群内存，速度更快成本更低。
为什么有市场空间
国内大模型厂商众多，推理成本高昂制约规模化落地，专用推理芯片可降低运营成本。但目前国内此类芯片稀少，国外产品若进入需考虑供应链安全，国内企业或可借鉴其思路自主研发，市场空间广阔。
01
背景故事
随着大模型应用普及，推理成本成为瓶颈。传统GPU在预填充和解码阶段都采用统一硬件设计，导致资源浪费和效率低下。Etched创始人意识到，推理过程可分两阶段：预填充阶段计算密集，解码阶段内存密集。因此，他们从零设计两种专用组件：低电压预填充芯片和集群内存互连，以匹配各阶段需求，大幅提升推理速度并降低成本。
02
落地效果
Etched已获7000万美元新融资，估值从7月103亿美元翻倍至210亿美元。投资方Jane Street实测芯片满意并已在其数据中心部署机架。其他投资者包括Kleiner Perkins、红杉资本等。
栏目说明
本栏目内容由 AI 对海外科技媒体公开报道进行中文改写，并经创新性筛选、国内相关性门控与 MVP 可行性分析生成。 金点子用于灵感参考，不构成投资或创业建议。点击「查看原文」可追溯出处。