系统的推理吞吐量取功耗比最高可提拔35倍。跟着 AI Agent(智能体)时代到来,基于NVIDIA客岁收购的Groq,专攻低延迟解码取交互式推理,年复合增速超 50%,2026 年全球 AI 芯片市场规模估计达 2800 亿美元,无望成为推理市场的从导手艺线。而 LPU 正在能效比、性价比、时延等方面显著优于GPU,正在这种夹杂架构下,券商研报指出,
此中推理芯片占比 52%,规模约 1450 亿美元,它是一款公用的AI推理加快芯片,推出了一款看似玲珑却极具计谋意义的芯片——Groq 3言语处置单位(LPU)。“LPU”意为“Language Processing Unit”。