以下部分引用 AI 总结，现阶段 AI 仍然有幻觉。请以内容的原文为准。

数据新鲜度群聊 07-14 ✓卖方 07-14 ✓Wrap 断档15天 ✕News 07-15 ✓X 断档12天 ✕页面生成 07-15

Groq LPU

9 atoms · 跨 2 天 · 首见 2026-05-03 · 最近 2026-05-10

三色: 🟦 fact 8 · 🟥 take 1 · stance ▲0/▼0/◆0

来源: X 9

时态: fresh:8 · aging:1

标签: 好数字:8 · 好观点:1

2026-05-03 [老化中] · 技术路线定位: compiler first
Groq本质上是一个compiler first走到极致的路线而不是SRAM first路线
tags: 好观点 · → daily

2026-05-10 · memory bandwidth
21 petabytes of memory bandwidth.
tags: 好数字 · → daily
value: qty=21 petabytes
2026-05-10 · memory per chip
44GB memory per chip (each $2M BTW)
tags: 好数字 · → daily
value: qty=44GB
2026-05-10 · chip price
44GB memory per chip (each $2M BTW)
tags: 好数字 · → daily
value: qty=$2M
2026-05-10 · core count
Over 48KB. It's 900k cores lol!
tags: 好数字 · → daily
value: qty=900k
2026-05-03 · SRAM容量
单个TSP计算卡230MB SRAM
tags: 好数字 · → daily
value: qty=230MB
2026-05-03 · API营收
2025年全年，Groq用LPU做大模型推理、对外卖API的业务，营收大约4000万美元
tags: 好数字 · → daily
value: qty=$40M · date=2025
2026-05-03 · API运营成本
成本却是6000万美元
tags: 好数字 · → daily
value: qty=$60M · date=2025
2026-05-03 · 推理解码延迟瓶颈：互联延迟占80%
推理decode主要瓶颈不在SRAM 80T/s的速度而在于interconnect延迟(占80%)
tags: 好数字 · → daily