以下部分引用 AI 总结,现阶段 AI 仍然有幻觉。请以内容的原文为准。
数据新鲜度群聊 07-14 ✓卖方 07-14 ✓Wrap 断档15天 ✕News 07-15 ✓X 断档12天 ✕页面生成 07-15
vLLM x Mooncake
5 atoms · 跨 1 天 · 首见 2026-05-06 · 最近 2026-05-06
三色: 🟦 fact 5 · 🟥 take 0 · stance ▲5/▼0/◆0
来源: X 5
时态: fresh:5
标签: 好数字:5
事实 (fact) (5)
- 2026-05-06 · 吞吐量提升
3.8x higher throughput
tags: 好数字 · → daily
value: qty=3.8x
- 2026-05-06 · P50 TTFT 降低
46x lower P50 TTFT
tags: 好数字 · → daily
value: qty=46x
- 2026-05-06 · 端到端延迟降低
8.6x lower E2E latency
tags: 好数字 · → daily
value: qty=8.6x
- 2026-05-06 · 缓存命中率提升
Cache hit rate 1.7% -> 92.2%
tags: 好数字 · → daily
value: qty=1.7% -> 92.2%
- 2026-05-06 · 扩展能力
Scales near-linearly to 60 GB200 GPUs at >95% hit rate
tags: 好数字 · → daily
value: qty=60 GB200 GPUs · direction=>95% hit rate
时间轴 (近 20)
- 2026-05-06 ·
fact · 吞吐量提升 · → daily
- 2026-05-06 ·
fact · P50 TTFT 降低 · → daily
- 2026-05-06 ·
fact · 端到端延迟降低 · → daily
- 2026-05-06 ·
fact · 缓存命中率提升 · → daily
- 2026-05-06 ·
fact · 扩展能力 · → daily
← 实体目录 · 系统日志