模型批处理吞吐量对比：避开选型坑，快速找到高吞吐低成本配置 我做模型批处理吞吐量对比时，最先做的事是把口径统一。口径不统一，后面的GPU对比、框架对比都会变成数字游戏。我的压测报告里会写清楚tokens/s、requests/s、samples/s和有效吞吐量... chuanbook · 2026-10-22 · 38分钟 · 1
