RTX 5090 vs 4090 推理成本实测：多花 40% 的钱值不值

TL;DR 直接答案：纯推理 7B~13B 模型，4090 性价比仍然碾压 5090——5090 快 30%~40%，但租金贵 40%~60%，每千 token 成本反而更高。只有两种情况该上 5090：① 32GB 显存刚需（13B FP16、70B INT4）；② 抢时间做压测/上线前验证。

参数账面

• RTX 4090：24GB GDDR6X，显存带宽 1.0TB/s，FP16 算力约 83 TFLOPS
• RTX 5090：32GB GDDR7，显存带宽 1.8TB/s，FP16/FP8 算力大幅提升

推理是显存带宽密集型任务，5090 带宽提升 80% 是实打实的，但落到 token 吞吐上，7B 模型实测提升约 30%~40%（解码阶段被打满带宽之前就受限于别的环节）。

每千 token 成本怎么算

公式很简单：每小时租金 ÷ 每小时产出 token 数。以 7B 模型 vLLM 部署为例，4090 吞吐约 2000~3000 token/s，5090 约 2800~4000 token/s。代入实时租金：

按当前价格粗算：4090 每百万 token 成本约 ¥0.2~0.35，5090 约 ¥0.28~0.45。纯算经济账，4090 赢。

什么时候 5090 反而省钱

• 13B FP16 推理：模型 26GB+，4090 的 24GB 装不下，只能量化牺牲精度或租更贵的 A100；5090 32GB 刚好装下，反而成了最便宜的可行解。
• 70B INT4 量化：40GB 出头还是装不下，但 Q2/Q3 极限量化 30GB 内可行——只有 32GB 的卡能玩。
• 限时任务：给客户演示前两小时发现要重跑评测，5090 快 40% 就是省 40% 的时间，这时候时间比租金贵。

结论

个人玩家和中小团队跑 7B/8B 推理：闭眼 4090。模型超 24GB 显存红线再考虑 5090。两边价格都在实时波动，下单前看一眼上方实时表（每小时更新），哪家便宜租哪家。部分链接含推广返佣，不影响排序。