2026 年 AI 该用哪块 NVIDIA 显卡？

大多数图片和短视频任务，合身的 NVIDIA AI 显卡就是 RTX 4090（24GB）或 5090（32GB）。只有模型塞不进 32GB、或者要跑长训练时，才轮到 H100。买卡之前，先按小时租着用。Vast.ai 上 4090 的租金中位数是 $0.49/hr，地板价 $0.14/hr。

01. 2026 年有一块通吃的 NVIDIA AI 显卡吗？

没有一块卡能赢下所有任务。

做 AI 该选的 NVIDIA 显卡，是显存装得下模型的最小那张。更大的芯片改善不了一个已经装得下的文件；更小的芯片加载不了装不下的权重。H100 的故事和 4090 的评测，回答的是两笔不同的采购。

先定任务，再看型号。

搜索的人在框里敲 "ai gpu"，指望一个赢家。赢家其实是一个显存档位，加上那个档位的小时中位数。图片、短视频、7B–8B 推理、多天训练，是四笔不同的采购。先说出你要买的是哪一笔，再看芯片。

一张跑 ComfyUI 的显卡，或者一条静图队列，是图片任务：管线装得下、图出得来。一条在 24GB 上死掉的视频，是显存任务。单卡跑一个 7B 或 8B 模型，是推理。一跑几天、要存检查点、还需要数据中心级卡间互联的活，是训练。RTX 4090 做 AI，前三种只要装得进 24GB 都能覆盖；多天训练它覆盖不了。

容量和速度是两张不同的账单。

更快的 24GB 卡照样停在 24GB。爆显存是容量的账单；模型装得下、队列却排得很长，是速度的账单。速度永远抬不高天花板。权重加载失败，就往上挪一档显存；任务能跑完、你抱怨的是一下午太慢，就留在那个显存档，为更快的一小时付钱。先按任务排，再按显存排，最后按中位数排。

Vast.ai 上 4090 的中位数是 $0.49/hr、地板价 $0.14/hr，相差约 3.5×。地板价只是一条挂牌。别拿地板价那一个小时去规划一整个月。

02. 这个任务需要多少显存？

24GB 装得下图片工作流和 7B–8B 推理。

3090 和 4090 共享这条天花板：都是 24GB。现在的图片工作流装得下，7B–8B 推理也装得下，所以小工作室不用 80GB 的卡也能跑这个模型。70B 级权重装不下。如果打算一张卡、不切分，那就先划掉这一行，再去按价格排序。跑崩的那一小时照常计费，重跑再计一次。在 24GB 之内，这两张卡加载的是同一个文件。

32GB 是消费级里接更重视频的那一档。

这一档是 RTX 5090，租金中位数 $0.60/hr，Vast.ai 的地板价是 $0.27/hr。多出来的是 8GB——32GB 对 24GB，给的是已经把 4090 榨干的那类视频。RTX 5090 跑 AI，意思是错误出在显存，而产出仍然是视频。拿 80GB 训练卡去补 8GB 的窟窿，是开错了药。

80–96GB 是权重本身装不下时的那一档。

H100 SXM 是 80GB，RTX PRO 6000 是 96GB。Vast.ai 上 PRO 6000 的中位数是 $1.49/hr、地板价 $1.20/hr；H100 SXM 的中位数是 $3.06/hr、地板价 $1.73/hr。权重本身装不下、或者要训练、跑大批次时，用这一档。24GB 卡已经能出的图，不属于这里。一块板必须装下整个权重时，用 PRO 6000。H100 SXM 是训练选项，把数据中心级的卡间互联算在里头。

两块 4090 并不是一个 48GB 池子。

4090 没有 NVLink，所以除非软件自己切分任务，容量要按单卡来规划。两块 4090 是两个 24GB 设备，不是一个 48GB 池子。会把模型切开的工具能同时用上两块；指望单个池子的工具，每块板仍然停在 24GB。A100 是数据中心卡，常见 40GB 或 80GB。这张表按 80GB 写，好让它排在 H100 旁边，价格留空。需要 A100 的小时数时，去看实时挂牌。下表里每一个美元数字都来自 Vast.ai。把行对准文件，然后停手。

03. 什么时候 3090 仍然是合适的 NVIDIA AI 显卡？

同样的 24GB，中位数约为 4090 的三分之一。

Vast.ai 上 3090 的中位数是 $0.17/hr，4090 的中位数是 $0.49/hr；地板价是 $0.10/hr。同样的显存，中位数只有大约三分之一。你为 4090 多付的钱买的是吞吐，不是 3090 装不下的权重。

队列不长、模型本来就装得下时，选 3090。

在 24GB 之内，你放弃的只有吞吐。同一张图照样出来，只是晚一点。对一个装得下的测试帧或小型微调，多等的那几分钟，比从 $0.17 跳到 $0.49 便宜。模型能加载、队列今天也排得完，就选 3090。

渲染队列本身就是生意时，跳过 3090。

跑一下午的慢小时，总成本可能反超更快的卡。要给交付完的整个队列算钱。本页不编造速度倍数：每张卡各跑一批、各自计时，再乘上两个中位数。当队列就是生意本身——一本商品目录、一轮客户审片，装得进 24GB、但今天必须交付——就跳过 3090。3090 推不掉显存报错，它只是把钟拨慢。图片活和装得进 24GB 的小微调留给它；客户开始在意钟表而不是显存时，放弃它。慢小时攒上一整天，总量可能越过 4090 的中位数，哪怕每一个小时在挂牌页上都看着不贵。

04. 什么时候该从 4090 升到 5090？

错误出在 24GB 而不是速度时，才升 5090。

视频爆显存是 5090 的问题，不是 H100 的问题。缺的往往是 8GB：一个序列、一次高分辨率 pass，出静图没事、出视频就死。先让同一批文件在 4090 上失败一次，再升。别因为"32GB 听着宽裕"就升。只有亲眼看过 24GB 失败，才把它当成错误。在 4090 上还能出帧的紧凑管线，就是 4090 的管线。24GB 之内的速度抱怨归上一节管，不归这一节。

和 H100 那一档相比，5090 这一档的价差很小。

5090 的中位数是 $0.60/hr。H100 SXM 的中位数是 $3.06/hr，约为 4090 中位数的 6 倍。一个跳是 32GB，接更重的视频和在 24GB 上已经顶满的管线；另一个跳是 80GB 训练卡。租 H100 去补 8GB 的窟窿，是把视频错误按训练任务计价。拿 5090 去装 80GB 权重，费率是省了，照样崩。

24GB 已经能出片时，留在 4090 上。

用不上的 8GB 是一块闲置的升级。4090 能完成那张图、那条短视频、那次 7B–8B 推理，多出的 8GB 就改变不了文件。$0.60 的中位数买到的是任务永远碰不到的显存。渲染能完成、队列还忍得了，就留下。那批文件崩了，或者只有裁掉你不会交付的部分才能跑完，再动。余量是崩溃之后的理由，不是 4090 还在出片时的理由。

05. 什么时候 PRO 6000 或 H100 的小时数才说得通？

PRO 6000 是 96GB 档的单卡选项。

权重能装进一张工作站级卡、但装不进 32GB 时，用 PRO 6000。中位数是 $1.49/hr。一块板上 96GB，意味着你不用为了加载文件先搭一套多卡互联。拿它出一批图片，是买错了小时。装得进 24GB 的静图留在 4090 上，队列等得起就用 3090。名字再响，也不会让一张静图值回 PRO 6000 的中位数。

H100 是一笔训练预算。

中位数是 $3.06/hr，约为 4090 中位数的 6 倍。活是长训练、或权重超过 32GB 时，机器学习用的 NVIDIA 卡就是这一行或 A100 那一行。如果那张静图本可以在 4090 上跑完，中间的差价就是多付的钱。图片任务别混进 H100 的筛选里。

A100 是另一个 80GB 档位。

当天去看实时挂牌，本页不印 A100 的价格。和 H100 并排比时按 80GB 算，40GB 的 A100 当另一块板看。两者都是数据中心件，用于训练和 24GB 装不下的权重。显存、卡间互联、4090 和 H100 的中位数，写在 RTX 4090、A100 与 H100 对比里。你的档位是 24GB 或 32GB 的话，暂时用不上那一页。

06. 能不能按小时租、而不是买卡？

按 30–50% 开机率算，自购 4090 的有效工时成本约 $0.45–$0.75。

同一套模型里，全天候持有折算约 $0.23/hr，而全天候本来就是错误的规划场景。按 30–50% 开机率，有效工时成本落在 $0.45–$0.75 附近。30–50% 这个区间只是用法示意，不是调研数据。工作室的一周里塞满了失败渲染和空转的日子，所以模型里的全天候数字是天花板，不是日历。把这个有效工时区间摆在 $0.49 的租金中位数旁边比。当卡会闲置时，对真正跑完的活来说，租来的小时是更低的账单。完整对比在租云 GPU 还是买卡，本页不重算那个模型，也不再除一遍小时。

今天就要一台机器，就租一台云主机。

上面所有中位数背后的实时市场就是 Vast.ai。今天就要机器，就租一台云主机：一条挂牌、一个小时、一台你自己配的桌面。预算按装得下模型的那个行的中位数来。自定义安装、必须留存文件的长训练，云主机合适；出一张图，它不合适。冷启动的云主机可能第一个小时都耗在装环境上，一帧都没出。显存要对上，别让这一个小时也是一场崩溃。

任务式出租适合要文件、不要桌面的人。

SpareHive 是一个面向任务式图片和视频作业的候补名单：环境预装好，提交一段提示词或一个任务，拿回文件，没有 SSH，也不用通过慢链接下载好几个 GB 的权重。按秒计费和 $5 起充是计划中的事。市场还没开始接出租任务。加入 SpareHive 候补名单。

需要存检查点的多天训练，该放在一台能持久存储的云主机上，就在你已选好的那个显存行里。

常见问题（FAQ）

H100 是 AI 任务的标准答案吗？

不是。图片和短视频，RTX 4090 或 5090 就对口。H100 的 $3.06/hr 中位数，留给训练和塞不进 32GB 的模型。大牌芯片干小活，账单只会更大。

24GB 够做 AI 图片吗？

对现在的图片工作流和 7B–8B 推理，够。对 70B 级权重、对已经榨干 24GB 的视频管线，这是错误方案。静图能出，就别为了心里踏实去付一个 80GB 的小时。

4090 能跑比 3090 更大的模型吗？

不能。都是 24GB。你付 $0.49/hr 的 4090 中位数（对比 $0.17/hr），买的是吞吐。更大的账单加载不了更大的模型。

小工作室该买卡吗？

只有当它连着几年、大多数天都有活干时才买。按 30–50% 开机率，自购 4090 的有效工时约 $0.45–$0.75，和按中位数租在同一个区间。项目间隙睡觉的卡，永远到不了全天候场景。

今天能在 SpareHive 租到这些卡吗？

不能。SpareHive 还在候补名单阶段。计划是任务式的图片和视频作业，出租小时还没开卖。