需求端

便宜的 GPU 租用:7 个压低 AI 账单的办法

一块显卡,旁边放着沙漏和硬币,表现每小时租用成本被压低

便宜的 GPU 租用,指的是能干完活的、最小的那张卡的中位价,而且你一停机表就停。RTX 4090 的地板价是 $0.14/hr,中位价是 $0.49/hr,差 3.5×。账单可以从这七处下手:显卡档位、闲置时间、计费单位、权重下载、可中断任务、按任务租用,以及对比一次 API 账单。

01. "便宜的 GPU 租用"应该指什么?

便宜指的是计划好的中位价,不是撞大运的地板价。

$0.49/hr 是你填进预算表的 4090 数字。 在 Vast.ai 上,RTX 4090 的中位价是 $0.49/hr,地板价是 $0.14/hr —— 撞大运的那条挂牌价和市场实际成交的水平之间差 3.5×。按地板价做的预算,第一周就会破:那台便宜的机器要么正忙、要么下架、要么比它的价格暗示的更慢。按中位价做的预算,才扛得住真实负载。

只要一个成品文件,带 GPU 的便宜 VPS 依然是错的产品。

"带 GPU 的便宜 VPS"这类挂牌,卖给你的是一台要你自己管的机器:一个操作系统、一个 shell、一块磁盘,还有一块不管你出没出活都在走的表。如果你的交付物是一张成品图或一段短片,运维就是一笔你付了钱、却永远没法开给客户的开销。任务真的需要常驻机器时(必须能续跑的训练就是),服务器才说得通;任务只是"把这个队列渲完、把文件给我"时,它就是死重。

接下来是七刀。

每一刀都对应真账单上能找到的一行:显卡档位、地板价陷阱、闲置的表、环境搭建那一小时、中断规则、租服务器还是租任务的问题,以及 API 发票。没有一刀需要换供应商,也没有一刀需要谈判。今天就能租的平台上,这七刀刀刀都使得上。

02. 你是不是在为模型用不到的显存付钱?

任务塞得进 24GB 时,从 H100 降到 4090。

H100 SXM 的中位价是 $3.06/hr,4090 的中位价是 $0.49/hr。如果模型连同它的流水线塞得进 24GB,多出来的显存和数据中心互联在图像、视频任务上帮不了你任何忙 —— 你按 H100 的中位价付钱,买的却是任务从头到尾碰不到的容量。完整的逐卡对比表在我们租用价格对比页,链接在下面。

24GB 够用、队列等得起时,从 4090 降到 3090。

同样 24GB 的上限,3090 一个小时的中位价是 $0.17/hr,大约是 4090 中位价的三分之一。换掉的是吞吐,不是能力:同样的模型装得下,同样的产出出得来,只是每一张更慢。跑没人等着收货的过夜批量任务,这个差价就是净省的。

别降到任务直接崩的程度。

重跑会把省下的钱全吐回去。一小时最后报显存不足(out-of-memory),就是整整一小时买了零产出,重试还要再计一次费。便宜的卡,是装得下模型、还给周围流水线留有余量的最小那张 —— 不是列表上最小的那张。

03. 你的预算是不是按地板价做的?

4090 的地板价是 $0.14/hr,比中位价低约 3.5×。

地板价就是一条挂牌:一个房东、一台机器、一个通常被抢走的瞬间就消失的价格。按 $0.14 做预算、却以 $0.49 租到的团队,每真正订到一小时就超支 3.5×。地板价告诉你的是市场的下限,不是你要付的钱。

便宜 VPS 的引流价是同一套路。

便宜 GPU VPS 挂牌上的横幅价,跟地板价挂牌出自同一种本能:报最好的配置,卖普通的配置。你该按工作日下午真正租得到的那台机器来算价 —— 那台有你的任务需要的存储、带宽和稳定性的机器 —— 而不是标题里的那套配置。

其余的卡,价格统一放在价格页。

3090、4090、5090、PRO 6000 和 H100 的完整地板价/中位价表,我们放在一个地方 —— 见中位价与地板价对比 —— 这样本站每篇文章引用的都是同一套数字。当你看到某条挂牌价远低于中位价时,检查它省略了什么:存储、带宽,还是撑满你任务时长在线的能力。

04. 图出完之后,表还在走吗?

一个忘关的小时,就能盖过"便宜"的单价。

按 $0.49 空转两个小时就是 $0.98 —— 一帧没出,钱是真的。单价越便宜,闲置尾巴在百分比上越扎眼,因为闲置小时数可能比干活的小时数还多。那些最大的"便宜 GPU"账单,多半是干完活还在继续计数的机器。

按秒计费能兜住损失,前提是你真的停了。

计费粒度决定晚停的那一分钟值多少钱:按秒计费把损失算到秒,按小时计费把它凑成一整个小时。SpareHive 的方案是按秒计费。它还没上线。今天你能用的任何平台上,计费粒度都印在挂牌页上 —— 开始之前看,别等账单来了再看。

把"停机"写进清单的最后一项。

文件渲完,任务不算完。文件落到你自己机器上、实例停掉,才算完。把停机和下载放在同一步,合上笔记本之前做完 —— "明早再看一眼"是 GPU 租用里最贵的一句话。

05. 你是不是在按租用费率下载权重?

冷启动的卡加大文件下载,等于花钱干等。

一台新开的机器磁盘是空的,当天第一个任务先要在全价小时费率下下好几个 G 的模型。走慢速跨境线路时,这段等待不是几分钟,而是账单上的第一个小时。你在为带宽支付 GPU 的价格。

工具装好的镜像能把这一小时拿掉。

自带预装环境的挂牌 —— 比如 ComfyUI 镜像 —— 能把第一个小时变回干活的时间。检查只有一行:确认挂牌的镜像里已经装好你要跑的工具。没装的话,要么换一条装了的挂牌,要么认下环境搭建这一小时是成本的一部分。

按任务提交,连 shell 一起省掉。

SpareHive 现在是一个候补名单,收的是按任务提交的图像和视频任务:预装好的环境,一个提示词或任务进去,文件回来,没有 SSH,也没有在慢线路上下几个 G 权重这回事。按秒计费和 $5 最低充值是计划中的方案。这个市场还没有开始接租用任务。在 sparehive.com 加入候补名单。

06. 这个任务允许被打断吗?

只有任务能重跑,才用可被回收的卡。

可中断的挂牌更便宜,因为房东可以在任务中途把卡收回去。这笔交易对渲图队列来说没问题 —— 哪一帧都能重渲;对进度只存在机器内存里的任务来说是灾难。点下更便宜那条挂牌之前要回答的问题:如果这张卡 20 分钟后消失了,我损失了什么?

别给这个折扣报具体数字。

挂牌价会变,所以我们不在这里报一个固定的可中断折扣数。扛得住价格变动的规则,是关于能不能重跑的:能从 checkpoint 干净重启的任务,吸收得了一次中断;从零开始重来的任务,第一次尝试的钱等于白花。

必须续训的训练归服务器指南管。

要写 checkpoint 的多小时训练,需要的是磁盘和一台不掉线的机器,不是一张便宜的可中断卡。我们的如何租 GPU 跑 AI指南讲的是短任务场景,并且正因为这个原因把你引到服务器页去。

07. 你到底需不需要一台服务器?

出一张成品图是任务,不是 VPS。

如果交付物是文件,你要的产品就是:交进去一个任务,回来一批文件。你为活儿付钱,表在下载完那一刻停掉,没人需要维护操作系统。"带 GPU 的便宜 VPS"和按任务租用可以落到相近的小时单价上,最后却产出完全不同的两张发票。

带 GPU 的便宜 VPS 在你睡觉时照样计费。

你租的服务器,凌晨 3 点也在扣你的钱。运维时间、闲置的夜晚、忘掉的实例,都是它的价格的一部分,不管价目表上有没有写出来。除非任务真的需要一台常驻机器 —— 能续训的训练、一个长期跑的服务 —— 否则服务器就是贴着更便宜标签的更贵产品。

用完即焚的存储,对这种用法是特性,对训练是 bug。

对图像和视频任务来说,任务一结束就自我清空的机器是隐私特性:你的源文件和产出不会留在陌生人的硬盘上。对训练来说,同样的行为会删掉你的 checkpoint。让存储模型去匹配任务,而不是匹配排序恰好靠前的那条挂牌。

七刀一览

# 这一刀 改的是什么 哪个数字说明起效了
1 显卡档位 24GB 的任务跑 4090,不跑 H100 经价格页查 $0.49 对 $3.06 的中位价
2 地板价迷信 按中位价做预算,把地板价当噪音 是 $0.49,不是 $0.14
3 闲置的表 下载完就停,别拖到当天结束 闲置小时 × 单价,写下来
4 权重下载 预装镜像或按任务提交 账单上少了环境搭建那一小时
5 可中断 只跑能重启的任务 发票上没有整场重跑
6 VPS 还是任务 为产出付钱,不为服务器付钱 没有通宵挂着的机器
7 对比 API 把图像量搬到你自己的租用卡上 对比图像 API 约 100×(内部估算)

08. 你把这一小时和 API 发票比过吗?

租来的消费级 GPU 跑开源图像模型,比商用图像 API 便宜约 100×。

这是内部估算,不是基准测试。具体倍数取决于你的用量和模型,但改变决策的是这个数量级。按这个比例,一个月的 API 发票可能超过替掉它们的那些卡的成本。

文本和视频更接近 8–16×。

同一份内部估算里,文本生成和视频生成的省钱幅度要低一些 —— 差距是真的,但更小,因为商用文本和视频 API 的定价离算力成本更近。转述这些数字时请标明是估算,让你自己的发票来做检验。

需要 SLA 和短队列时,API 依然是理性的选择。

如果你需要合同、SLA 和客服,API 的溢价买的就是这些东西。当量大到小时费率成为较小的那个数字时,租用才占上风 —— 而"便宜的 GPU 租用"做得对,正是帮你找到那个小时费率的办法。

常见问题(FAQ)

$0.14 的 RTX 4090 算不算能写进计划的便宜 GPU 租用?

不算。$0.14/hr 是地板价,$0.49/hr 是中位价,两者相差约 3.5×。对预算来说,"便宜"指的是真正装得下模型的那张卡的中位价。

带 GPU 的便宜 VPS 会比按任务租用更省吗?

如果你只要产出文件,不会。VPS 是一台你让它一直开着、全天候付钱的服务器。任务只为那件活儿计费,完了就停。

租 GPU 比图像 API 便宜多少?

按内部估算,在消费级 GPU 上跑开源图像模型,量级在 100× 左右。文本和视频更接近 8–16×。你自己的发票才是检验。

按秒计费重要吗?

只要你及时停机,就重要。它救不了通宵挂机的机器。SpareHive 的按秒计费方案还不是已上线的租用服务。

← 全部文章