租 GPU 跑 AI 想不多花钱,就按中位价做预算,别追地板价,显存先对准模型。Vast.ai 上 RTX 4090 的中位价是 $0.49/hr,地板价 $0.14/hr,差了约 3.5×。任务跑完就停机。一次忘关的实例,比升一级显卡贵得多。
01. 不看地板价,租 GPU 跑 AI 要按多少钱算?
4090 按 $0.49/hr 做预算,不是 $0.14。
差价大约是 3.5 倍。Vast.ai 把中位价和地板价并排挂着。地板价只是那一台机器。一周的活儿,塞不进一条碰运气的挂单。打开主机页面之前,先把中位价写进预算。
这个 3.5 倍的价差,是 4090 身上的事实,不是其他芯片的定律。本页不转载其他型号的报价。今天租 GPU 跑 AI,做计划的数字是 4090 中位价,地板价是它旁边的陷阱。
追地板价,等那台主机一消失,一个晚上就烧没了。从那个中位价开始,就能少绕路。然后再挑卡。
短任务里,一台忘关的实例仍然比显卡档次更贵。一个中位价小时,账很好算。同一个小时,在你没预订的整个下午继续跑,才是多花的钱。要跑几个小时就按几个小时定价,把停机这一笔写进同一行。
中位价 $0.17/hr 的 3090,是 24GB 显存档的替代选项。
3090 和 4090 的显存上限都是 24GB。4090 贵出来的时薪,买的是吞吐量,不是更大的模型。队列不长、权重已经装得下,就留在 3090。当慢卡要渲染一下午、便宜的时薪不再便宜时,再往上换。
H100 是另一个量级。
H100 SXM 有 80GB 显存。它是训练卡,不是给已经装进 24GB 的批次用的、更快的 4090。A100 是这个级别里的另一张数据中心卡,有 40GB 或 80GB 两种,本页不给出 A100 的美元报价。不要把 4090 那个 3.5 倍的价差搬到那一行上。权重装不下的时候,去看 4090 与 H100 的租赁中位价,训练卡的数字从那里取。图像和短视频的活儿,别开 H100 的筛选。
02. 输入显卡型号之前,怎么先把卡和任务对上?
先把显存数字写下来,再按价格排序。
24GB 够干图像的活儿和 7B–8B 的推理。视频已经吃紧,就上 32GB。权重本身装不下,就上 80GB。先把数字写下来,再按价格排序。
3090 和 4090 都是 24GB。5090 是 32GB。H100 SXM 是 80GB。RTX PRO 6000 是 96GB。两张 4090 不等于一个 48GB 的池子。4090 没有 NVLink,除非软件自己会拆任务,否则容量按单卡来算。
余量也算在"装得下"里。预览缓冲加上一张视频节点图,能把纸面上看着安全的权重挤爆。长训练是另一个问题,因为它还要磁盘。今天这单活儿,一张上限对的单卡就是全部决定。
一个爆显存的便宜小时,是白花的小时。
重跑才是贵的部分。小时付了,文件却没有。标价更低的卡爆了显存,等于同一帧付两次钱。算整条流水线,别只算权重。这个工作流在 24GB 上已经跑不动,下一步就是 32GB。
集群不是默认选项。
先选一张对得上的卡。"租 GPU 集群"这个词,属于后面那种失败:显存对的单卡仍然装不下这一跑。那一句话就是整篇指南。还在 24GB、32GB、80GB 之间挑的时候,别点开集群筛选。
03. 怎么不让第一个小时耗在搭环境上?
冷启动的空壳,加上大体积权重下载,是按计费价干没有产出的活。
实例一启动,计价器就走。权重常常放在另一个网络里,跨境链路给这次下载计费,跟渲染一帧一个价。在线租 GPU 时,一个裸终端就是第一个小时最常见的漏点。别接受它。不要为一条进度条付实时价。
优先选已经装好你要跑的工具的镜像。
ComfyUI 这类环境就是现成的模式。计价器开始之前,先在挂单页确认镜像。怎么租 GPU 做图像生成,考的就是这一步。标题里带 CUDA,不代表你的节点图已经装好。镜像名字里写着 ComfyUI 才租它来跑,并且在跑批量前先出一张小图试试。
任务式租赁跳过终端。
你提交任务,取回文件。SpareHive 做的就是这个模式。
SpareHive 是任务式图像和视频活儿的等候名单:环境预装好,一个提示词或任务进去,文件回来,没有 SSH,也不用通过慢链路下载几个 GB 的权重。按秒计费和 $5 起充是计划中的事。市场目前还不接租赁任务。加入等候名单。
04. 哪些计费习惯会让你多花钱?
计费单位的重要程度,比不上一台挂着不关的机器。
在挂单页确认它按秒、按分钟还是按小时计费。GPU 租赁的计费单位写在那条报价上,不是全站统一规则。按秒计费,给一个你真的会去停的任务省下零头。按小时计费,可能把一次短渲染向上取整。可哪种单位都救不了一台整夜开着的机器。看清单位。然后把"停机"写进任务流程里。
停实例是任务的一部分,不是回头再干的杂事。
"回头"就是账单。复制文件和停机,在同一次坐下的时候做完。文件到了你这边,实例就结束。给早上留张便签,一个中位价小时就这么变成一个你没下单过的通宵。最后一帧、复制、停机,然后合上笔记本。没法留下来等复制完,就别开始。
小额余额是一根好用的保险丝。
SpareHive 计划的起充额是 $5,现在还没上线。在你今天就能用的市场上,小额余额能限住一次忘关的通宵。为这一单充值就好。不要在一台你可能忘了关的机器底下,压一大笔余额。
05. 什么时候,更便宜的可中断挂单反而不省钱?
可中断之所以便宜,是因为宿主能把卡收回去。
任务能干净地重启时再用它。可中断 GPU 租赁,是用更低的标价换一次被收回的风险。宿主可以把卡收走。你的运行停了。你已经存下来的东西还在。本页不编造一个折扣百分比。挂单价格会动。检验标准是能不能续跑,不是折扣大不大。
不能续跑的渲染,不该放上可中断的卡。
第二次完整重跑会把折扣抹平。一次把你送回第 0 帧的收回,等于这单活儿付两次钱。只有当你存的检查点能接着往下跑时,才用可以被收回的卡。说不出那个文件的名字,就去付宿主收不走的挂单。
带检查点的长训练是服务器的事。
需要磁盘的数小时训练,不是靠计费技巧能解决的事。当工作成果必须在实例关闭后还在,去看 租 GPU 服务器跑训练。本页讲的是跑完、拷走、关掉的那种活儿。
开始前十分钟,用五行给这条报价打分。
| 检查项 | 通过 | 不通过 |
|---|---|---|
| 显存 | 模型装得下,还给流水线留了余量 | 先按价格排序,显存靠后 |
| 写进预算的价格 | 4090 中位价 $0.49/hr | 4090 地板价 $0.14/hr |
| 环境搭建 | 工具已在镜像里,或用任务提交 | 第一个小时花在拉权重上 |
| 停机规则 | 文件下载完就停实例 | "我明早再看一眼" |
| 任务时长 | 几小时以内,可重启 | 需要磁盘的数小时训练 |
06. 开始前的十分钟,你要检查什么?
显存、中位价、磁盘,还有停机按钮。
四项检查。模型装得下,还留有余量。预算写的是 4090 中位价 $0.49/hr,不是 $0.14/hr 的地板价。磁盘装得下产出,直到你把它们拷走。你找到了停机开关,并且离开前会用它。有一项不过,就不开始。
十分钟的阅读,比一个坏模板的第一个小时便宜。镜像启动之前,打开挂单页把这四栏读完。磁盘装不下这一批,显存再对也不通过。趁计价器没走,现在就查清楚。
产出文件的下载通道。
临时机器会被清空。把文件带走。先复制,再停机。停在复制前面的那一下,会删掉仅有的好帧,把你送回一次付费重跑。报价写明数据卷随实例一起销毁,就信它。停机按钮不是存档柜。
这就是起飞前的检查。中位价写进预算。工具已经在镜像里,或者干脆用任务代替终端。文件拷到你的机器上,然后停机。需要磁盘的长训练,归服务器指南管。
常见问题(FAQ)
最便宜的挂单是租 GPU 跑 AI 的正确方式吗?
不是。Vast.ai 上 4090 的地板价是 $0.14/hr,中位价是 $0.49/hr。按中位价做计划,再挑装得下模型的最小一张卡。地板价是一条挂单,不是一个能按月靠的方案。
我需要 SSH 吗?
不需要。出一张成品图或一段短视频都用不着。任务流程收下任务、交还文件。调试训练的时候才需要终端,那种活儿属于一台能存盘的服务器。
第一个小时里,大家是怎么多花钱的?
一边下载权重一边付实时价,然后还把实例挂着。产出到了你这边就停机。优先选工具已经装好的镜像。
可中断 GPU 拿来训练安全吗?
只有当运行能从你存的检查点重启时才安全。被收回等于从头再来,更低的标价反而花得更多。不能续跑的训练,放在宿主收不走的挂单上。
SpareHive 开放租赁了吗?
没有。它是任务式图像和视频活儿的等候名单。按秒计费和 $5 起充是计划,不是已经开通的结账。
