当这次运行需要磁盘、需要存 checkpoint、需要连续在线几个小时，就该租 GPU 服务器跑机器学习。只想出一张图，按次租卡就够。先看显存：24GB 够图像工作和 7B–8B 推理；80GB 是 H100 和 A100 那一档。4090 按 $0.49/hr 的中位价做预算。
01. 什么时候该租 GPU 服务器，而不是提交一个任务？
训练必须能在你控制的存储上恢复时，租服务器。
Checkpoints、数据集和一个 shell，是服务器存在的理由。要跑一整晚的训练会写下它丢不起的状态，这些状态必须落在一块比任何单次会话都活得久的磁盘上。如果你这份活的定义特征是"必须能接着跑"，那你在找的是服务器，不是一张卡。
只需要拿回一张图或一段短视频时，提交任务。
这种场景里磁盘被清空可以接受——产出就是交付物，机器之后去哪无关紧要。但在训练这件事上，这是错误的默认选择。一个在第六个小时机器消失的训练会把进度一起带走，第二次尝试按全价计费。
短任务归操作指南管。
如果你的活是一个渲染队列、一批图，或者一个下午就能跑完的单次微调，去租 GPU 跑更短的 AI 任务，文件一落地就停表。这一页只讲服务器：按小时或天计的运行，存储本身就是配置的一部分。
02. 在看小时价之前，服务器应该先满足什么？
先看显存，再看磁盘，最后看卡间互联。
一个放不下 checkpoint 的便宜小时，等于一次失败的运行。管用的配置顺序是：先确认模型和它的训练状态装得进显存，再确认磁盘装得下数据集加你要写的每一个 checkpoint，最后才看互联——只有任务跨多张卡时互联才重要。
24GB 是能干小训练和 7B–8B 活的实打实的机器。
一台 3090 或 4090 服务器能干 7B–8B 这一档模型的微调和推理、LoRA 任务，以及大部分视觉训练。它不是一台 70B 服务器：那种体量的权重塞不进 24GB，小时价怎么定都塞不进。卡要跟模型文件配，不是跟任务名头配。
80GB 是 H100 和 A100 服务器的档位。
当权重或 batch 真的需要 80GB 左右，你就进了 H100 的地盘——Vast.ai 的 H100 SXM 中位价是 $3.06/hr。4090 按 $0.49/hr 的中位价算，付款之前先弄清这台服务器需要哪张卡，别为错的那张付钱。
A100 在这套测算里仍然没有经过核实的小时价。
把实时挂牌价当作 A100 的价格。这份指南不印任何 A100 的美元数字；只认实时挂牌。
03. 你实际买下的是跑多久的机器？
把预期的墙钟小时数写在中位价旁边。
4090 中位价 $0.49 跑十小时是 $4.90；H100 中位价 $3.06 跑十小时是 $30.60。每小时的单价本身没有任何意义，要乘上你实际预期的运行时长才有意义——还得乘上你该预留的重跑余量，因为第一次尝试很少能原样跑完。
可中断容量只配得上能恢复的运行。
没有 checkpoint 的被抢占会让你付两次钱：一次是丢掉的小时，一次是重跑的小时。在一台 checkpoint 存储好用的服务器上，可中断挂牌是折扣；没有它，同一个挂牌就是抽奖，而握着那张输票的人是你。
一张卡过不了显存关，才轮到集群。
"租 GPU 集群"这个搜索词是搜索框在说话，不是工作负载在说话。正确的顺序是一张显存够的卡；只有一张 80GB 的卡都装不下这个运行时，你才需要为互联、多卡调度和分布式任务额外的故障模式掏钱。
按任务，该租什么
| 任务 | 你租的服务器 | 要做的预算 | 存储 |
|---|---|---|---|
| 图像或短视频 | 不是服务器。按次任务租赁 | 4090 中位价 $0.49/hr，然后停表 | 下载文件；磁盘没了无所谓 |
| 小训练，24GB 装得下 | 3090 或 4090 服务器 | $0.17 或 $0.49 中位价 | checkpoint 存到实例之外 |
| 需要 ~80GB 的训练 | H100 SXM，A100 先查实时价 | H100 中位价 $3.06/hr；A100 此处未定价 | checkpoint 存到实例之外 |
| 需要多张数据中心 GPU | 先看卡对比 | 先别打开集群筛选器 | 为互联做计划，而不只是凑卡数 |
04. 怎么让一次抢占或清盘删不掉你的训练？
把 checkpoint 写进实例销毁后仍然存在的存储。
服务器自带磁盘算不上这种存储，除非供应商在报价里写明白了。实例存储、临时卷、"本地 NVMe"这些挂牌，都可能意味着磁盘跟着机器一起没。把 checkpoint 写进对象存储或你自己开的持久卷，并且在运行之前——而不是故障之后——确认恢复路径。
为临时而生（ephemeral-by-design）的产品干不了这个活。
SpareHive 的规划是临时存储下的按次图像和视频任务，不是常驻训练服务器。需要 checkpoint 的多小时训练，该放到一台你能往里存东西的服务器上。只有你的活是图像和视频，才去sparehive.com 排队登记。
周末大活之前，先在短运行上试一次恢复。
在 epoch 中途把进程杀掉，从最新的 checkpoint 恢复，确认运行从断点接着走。一个你没恢复过的备份只是许愿，跨周末的大活正是发现 checkpoint 路径写错的最贵场合。
05. 哪些收费项让"便宜服务器"变贵？
配置环境的小时、睡觉时的小时，和高于模型需求的卡档。
短任务指南里的三项成本，放到更长的表上。按小时计费的服务器会向你收三笔：配置环境的时间、你睡觉时照跑的小时，以及为 24GB 的活订下 80GB 的差价。多天运行里每一项都不大；加在一起，可能超过租金本身。
出口流量和数据集搬运也是钱。
数据集搬进去、结果搬出来，可能是两笔分开的收费；凡有这项收费的地方，都按 GB 报价。我们不印每 GB 的价格，因为各家供应商不一样；要做的是在你为小时价高兴之前，到供应商自己的定价页把这两笔数清楚。
开机就消失的地板价挂牌。
4090 服务器按 $0.49 的中位价做预算，别按 $0.14 的地板价。一场按地板价挂牌规划的多天运行，等于计划好了要么中途多付钱、要么换一块硬件重来——五天训练在第二天重跑，是这份指南里最贵的一个收费项。
06. 第一天该做什么？
先在表里选行；行里写着 80GB，再去打开卡对比。
上面那张表能定下大多数决策：图像视频走按次任务，小训练用 24GB 服务器，80GB 这一档——H100 SXM 中位价 $3.06/hr——留给权重真正需要它的时候。02 节链接的卡对比会替你解决 A100 对 H100，以及"我真的需要数据中心硬件吗"这两个问题。
把停止时间定在 checkpoint 落盘的时刻。
有预期结束时间的服务器，需要一个真实的结束。把停止时间定在最后一个 checkpoint 落盘的时候，就像短任务里你会定好下载时间一样。被忘掉的服务器，就是被忘掉的实例的训练版——只是账单按天算，不按小时。
SpareHive 的等候名单，留给图像和视频。
04 节描述的那个按次产品，不是给你训练用的。训练用的服务器，去一个提供持久存储的市场上订。
FAQ
GPU 服务器和租 GPU 跑 AI 是一回事吗？
不是。服务器是给需要磁盘、shell 和 checkpoint 的运行用的。按次任务适合做好的图或短视频，之后机器可以被清空。
跑机器学习，我需要多大的服务器？
装得下就 24GB，按 4090 中位价 $0.49/hr 或 3090 中位价 $0.17/hr 做预算。权重装不下就上 80GB 左右，那是 H100 的地盘，中位价 $3.06/hr。
SpareHive 会托管训练服务器吗？
不会。规划是临时存储下的按次图像和视频。必须能恢复的训练，需要你控制的存储，放在为此而建的服务器产品上。
我该租 GPU 集群吗？
等一张显存够的卡还是装不下任务，再谈集群。集群筛选器不是第一个该搜的地方。