GPU LIFECYCLE / 技术 × 投资 / 2026-11-13

What workloads remain economic on older hardware?

旧 GPU 的价值,由仍能经济地完成的工作负载决定。

优先测试模型能装下、服务要求明确、可聚合需求且迁移成本低的任务。旧卡的价格折扣,必须覆盖合格产出、功耗、维护和机会成本上的差距。

分析师应用案例 · F10 / F11 / F14 / F15 / F18 / F20 / F21 · 公共证据核对:2026-11-13,Europe/London

01 / WHERE TO LOOK FIRST

更有希望的是匹配稳定任务,而非承接所有“推理”。

优先测试

批量 embedding、成熟 CV / OCR、小模型服务、特定媒体编解码。模型与软件稳定,需求能汇聚时,旧平台可能保留成本优势。

条件决定结果

量化 LLM、LoRA、批量生成、HPC。必须测吞吐、质量、完成时间和全系统能耗;“能跑”只通过了第一关。

最容易失去优势

前沿大规模训练、长上下文高并发、严格交互时延,以及有高价值替代需求的固定 MW 机房。

推理:需求容忍等待,有助于排队和批处理,但不能抹去每项任务的能耗。需求稀疏,可能不值得买新卡,也可能根本不值得持续占用任何一张专用 GPU。两种判断都应保留 CPU 与按需租赁对照组。

工作负载旧硬件的候选条件经济单位与关键测量什么会推翻延寿结论
批量 embedding / 离线 reranking模型、序列长度可控;索引刷新有明确截止时间;任务可以汇聚。$/百万合格文档或查询;固定检索质量、文档长度分布、批量和完成期限。新卡的合格吞吐增益超过成本倍数;CPU 已满足需求;离线积压影响业务新鲜度。
成熟 CV、OCR、语音处理固定模型与输入分辨率;已有可维护部署;适合小批量或多租户共享。$/合格图像、页或音频小时;准确率、端到端 p95/p99、CPU 预处理和数据传输。新精度路径显著改变能效;小任务被 CPU / 专用加速器更便宜地完成;尾时延失守。
小型 / 量化 LLM 服务权重、KV cache、运行空间均装得下;目标并发与上下文不过量;后端支持该 GPU。同模型或同任务质量下的 $/成功请求;固定输入/输出长度、TTFT、TPOT、并发。token 只作辅助分母。量化损失使任务失败或重试增加;KV 导致跨卡切分;旧卡缺少高效内核。[6]
批量生成、评测、数据标注可异步调度,有足够 backlog;人工验收标准和完成日期确定。$/被接受样本;包括拒收、重做、验证模型和人工成本。更快的新平台更早交付有价值数据;旧平台输出质量或验收通过率更差。
LoRA / 小规模微调与实验训练状态、激活能容纳;实验对交付速度不敏感;检查点与软件可复现。$/达标训练作业;time-to-quality、重跑概率、工程师等待和实验周转。较慢迭代损失高于硬件节省。QLoRA 说明容量门槛可下降,不证明旧卡单位经济更优。[7]
HPC / GPU 数据分析现有代码依赖匹配的 FP64、内存容量或带宽;通信不是主瓶颈。$/正确求解或查询;数值精度、time-to-solution、全节点能耗。新平台更少节点即可完成同任务;跨卡通信和 host 开销吞掉旧卡折扣。
视频转码与媒体流水线逐 SKU 核查 codec、profile、位深和固定功能单元。T4 可作为 H.264/HEVC 候选;其 NVENC 不支持 AV1 编码。$/合格视频分钟;固定画质、码率、分辨率、并发及端到端时延。需要 AV1 编码或新画质/码率目标。A100 没有 NVENC,不能因为是旧 GPU 就分配给硬件编码。[3]
开发、CI、教学、备用容量已有设备、替代出售价值较低;确有可量化的等待或中断损失可避免。每次实验/测试成本,或备用带来的预期损失减少;单列闲置电力与支持成本。低占用使专用成本高于按需租赁;平台版本分叉增加维护。低价不自动构成购买理由。
前沿训练 / 大模型低延迟服务仅在旧系统仍满足容量、互连、可靠性与工期,并有足够大的成本折扣时进入候选。训练 time-to-quality;服务同质量、同 SLO 的集群 goodput;按整个可部署系统计价。为装下模型增加节点、通信或冗余,或者受限 MW 下吞吐不足。优先测新系统,但不预设赢家。

本表是待验证的工作负载筛选顺序,不是对某型号的收益保证。MLPerf 把场景、质量目标与性能指标分开定义;不同版本、模型、系统规模和精度的结果不能直接拼成“跨代倍数”。[1]

02 / THREE CLOCKS, FOUR GATES

物理年龄、产品代际与可维护期限分别计时。

一张新装机的旧代际 GPU,可能很年轻却已落后;一张较老的 GPU,也可能继续稳定完成固定任务。0–1、1–3、3–6、6+ 年可以用于分组观察,不能替代故障记录、健康状态和工作负载测量。

门槛需要的证据会改变成本的机制
容量与拓扑权重 + KV / 激活 + 工作区 + 余量;按目标 batch、并发和上下文测峰值。从单卡变为多卡,会同时改变 GPU 数、通信、host 和故障面。T4 的 16 GB 与 A100 的 40/80 GB 选型不能笼统当成一种“旧卡”。[2] [4]
质量与服务水平同一验收数据、模型版本或任务质量;时延尾部、排队、重试与失败率。峰值 tokens/s 与忙碌率不是可收费或可用的产出。量化后必须重新验收。
软件与功能支持框架、内核、驱动、工具链、codec 与安全修补路径的具体版本。CUDA 13.0 已移除对 Turing 之前架构的离线编译支持;旧应用不会因此立即停止运行,但 V100 等旧平台需要维护旧工具链路径。[5]
运行健康与可交付性ECC/掉卡记录、热降频、部件供应、维修时间、整机功耗、网络与电力是否就绪。实测故障、有效产出和维护成本分别进入模型。不能凭年龄指定一个“已验证”故障概率。

容量算术示例:8B 参数仅权重在 16-bit 下约为 16 GB(十进制),4-bit 原始权重约为 4 GB;两者都还没加入量化元数据、KV、激活和工作区。这是存储量估算,不是某 16 GB GPU 可以服务该模型的结论。

03 / THE ECONOMIC DECISION

继续用、再买入、出租和出售,是不同问题。

原始购买价已经支付,不决定今天是否继续运行;但今天可获得的净转售收入是继续持有的机会成本。账面价值为零也不表示 GPU 免费。租赁报价的折旧、硬件转售价下降和会计折旧年限必须分别建模。

Q = 3,600 × r × u
单位成本 = C / Q
旧平台占优 ⇔ C旧 / C新 ≤ (r旧 × u旧) / (r新 × u新)
C
每日历小时的完整经济成本;租赁按实际计费和承诺摊分,已有资产计入持有机会成本。边界包含 host、内存、网络、软件、运维、闲置电力与相关故障成本。
r
相同任务质量和 SLO 下,生产窗口内的合格产出/秒。不是峰值 TOPS,也不是跨模型直接可比的 tokens/s。
u
有效生产时间 / 日历时间,已包含需求空闲、排队安排和停机影响。不是 SM 忙碌率;产出里已经扣除的失败,不再重复折损。

新卡若在相同有效利用率下有 3 倍合格吞吐,旧卡完整小时成本必须低于新卡的三分之一,才能取得更低单位成本。对单张长期占用设备,利用率也参与比较;对按作业计费的弹性租赁,要先把两边换成同一计费时间与工作量口径。

四条路径用同一持有期与现金流口径

V出售 = S₀
V延寿 = −K延寿 + PV(CF旧) + PV(S旧,H)
V替换 = S₀ − K新 − K迁移 + PV(CF新) + PV(S新,H)
V改用 = −K改用 + PV(可实现避免成本 − 运维) + PV(S改用,H)

S₀ 为现在净转售收入;K 为新增现金投入;CF 为工作负载收入减经营现金成本;期末残值扣除交易成本。比较各 V,或统一减去 V出售 计算相对价值,不能只在某一路径扣机会成本。替换路径出售旧设备后只计新设备期末残值;内部避免成本与对外收入不重复计。所有路径使用共同期限,分别检查部署等待、故障与需求变化;若加入融资现金流,折现口径须一致。

固定 MW 会改变答案。先满足相同需求,再比较可交付的单位成本;有排队中的高价值业务时,还要比较净贡献/MW,并计入旧卡占用电力、机架和网络带来的机会损失。只有存在可兑现的替代用途,才给稀缺资源赋予额外机会成本;同一电力约束不要既通过替代现金流、又通过附加成本重复扣除。

04 / CHANGE THE ASSUMPTIONS

多大折扣,才足以补偿较慢的硬件?

以下六个输入全部为合成示例,不对应 T4、A100、H100 或任何市场报价。输出单位可以是同口径 token、文档或其他验收单位;不能在一次比较中混用。

旧方案
新方案

启用 JavaScript 后可调整假设。

局部敏感性:成本在每次比较中视为固定。改变利用率后,应同步重估平均功耗、软件计费等成本。这里只计算单位成本,不计算需求弹性、NPV、机房功率上限或投资回报。

05 / FIVE INDEPENDENT TESTS

把“旧 GPU 能延寿”转成五项分析师检验。

这些是本研究的分析方法,不是某位分析师对旧 GPU 的评级或观点,也不新增真实电话会问答或人物档案。

独立视角关键问题与模型财务传导能改变判断的证据
付费需求 / F7、F10哪些客户真的愿意持续买?按工作负载分组:收入 = 可计费小时 × 实收租价,或合格任务量 × 实收单价。量价、续约、贡献利润;出租率与客户内部计算效率分开。价格下降后利用率增加但收入、现金贡献仍下降;免费任务不能支撑残值。
技术替代 / F15、F18同服务质量的完整成本比,是否仍低于有效产出比?比较相同需求及受限资源。客户采购、份额、净 ASP、旧代际租价与新设备替换量。新内核、容量或互连减少所需卡数;更高峰值性能本身不足以证明替代。
资本配置 / F20继续持有的未来净现金流与残值,能否超过今天净售价?新购旧卡另加买价、安装与营运资金。替换 CapEx 时点、自由现金流、回收期与再投资选择。运行有正毛利,但 PV 低于转售价值;卖出并重新配置资金更优。
会计与现金 / F11会计使用年限、工程可用期限和经济寿命是否被混为一谈?延长折旧年限可降低当期折旧、提高利润,却不会直接增加同额经营现金。税、出售损益另算。利润改善仅来自折旧估计;租价、利用率、维护现金和替换需求未改善。
估值与证伪 / F12、F14、F21按代际/投产批次建现金流,终值依赖仍付费的任务组合,不用统一“六年寿命”外推。残值、维护/替换支出、自由现金流及估值持续期;债务再融资另外桥接。旧群组净贡献衰减快于预期,或二手成交价扣除费用后低于残值假设。

对算力定价与调度的研究含义:租赁价格指数可以记录同 SKU、同配置、同 SLA 的租价衰减;工作负载路由可以寻找合格任务的成本边界;残值风险分析需要独立的硬件真实成交与处置数据。租赁价格可以提供信号,但不能直接当作二手硬件结算价格。

06 / HOW THE THESIS FAILS

旧卡仍能工作,不代表旧卡的资本仍有回报。

延寿最强的解释:成熟工作负载增长,稳定的软件和已部署基础降低迁移成本;折扣与需求聚合足以补偿能效差距。替换最强的解释:同质量的有效产出/美元和产出/MW持续提升,旧卡被迫降价仍留不住有支付能力的需求,或者占用可用于更高回报业务的机房资源。

独立冲击必须重算什么常见误判
需求 2×并发与 KV、排队尾延迟、吞吐曲线、可调度工作量;需求已饱和时不能把利用率再翻倍。需求增加必然延长旧卡经济寿命。它也可能迫使迁移到更高密度的平台。
新设备晚部署等待期间旧卡的现金贡献、租入替代成本和迁移日期;保留共同评价期限。把暂时的过渡价值当成永久技术优势。
融资更贵 / 续贷更难新购成本、现金时点、债务期限、处置折价;企业生存能力与设备运营贡献分开。旧卡正毛利足以覆盖整个平台的融资与更新成本。
新代际进入旧卡租价、利用率、二手售价、支持和迁移分别冲击,再加入相关性情景。假设各变量独立,或把某个代际降价百分比机械用于所有物理年龄。
可迁移练习:旧方案单位成本更低,但新方案每 MW 能产生更多净贡献;机房只有一半功率被用掉。你会怎样判断今天留旧卡、未来替换的时点?先列出付费需求、部署时间和空余资源的证据,再决定是否赋予电力机会成本。
查看判断要点

未被有效需求占用的电力,不应直接套用满载稀缺溢价;有可执行、足够回报的替代部署时,机会成本才进入比较。按相同工作量计算所需设备,再比较等待期现金、迁移投入、残值与不同需求情景。阅读要点不等于完成独立判断。

07 / THE NEXT DISCRIMINATING EVIDENCE

先测三组任务,再谈可投资的经济寿命。

下一轮建议选择:① 批量 embedding;② 受限上下文的小模型交互服务;③ 一项现有 CV、媒体或微调任务。每项选一套旧系统、一套候选新系统,并保留 CPU 或按需云对照。以下是研究安排建议,未表示测试已运行或已建立自动跟踪。

  1. 固定验收:模型与数据版本、质量门槛、输入长度分布、输出长度、batch、并发、截止时间或 TTFT/TPOT/p99;保存框架、驱动与内核版本。
  2. 测可用产出:从低负载到饱和扫负载,记录端到端功率、host/网络/存储、OOM、错误与重试;再用代表性需求轨迹估算有效利用率。
  3. 补商业证据:同条件租赁实收价/合同、净转售报价及成交、维护账单、迁移工时和下一代到场日期;挂牌价与宣传性能分别标注。
  4. 反转条件:任一硬门槛失败即移出候选;超过计算器成本上限则失去单位成本优势;继续持有价值低于净售价则优先评估处置。达标后才更新群组现金流、残值和替换 CapEx 假设。

当前可下的结论:旧硬件的可持续需求来自一组经过验证的任务,而非泛化的“推理市场”。当前不可下的结论:某一 GPU 可统一使用多少年、租价会如何下降、残值是多少,或哪家公司的利润一定受益。

08 / EVIDENCE AND LIMITS

证据支持机制,不替代经济性实测。

  1. MLCommons — MLPerf Inference: Datacenter2026-11-13 读取。基准按模型、质量目标和场景定义;本页未从结果表构造跨代性能倍数,也未引用特定提交作为采购结果。
  2. NVIDIA — T4 product specifications2026-11-13 核对公开规格:16 GB GDDR6、70 W GPU 功率规格。未将板卡功率视为整机实际功耗,也未采用厂商加速比作独立测量。
  3. NVIDIA — Video Encode and Decode Support Matrix2026-11-13 核对 T4 与 A100 行。编码与解码、codec 与 profile 须分别判断;T4 的 NVENC 不支持 AV1 编码,A100 无 NVENC。
  4. NVIDIA — A100 product documentation2026-11-13 读取。40 GB / 80 GB 配置与平台机制;本案例不把其峰值规格换算为真实业务吞吐。
  5. NVIDIA — What’s New and Important in CUDA Toolkit 13.02025-08-06;2026-11-13 重读“Feature-complete architectures”。CUDA 13.0 对 compute capability 7.5 之前架构移除离线编译支持;旧工具链/驱动支持路径与现有二进制继续运行并非一回事。
  6. vLLM v0.17.1 — Quantization compatibility2026-11-13 读取版本化文档。支持依赖硬件与具体内核;这里只作为版本锁定方法的依据,不宣称某种量化必然更快或在所有旧 GPU 上可用。
  7. Dettmers et al. — QLoRA: Efficient Finetuning of Quantized LLMs2023-05-23。论文报告冻结量化底座并训练适配器,可在单张 48 GB GPU 上微调其测试中的 65B 模型。这里只支持容量门槛可以改变,不外推所有模型的质量等价、训练时间或旧硬件收益。

继承材料:GPU Lifecycle v1,2026-11-09 工作台;读取并确认仍为示例模型。本文新增工作负载筛选、现金流决策边界与合成计算器。未核验真实租赁成交、二手成交、维修群组数据或同质量跨代性能;未假定任何具体 GPU 的寿命、残值、回报或故障率。

查看来源与模型记录 · 返回分析师训练 · 分析师思想地图