优先测试
批量 embedding、成熟 CV / OCR、小模型服务、特定媒体编解码。模型与软件稳定,需求能汇聚时,旧平台可能保留成本优势。
GPU LIFECYCLE / 技术 × 投资 / 2026-11-13
旧 GPU 的价值,由仍能经济地完成的工作负载决定。
优先测试模型能装下、服务要求明确、可聚合需求且迁移成本低的任务。旧卡的价格折扣,必须覆盖合格产出、功耗、维护和机会成本上的差距。
分析师应用案例 · F10 / F11 / F14 / F15 / F18 / F20 / F21 · 公共证据核对:2026-11-13,Europe/London
01 / WHERE TO LOOK FIRST
批量 embedding、成熟 CV / OCR、小模型服务、特定媒体编解码。模型与软件稳定,需求能汇聚时,旧平台可能保留成本优势。
量化 LLM、LoRA、批量生成、HPC。必须测吞吐、质量、完成时间和全系统能耗;“能跑”只通过了第一关。
前沿大规模训练、长上下文高并发、严格交互时延,以及有高价值替代需求的固定 MW 机房。
推理:需求容忍等待,有助于排队和批处理,但不能抹去每项任务的能耗。需求稀疏,可能不值得买新卡,也可能根本不值得持续占用任何一张专用 GPU。两种判断都应保留 CPU 与按需租赁对照组。
| 工作负载 | 旧硬件的候选条件 | 经济单位与关键测量 | 什么会推翻延寿结论 |
|---|---|---|---|
| 批量 embedding / 离线 reranking | 模型、序列长度可控;索引刷新有明确截止时间;任务可以汇聚。 | $/百万合格文档或查询;固定检索质量、文档长度分布、批量和完成期限。 | 新卡的合格吞吐增益超过成本倍数;CPU 已满足需求;离线积压影响业务新鲜度。 |
| 成熟 CV、OCR、语音处理 | 固定模型与输入分辨率;已有可维护部署;适合小批量或多租户共享。 | $/合格图像、页或音频小时;准确率、端到端 p95/p99、CPU 预处理和数据传输。 | 新精度路径显著改变能效;小任务被 CPU / 专用加速器更便宜地完成;尾时延失守。 |
| 小型 / 量化 LLM 服务 | 权重、KV cache、运行空间均装得下;目标并发与上下文不过量;后端支持该 GPU。 | 同模型或同任务质量下的 $/成功请求;固定输入/输出长度、TTFT、TPOT、并发。token 只作辅助分母。 | 量化损失使任务失败或重试增加;KV 导致跨卡切分;旧卡缺少高效内核。[6] |
| 批量生成、评测、数据标注 | 可异步调度,有足够 backlog;人工验收标准和完成日期确定。 | $/被接受样本;包括拒收、重做、验证模型和人工成本。 | 更快的新平台更早交付有价值数据;旧平台输出质量或验收通过率更差。 |
| LoRA / 小规模微调与实验 | 训练状态、激活能容纳;实验对交付速度不敏感;检查点与软件可复现。 | $/达标训练作业;time-to-quality、重跑概率、工程师等待和实验周转。 | 较慢迭代损失高于硬件节省。QLoRA 说明容量门槛可下降,不证明旧卡单位经济更优。[7] |
| HPC / GPU 数据分析 | 现有代码依赖匹配的 FP64、内存容量或带宽;通信不是主瓶颈。 | $/正确求解或查询;数值精度、time-to-solution、全节点能耗。 | 新平台更少节点即可完成同任务;跨卡通信和 host 开销吞掉旧卡折扣。 |
| 视频转码与媒体流水线 | 逐 SKU 核查 codec、profile、位深和固定功能单元。T4 可作为 H.264/HEVC 候选;其 NVENC 不支持 AV1 编码。 | $/合格视频分钟;固定画质、码率、分辨率、并发及端到端时延。 | 需要 AV1 编码或新画质/码率目标。A100 没有 NVENC,不能因为是旧 GPU 就分配给硬件编码。[3] |
| 开发、CI、教学、备用容量 | 已有设备、替代出售价值较低;确有可量化的等待或中断损失可避免。 | 每次实验/测试成本,或备用带来的预期损失减少;单列闲置电力与支持成本。 | 低占用使专用成本高于按需租赁;平台版本分叉增加维护。低价不自动构成购买理由。 |
| 前沿训练 / 大模型低延迟服务 | 仅在旧系统仍满足容量、互连、可靠性与工期,并有足够大的成本折扣时进入候选。 | 训练 time-to-quality;服务同质量、同 SLO 的集群 goodput;按整个可部署系统计价。 | 为装下模型增加节点、通信或冗余,或者受限 MW 下吞吐不足。优先测新系统,但不预设赢家。 |
本表是待验证的工作负载筛选顺序,不是对某型号的收益保证。MLPerf 把场景、质量目标与性能指标分开定义;不同版本、模型、系统规模和精度的结果不能直接拼成“跨代倍数”。[1]
02 / THREE CLOCKS, FOUR GATES
一张新装机的旧代际 GPU,可能很年轻却已落后;一张较老的 GPU,也可能继续稳定完成固定任务。0–1、1–3、3–6、6+ 年可以用于分组观察,不能替代故障记录、健康状态和工作负载测量。
| 门槛 | 需要的证据 | 会改变成本的机制 |
|---|---|---|
| 容量与拓扑 | 权重 + KV / 激活 + 工作区 + 余量;按目标 batch、并发和上下文测峰值。 | 从单卡变为多卡,会同时改变 GPU 数、通信、host 和故障面。T4 的 16 GB 与 A100 的 40/80 GB 选型不能笼统当成一种“旧卡”。[2] [4] |
| 质量与服务水平 | 同一验收数据、模型版本或任务质量;时延尾部、排队、重试与失败率。 | 峰值 tokens/s 与忙碌率不是可收费或可用的产出。量化后必须重新验收。 |
| 软件与功能支持 | 框架、内核、驱动、工具链、codec 与安全修补路径的具体版本。 | CUDA 13.0 已移除对 Turing 之前架构的离线编译支持;旧应用不会因此立即停止运行,但 V100 等旧平台需要维护旧工具链路径。[5] |
| 运行健康与可交付性 | ECC/掉卡记录、热降频、部件供应、维修时间、整机功耗、网络与电力是否就绪。 | 实测故障、有效产出和维护成本分别进入模型。不能凭年龄指定一个“已验证”故障概率。 |
容量算术示例:8B 参数仅权重在 16-bit 下约为 16 GB(十进制),4-bit 原始权重约为 4 GB;两者都还没加入量化元数据、KV、激活和工作区。这是存储量估算,不是某 16 GB GPU 可以服务该模型的结论。
03 / THE ECONOMIC DECISION
原始购买价已经支付,不决定今天是否继续运行;但今天可获得的净转售收入是继续持有的机会成本。账面价值为零也不表示 GPU 免费。租赁报价的折旧、硬件转售价下降和会计折旧年限必须分别建模。
新卡若在相同有效利用率下有 3 倍合格吞吐,旧卡完整小时成本必须低于新卡的三分之一,才能取得更低单位成本。对单张长期占用设备,利用率也参与比较;对按作业计费的弹性租赁,要先把两边换成同一计费时间与工作量口径。
S₀ 为现在净转售收入;K 为新增现金投入;CF 为工作负载收入减经营现金成本;期末残值扣除交易成本。比较各 V,或统一减去 V出售 计算相对价值,不能只在某一路径扣机会成本。替换路径出售旧设备后只计新设备期末残值;内部避免成本与对外收入不重复计。所有路径使用共同期限,分别检查部署等待、故障与需求变化;若加入融资现金流,折现口径须一致。
固定 MW 会改变答案。先满足相同需求,再比较可交付的单位成本;有排队中的高价值业务时,还要比较净贡献/MW,并计入旧卡占用电力、机架和网络带来的机会损失。只有存在可兑现的替代用途,才给稀缺资源赋予额外机会成本;同一电力约束不要既通过替代现金流、又通过附加成本重复扣除。
04 / CHANGE THE ASSUMPTIONS
以下六个输入全部为合成示例,不对应 T4、A100、H100 或任何市场报价。输出单位可以是同口径 token、文档或其他验收单位;不能在一次比较中混用。
05 / FIVE INDEPENDENT TESTS
这些是本研究的分析方法,不是某位分析师对旧 GPU 的评级或观点,也不新增真实电话会问答或人物档案。
| 独立视角 | 关键问题与模型 | 财务传导 | 能改变判断的证据 |
|---|---|---|---|
| 付费需求 / F7、F10 | 哪些客户真的愿意持续买?按工作负载分组:收入 = 可计费小时 × 实收租价,或合格任务量 × 实收单价。 | 量价、续约、贡献利润;出租率与客户内部计算效率分开。 | 价格下降后利用率增加但收入、现金贡献仍下降;免费任务不能支撑残值。 |
| 技术替代 / F15、F18 | 同服务质量的完整成本比,是否仍低于有效产出比?比较相同需求及受限资源。 | 客户采购、份额、净 ASP、旧代际租价与新设备替换量。 | 新内核、容量或互连减少所需卡数;更高峰值性能本身不足以证明替代。 |
| 资本配置 / F20 | 继续持有的未来净现金流与残值,能否超过今天净售价?新购旧卡另加买价、安装与营运资金。 | 替换 CapEx 时点、自由现金流、回收期与再投资选择。 | 运行有正毛利,但 PV 低于转售价值;卖出并重新配置资金更优。 |
| 会计与现金 / F11 | 会计使用年限、工程可用期限和经济寿命是否被混为一谈? | 延长折旧年限可降低当期折旧、提高利润,却不会直接增加同额经营现金。税、出售损益另算。 | 利润改善仅来自折旧估计;租价、利用率、维护现金和替换需求未改善。 |
| 估值与证伪 / F12、F14、F21 | 按代际/投产批次建现金流,终值依赖仍付费的任务组合,不用统一“六年寿命”外推。 | 残值、维护/替换支出、自由现金流及估值持续期;债务再融资另外桥接。 | 旧群组净贡献衰减快于预期,或二手成交价扣除费用后低于残值假设。 |
对算力定价与调度的研究含义:租赁价格指数可以记录同 SKU、同配置、同 SLA 的租价衰减;工作负载路由可以寻找合格任务的成本边界;残值风险分析需要独立的硬件真实成交与处置数据。租赁价格可以提供信号,但不能直接当作二手硬件结算价格。
06 / HOW THE THESIS FAILS
延寿最强的解释:成熟工作负载增长,稳定的软件和已部署基础降低迁移成本;折扣与需求聚合足以补偿能效差距。替换最强的解释:同质量的有效产出/美元和产出/MW持续提升,旧卡被迫降价仍留不住有支付能力的需求,或者占用可用于更高回报业务的机房资源。
| 独立冲击 | 必须重算什么 | 常见误判 |
|---|---|---|
| 需求 2× | 并发与 KV、排队尾延迟、吞吐曲线、可调度工作量;需求已饱和时不能把利用率再翻倍。 | 需求增加必然延长旧卡经济寿命。它也可能迫使迁移到更高密度的平台。 |
| 新设备晚部署 | 等待期间旧卡的现金贡献、租入替代成本和迁移日期;保留共同评价期限。 | 把暂时的过渡价值当成永久技术优势。 |
| 融资更贵 / 续贷更难 | 新购成本、现金时点、债务期限、处置折价;企业生存能力与设备运营贡献分开。 | 旧卡正毛利足以覆盖整个平台的融资与更新成本。 |
| 新代际进入 | 旧卡租价、利用率、二手售价、支持和迁移分别冲击,再加入相关性情景。 | 假设各变量独立,或把某个代际降价百分比机械用于所有物理年龄。 |
未被有效需求占用的电力,不应直接套用满载稀缺溢价;有可执行、足够回报的替代部署时,机会成本才进入比较。按相同工作量计算所需设备,再比较等待期现金、迁移投入、残值与不同需求情景。阅读要点不等于完成独立判断。
07 / THE NEXT DISCRIMINATING EVIDENCE
下一轮建议选择:① 批量 embedding;② 受限上下文的小模型交互服务;③ 一项现有 CV、媒体或微调任务。每项选一套旧系统、一套候选新系统,并保留 CPU 或按需云对照。以下是研究安排建议,未表示测试已运行或已建立自动跟踪。
当前可下的结论:旧硬件的可持续需求来自一组经过验证的任务,而非泛化的“推理市场”。当前不可下的结论:某一 GPU 可统一使用多少年、租价会如何下降、残值是多少,或哪家公司的利润一定受益。
08 / EVIDENCE AND LIMITS
继承材料:GPU Lifecycle v1,2026-11-09 工作台;读取并确认仍为示例模型。本文新增工作负载筛选、现金流决策边界与合成计算器。未核验真实租赁成交、二手成交、维修群组数据或同质量跨代性能;未假定任何具体 GPU 的寿命、残值、回报或故障率。