ARCHITECTURE / 2015—2026
AI 基础设施研究文库
English
← 公司目录下载 PDF可编辑正文

Marvell AI 基础设施架构演进

2015-2026 | 2026-09-28

01 范围与核心判断

深入覆盖 OCTEON、Teralynx、光连接及存储/纵向扩展互联。历史 ThunderX CPU 覆盖至其转向定制方案。定制 XPU 仅采用公开的实现能力及客户关联。时间范围:2015 年至 2026 年 9 月 28 日。Celestial AI 与 XConn 均于 2026 年 2 月完成收购,因此纳入其收购前谱系。按相关性覆盖存储和安全控制器;企业接入交换及无线射频不作深入分析。

理解 Marvell 的关键,是其为计算提供数据搬移和芯片实现基础。CPU 历史之所以重要,是因为处理器及 SoC 能力重新出现在 DPU、近存加速与定制芯片中。光电连接产品覆盖从封装边界到数据中心互联的不同距离。架构问题在于:这些组件如何改变计算、内存及网络端点分离放置的成本,以及哪一层软件能利用这种自由度。

02 范围与数值口径

DPU 核心数不等于服务器 CPU 产品,近存加速器也不是通用 AI 训练 GPU。交换带宽、光模块容量、SerDes 通道速率及 CXL 有效载荷带宽描述不同资源。GT/s、编码后的 Gb/s 与有效 GB/s 分别保留。产品发布及送样目标不能证明量产可用。n/d 表示未确定字段,n/a 表示不适用。为未来活动宣布的演示,不作为已完成部署。

03 ThunderX:从商用 CPU 转向定制计算

ThunderX 源于 Cavium,后者于 2018 年并入 Marvell。ThunderX2 建立双插槽 Arm 服务器平台,并进入包括 Microsoft 内部 Azure 开发服务器在内的生产部署。ThunderX3 披露为 96 核、每核四线程、八通道 DDR4-3200 和 PCIe 4 的设计。随后战略声明转向超大规模客户定制方案。因此,2020 年 ThunderX3 披露记录为已公布/重新定位,不作为持续通用商用 CPU 路线图的证明。

架构解读:四路 SMT 增加可运行上下文数量,并不把内存通道或执行单元增加四倍。其收益取决于延迟隐藏、指令供给及干扰。买方比较时,不能把线程直接等同于单线程 Arm 核心。有价值的延续是缓存一致性网络、RAS 和存储系统能力,不意味着当前 OCTEON 核心与 ThunderX 采用同一微架构。

历史主机 CPU 谱系

代际/参考 SKU 代号 正式商用 状态 核心微架构 核心/线程 各裸片工艺 裸片/封装 每核 L2 L3/共享域 内存:通道;速率;GB/s 插槽/互联 PCIe/CXL TDP 向量/矩阵 ISA
ThunderX n/d 2015时期 历史已商用 Custom Armv8 n/d n/d n/d n/d n/d DDR4; n/d n/d n/d n/d Armv8
ThunderX2 n/d 2018时期 历史已商用 Custom Armv8 n/d n/d n/d n/d n/d DDR4; n/d 2; 链路 n/d n/d n/d Armv8
ThunderX3 n/d n/d 已公布/重新定位 Custom Armv8 96 / 384 TSMC 7P n/d n/d n/d 8 × DDR4-3200; 204.8 GB/s 1-2; 链路 n/d PCIe 4; 64 通道 n/d 4 × 128-bit Neon

04 OCTEON:基础设施执行与加速

OCTEON 的历史 MIPS 家族及后续 Arm 家族,面向包处理、安全和存储,而不是通用主机替代。OCTEON TX 与 TX2 把该基础设施谱系延伸到 Arm SoC。OCTEON10 转向 5 nm 和 Neoverse N2,把 CPU 执行与包处理、加密及机器学习引擎结合。平台白皮书描述围绕这些引擎构建的一致性缓存和存储系统,使其成为集成数据平面计算机,而非只有固定卸载功能的网卡。

集成 ML 引擎服务于在线或近数据推理,包括基础设施及网络负载;它的存在并不使 OCTEON 直接替代 HBM 训练加速器。OCTEON10 Fusion 增加面向无线接入的加速,属于 5G/vRAN 分支;MWC 披露可解释该分支,但不应主导 AI 数据中心主线。不同 SKU 的 CPU 数量、内存接口和端口配置必须分别处理,不能拼接成不存在的“最大规格设备”。

05 Teralynx:走向 AI 规模的交换架构

Teralynx 通过 Innovium 并入 Marvell,与其他交换家族互补。Teralynx7 提供 12.8 Tb/s 基线。Teralynx10 提升至 51.2 Tb/s,于 2024 年进入量产。2026 年 T100 发布描述单片 3 nm、102.4 Tb/s,并给出送样目标。低延迟、遥测和拥塞管理的重要性,在于训练作业产生同步突发流量,而不只是相互独立的云端数据流。

架构解读:单片交换机避免部分内部裸片间跨越,但仍受芯片周边接口、SerDes 与供电预算限制。更快交换机只有在端口配置匹配端点速率及上联需求时,才能减少网络层级。因此,与 Tomahawk 的有效比较,应是在固定流量矩阵下比较完整拓扑,包括小包速率、缓冲压力、拥塞响应和光模块功耗,而不是只比较一个聚合 Tb/s 标签。

06 光 DSP、CPO 与 Photonic Fabric

Marvell 光 DSP 演进包括 5 nm Nova 1.6T 平台、3 nm Ara 平台及后续针对不同用途的变体。2026 年连接披露增加 2 nm 演示及 Libra 等产品;截至本报告日期,ECOC 声明按已宣布演示记录。DSP 专用化源于数据中心内部与更远距离链路在距离、调制、均衡和功耗预算上的差异。仅发送端 DSP 改变的是模块分工,不是消除全部信号处理需求。

Celestial AI 在收购前于 Hot Chips 2025 披露 Photonic Fabric,目标是把光连接进一步推进到计算与存储附近。Marvell 于 2026 年 2 月 2 日完成收购。收购声明预计在更后面的财年产生收入贡献,因此不能因为交易完成,就把技术描述为已广泛部署。幻灯片提供架构方向与模块概念,不足以证明每种提出的内存配置都已成为商用产品。

架构解读:光互联解决距离和带宽密度问题,并不会使远端内存等同于本地 HBM。串行化、协议遍历、端点缓冲和软件放置仍然存在。光内存网络需要明确地址可见性、一致性、延迟、故障隔离与分配契约。电链路节省的功耗,必须与激光器、温控、封装良率及维修策略共同权衡。

07 Structera、Alaska P 与存储层次

Structera X 扩展内存,Structera A 增加近存计算。A 2504 披露把十六个 Neoverse V2 核心、四通道 DDR5-6400 与 CXL2.0/PCIe5 ×16 主机接口结合。这一区别非常关键:附加 DRAM 带宽可以超过主机链路,本地计算则不必把每个字节都送回 CPU。压缩可能减少可压缩数据的流量,但不是适用于所有负载的固定带宽倍增器。

XConn 于 2026 年 2 月 10 日完成收购,补充 PCIe/CXL 交换能力。后续 Structera S 发布包括 260 通道 PCIe6 交换机及 CXL 交换机,给出的送样目标为 2026 年第三季度。Alaska P 重定时器支持端点与交换机之间的电链路距离。重定时器、交换机、内存扩展器和近存处理器处于四个不同位置,把它们的标题带宽相加没有意义。

08 固定结构产品对照

DPU 与交换家族

产品 商用/里程碑 状态 类别 端口×速率 SerDes 主机接口 可编程引擎 嵌入式 CPU 板载内存 传输/RDMA 拥塞控制 主要卸载 功耗
OCTEON TX2 2020时期 历史已商用 DPU ≤200G datapath n/d n/d 包/加密引擎 12-36 Armv8 n/d Ethernet n/d 安全/存储 n/d
OCTEON10 2021 已公布 已商用/可获取 DPU 依 SKU 56G 级; 依 SKU PCIe 5 包/加密/ML Neoverse N2 DDR5;依 SKU Ethernet n/d 基础设施/在线 ML n/d
Teralynx7 pre-2021 历史已商用 交换机 12.8 Tb/s n/d n/a 交换流水线 n/d n/d Ethernet 遥测 L2/L3 n/d
Teralynx10 2024 量产/生产部署 已商用/可获取 交换机 51.2 Tb/s 100G 级 n/a 交换流水线 n/d n/d Ethernet 拥塞感知路由 L2/L3 / telemetry n/d
Teralynx T100 2026 送样目标 已公布;GA n/d 交换机 102.4 Tb/s n/d n/a 交换流水线 n/d n/d Ethernet AI 拥塞控制 BGA / CPC / CPO n/d

加速器边界

产品 架构 商用/里程碑 状态 工艺 裸片/封装 计算单元 稠密 BF16 稠密 FP8 稠密 FP6/FP4 FP64 向量/矩阵 内存:类型;堆栈;GB;TB/s 末级缓存/SRAM 纵向扩展:链路;单向 GB/s;域 主机连接 功耗/散热 形态
Structera A 2504 Near-memory Arm 计算 n/d 已公布;GA n/d 5 nm n/d 16 Neoverse V2 n/d n/d n/d n/d DDR5; 4 通道; 6400 MT/s; 204.8 GB/s n/d n/a CXL2.0 / PCIe5 ×16 n/d CXL 设备
客户定制 XPU 依客户 n/d 依客户项目 n/d n/d n/d n/d n/d n/d n/d n/d n/d n/d n/d n/d n/d

连接产品

互联 年份/代际 通道速率 每链路通道 每链路单向 GB/s 每设备链路 拓扑 域规模 一致性/语义
Alaska P 2024-2026 PCIe6: 64 GT/s 16 n/d n/d 重定时点对点 n/a 协议感知重定时器
Structera S PCIe 60260 2026 PCIe6: 64 GT/s 每交换机 260 通道 n/d n/d 交换式 PCIe n/d PCIe
Structera X / A 2024 PCIe5: 32 GT/s 16 ~63 扣除协议开销前 1 CXL 连接 n/d CXL 内存;非均匀延迟
Photonic Fabric 2025-2026 n/d n/d n/d n/d 光网络 n/d 依模块;不假定一致性

09 集成系统与软件

Marvell 定制芯片方案结合计算、封装与接口 IP,但客户项目不是公开商用加速器 SKU。与 NVIDIA 的合作建立了定制平台集成方向,并不证明所有定制 XPU 都使用 NVLink。因此,系统图展示功能接口,不构造虚假的纯 Marvell 机架。即使不执行模型层,存储控制器与加密引擎仍对数据输入、持久化和信任边界至关重要。

OCTEON 使用基础设施软件与加速 API,Teralynx 使用交换 SDK 及受支持的 SAI/SONiC 集成,CXL 产品依赖主机固件和操作系统内存管理。这些是不同软件契约。开放接口有助于集成,但不会自动解决放置、分页或故障隔离。近存计算还需要卸载机制,并实测搬移数据与搬移计算任务的收益交叉点。

2015-2020 集成角色

flowchart TD
  cpu["ThunderX / host CPU"]
  gpu["DDR4 / storage"]
  net["OCTEON / Ethernet"]
  sw["固件/SDK/操作系统"]
  opt["Electrical / pluggable optics"]
  cpu ---|"内存/CXL"| gpu
  cpu ---|"I/O"| net
  net ---|"链路"| opt
  sw ---|"控制"| net

第二阶段包含已公布及路线图组件,并非已交付机架物料清单。

2021-2026 集成角色

flowchart TD
  cpu["Customer CPU / XPU"]
  gpu["Structera A/X/S / DDR"]
  net["OCTEON10 / Teralynx"]
  sw["固件/SDK/操作系统"]
  opt["Alaska P / optical DSP / PF"]
  cpu ---|"内存/CXL"| gpu
  cpu ---|"I/O"| net
  net ---|"链路"| opt
  sw ---|"控制"| net

第二阶段包含已公布及路线图组件,并非已交付机架物料清单。

系统边界

平台 年份/里程碑 CPU/加速器数量 纵向扩展域 每加速器横向带宽 机架功耗 散热
伙伴/定制平台 2015-2026 依客户 n/d n/d n/d n/d

软件集成契约

层 接口 功能 边界
交换控制 SDK/受支持开放接口 转发与遥测 依 ASIC 实现
基础设施 固件/驱动/加速 API 包、存储与安全卸载 依 SKU 与平台
系统集成 主机软件及伙伴技术栈 资源与流量管理 不存在统一纯厂商 AI 框架

10 推导平衡与工程含义

推导带宽层次

资源 峰值计算 后果
ThunderX3 DRAM/核心 8×3200×8/1000/96 = 2.133 GB/s 按核心;非 SMT 线程
Structera A local DRAM 4×6400×8/1000 = 204.8 GB/s 本地内存控制器峰值
PCIe5 ×16 ~63 GB/s 每方向 已计编码;另扣包开销
本地 DRAM/主机链路比 204.8/63 ≈ 3.25 本地计算可避开主机链路瓶颈
定制 XPU HBM/FLOP/W n/d 客户规格未公开

最显著的跨代趋势是职责分离:主机计算、基础设施计算、近存计算及传输,分别获得专用芯片。这可以提高效率,也增加集成边界和故障域。内存扩展应作为具有延迟与带宽不对称性的层级评价,光纵向互联应作为包含端点及控制开销的系统评价。决定性测量是负载层面减少的流量、尾延迟、恢复行为和完整链路功耗,而不是孤立组件峰值。

11 会议索引与产品命名

披露映射

会议/活动 年份 论文/演讲/披露 报告人/作者 产品 证据类型 来源
Hot Chips 2020 ThunderX3 Marvell ThunderX3 厂商确认参会披露 E09 E08
Hot Chips 2025 Photonic Fabric Module Phil Winterbottom Celestial AI 架构;收购前 C01
ISSCC / VLSI 2022-2025 SerDes disclosures indexed by vendor Marvell SerDes IP 厂商索引;不泛化到全部产品 C02
OFC / company events 2023-2026 Optical DSP evolution Marvell Nova / Ara 实现平台/发布 E10 E14
ECOC 2026 2nm optical demonstrations Marvell Optical connectivity 已宣布;不推定活动已完成 E15

本版不声称当前 Marvell DPU 与交换机存在已核实的 ISCA/MICRO/HPCA/ASPLOS 产品论文链。会议重点相应转向 Hot Chips、ISSCC/VLSI 信号传输及 OFC/ECOC 集成。没有明确实现对应关系时,不能把 SerDes 测试芯片结果直接放入产品表。文末保留厂商会议索引作为研究线索,而不是代替逐篇阅读电路论文。

名称与角色

名称 谱系 角色
ThunderX Cavium → Marvell 历史服务器 CPU/转向定制
Teralynx Innovium → Marvell 数据中心交换机
Photonic Fabric Celestial AI → Marvell 光纵向互联平台
Structera S XConn integration PCIe/CXL 交换
Structera A / X Marvell 近存计算/扩展

实质缺口包括客户 XPU 计算规格、相匹配的 DPU 功耗/SKU 表、最新交换机的已确认量产状态,以及完整实测的光内存访问行为。公开信息足以重建产品方向,但不足以把某个定制 Marvell 加速器按稠密 BF16 或每瓦性能与 GPU 排名。此类比较需要具名客户系统及实际软件配置。

来源映射

01 范围与核心判断 — E04, E06, E07, E09, E11, P02

02 范围与数值口径 — E11, E12, E15, P01, P03

03 ThunderX:从商用 CPU 转向定制计算 — E08, E09, E17, P01, P05

04 OCTEON:基础设施执行与加速 — E01, P01, P02

05 Teralynx:走向 AI 规模的交换架构 — E02, E03, P03

06 光 DSP、CPO 与 Photonic Fabric — C01, E06, E10, E14, E15

07 Structera、Alaska P 与存储层次 — E07, E11, E12, E13, E16, P06

08 固定结构产品对照 — C01, E01, E02, E03, E04, E05, E06, E11, E12, E16, P01, P02, P03

09 集成系统与软件 — E03, E04, E05, E11, P02

10 推导平衡与工程含义 — C01, E04, E08, E11

11 会议索引与产品命名 — C01, C02, E03, E04, E05, E06, E07, E08, E09, E10, E11, E12, E13, E14, E15, P03

参考资料

产品与技术文档

[P01] OCTEON10 DPU platform whitepaper. https://www.marvell.com/content/dam/marvell/en/public-collateral/embedded-processors/marvell-octeon-10-dpu-platform-white-paper.pdf. 一手资料;访问截止 2026-09-28

[P02] Data processing units. https://www.marvell.com/products/data-processing-units.html. 一手资料;访问截止 2026-09-28

[P03] Teralynx switching portfolio. https://www.marvell.com/products/data-center-switches.html. 一手资料;访问截止 2026-09-28

[P05] Product selector guide July2020. https://www.marvell.com/content/dam/marvell/en/psg/marvell_psg.pdf. 一手资料;访问截止 2026-09-28

[P06] Structera CXL products. https://www.marvell.com/products/cxl.html. 一手资料;访问截止 2026-09-28

会议记录与实现披露

[C01] Celestial AI Photonic Fabric Module, Hot Chips2025. https://hc2025.hotchips.org/assets/program/conference/day2/76-Hotchips_25_Celestial_AI_v4.pdf. 一手资料;访问截止 2026-09-28

[C02] Custom AI investor event2025; SerDes conference index. https://www.marvell.com/content/dam/marvell/en/company/assets/marvell-custom-ai-investor-event-2025.pdf. 一手资料;访问截止 2026-09-28

发布、生态与部署

[E01] OCTEON10 introduction, 2021. https://www.marvell.com/company/newsroom/marvell-extends-octeon-leadership-industry-first-5nm-dpu.html. 一手资料;访问截止 2026-09-28

[E02] Teralynx10 51.2T production. https://www.marvell.com/company/newsroom/marvell-teralynx-512t-ethernet-switch-enters-volume-production-for-global-ai-cloud-deployments.html. 一手资料;访问截止 2026-09-28

[E03] Teralynx T100 102.4T. https://investor.marvell.com/news-events/press-releases/detail/1024/marvell-announces-availability-of-industrys-first-102-4-tbps-switch-purpose-built-for-ai-and-cloud-data-center-infrastructure. 一手资料;访问截止 2026-09-28

[E04] Accelerated infrastructure for the AI era, 2025. https://www.marvell.com/content/dam/marvell/en/company/assets/marvell-accelerated-infrastructure-for-the-ai-era-event.pdf. 一手资料;访问截止 2026-09-28

[E05] Custom AI infrastructure with NVIDIA. https://investor.marvell.com/news-events/press-releases/detail/97/marvell-and-nvidia-to-provide-custom-solutions-for-advanced-ai-infrastructure. 一手资料;访问截止 2026-09-28

[E06] Celestial AI acquisition completion. https://www.marvell.com/company/newsroom/marvell-completes-acquisition-of-celestial-ai.html. 一手资料;访问截止 2026-09-28

[E07] XConn acquisition completion. https://investor.marvell.com/news-events/press-releases/detail/1007/marvell-completes-acquisition-of-xconn-technologies. 一手资料;访问截止 2026-09-28

[E08] ThunderX3 architecture. https://www.marvell.com/blogs/the-next-generation-of-thunderx-delivers-performance-and-power-advantages-to-cloud-and-hpc-server-markets.html. 一手资料;访问截止 2026-09-28

[E09] ThunderX strategy change. https://www.marvell.com/blogs/arm-processors-in-the-data-center.html. 一手资料;访问截止 2026-09-28

[E10] Teralynx10 and Nova platform. https://investor.marvell.com/news-events/press-releases/detail/188/marvell-announces-cloud-optimized-51-2-tbps-networking-platform-for-aiml-and-data-center-networks. 一手资料;访问截止 2026-09-28

[E11] Structera A and X launch. https://www.marvell.com/company/newsroom/marvell-introduces-breakthrough-structera-cxl-product-line-to-address-server-memory-bandwidth-and-capacity-challenges-in-cloud-data-centers.html. 一手资料;访问截止 2026-09-28

[E12] Structera S PCIe6 260-lane switch. https://www.marvell.com/company/newsroom/marvell-260-lane-pcie-6-switch-ai-data-center-scale-up.html. 一手资料;访问截止 2026-09-28

[E13] Structera S CXL switch. https://investor.marvell.com/news-events/press-releases/detail/1017/marvell-launches-next-generation-cxl-switch-enabling-memory-pooling-to-break-through-the-ai-memory-wall. 一手资料;访问截止 2026-09-28

[E14] Optical DSP platform evolution. https://www.marvell.com/company/newsroom/marvell-1-6t-optical-dsp-ai-data-center-connectivity.html. 一手资料;访问截止 2026-09-28

[E15] ECOC2026 demonstration announcement. https://www.marvell.com/company/newsroom/marvell-industry-first-2nm-optical-technology-ai-data-center-infrastructure-ecoc-2026.html. 一手资料;访问截止 2026-09-28

[E16] Alaska P adoption. https://investor.marvell.com/news-events/press-releases/detail/1001/marvell-announces-adoption-of-its-pcie-retimers-by-leading-ai-and-data-center-infrastructure-providers. 一手资料;访问截止 2026-09-28

[E17] ThunderX2 deployment. https://www.marvell.com/company/newsroom/marvells-thunderx2-solution-now-deployed-for-microsoft-azure-development.html. 一手资料;访问截止 2026-09-28