标签: #GPUDirect
用亲手运行、亲手测量的数据来写 Kubernetes、DevOps 与 MLOps · 1 篇
使用 RDMA 和 NCCL 解读 GPU 网络：InfiniBand、RoCE 与 Kubernetes 部署
本文梳理了 GPU 服务器内外通信层级与带宽的差异，阐述了 InfiniBand 与 RoCE v2 的区别、GPUDirect RDMA、NCCL 的工作原理与测试方法以及常见故障。最后，总结了 Kubernetes 中使用 RDMA 的组件，并将其与第六篇关于推理所需的 RDMA 场景联系起来。
2026-10-07 · 41 分钟阅读 #RDMA#InfiniBand#RoCE#NCCL#GPUDirect