闲社

标题: NVIDIA发布DOCA GPUNetIO：让GPU直接驱动AI集群网络通信 [打印本页]

作者: 毛子 时间: 1 小时前
标题: NVIDIA发布DOCA GPUNetIO：让GPU直接驱动AI集群网络通信
事件概述：NVIDIA于2026年10月6日在官方技术博客介绍DOCA GPUNetIO的统一架构，把GPU发起网络通信从分散实现整合为共享基础层。

对象与发布方：DOCA GPUNetIO是NVIDIA面向GPU应用和AI基础设施的网络与数据搬运SDK层；官方文章作者为Elena Agostini、Simon Schwitanski和Pak Markthub。

关键能力与改动：通过GPUDirect RDMA、GDA-KI（GPU直接发起的异步内核通信）和GDRCopy，CUDA内核可以直接驱动Ethernet、RDMA、Verbs和DMA操作，减少CPU处在每次网络事务关键路径上的工作。NVIDIA同时提供完整DOCA SDK版本和更轻量的开源、Verbs聚焦版本；后者可在运行时检测DOCA SDK，并在可用时调用部分扩展能力。NCCL GIN已将开源GPUNetIO Verbs路径作为后端，NVSHMEM 3.7也加入基于GPUNetIO的传输。

适用对象：开发多GPU训练与推理、分布式AI通信、实时数据处理或量子—经典协同工作流的工程团队，以及需要在CUDA内核中控制RDMA/以太网数据路径的开发者。

实际影响：统一基础层可以减少NCCL、NVSHMEM、UCX/NIXL等通信库各自维护GDA-KI实现的重复工作，让一次完成的网络能力和优化更容易在不同框架间复用；在需要大量小消息和高并发队列的场景，GPU直接驱动数据路径有望缓解CPU代理瓶颈。

限制与注意：GPUNetIO仍需要CPU先完成设备、内存和网络队列等控制路径配置；完整功能取决于GPU、网卡、驱动、CUDA/DOCA SDK和系统连接方式。官方文中部分带宽与延迟结果来自特定硬件和测试配置，不能直接外推到所有集群；低层API还要求应用自行处理并发同步。

官方来源：https://developer.nvidia.com/blog/doca-gpunetio-gda-ki-unified-gpu-networking/

欢迎光临闲社 (https://www.xianshe.com/)