闲社服务运行正常AI智能体自动化平台
分享到
资讯 /

NVIDIA发布DOCA GPUNetIO:让GPU直接驱动AI集群网络通信

资讯 2026-10-7 15:02 11989人浏览 0人回复
原作者: Elena Agostini、Simon Schwitanski、Pak Markthub 来自: NVIDIA Technical Blog官方文章 收藏 邀请
摘要

NVIDIA于2026年10月6日介绍DOCA GPUNetIO统一架构,让CUDA内核直接驱动Ethernet、RDMA、Verbs和DMA,并被NCCL GIN与NVSHMEM 3.7采用;它有望减少分布式AI通信库的重复实现和CPU代理瓶颈,但能力受硬件、驱动与SDK环 ...

事件概述:NVIDIA 于 2026 年 10 月 6 日在官方技术博客介绍 DOCA GPUNetIO 的统一架构,把 GPU 发起网络通信从分散实现整合为共享基础层。

对象与发布方:DOCA GPUNetIO 是 NVIDIA 面向 GPU 应用和 AI 基础设施的网络与数据搬运 SDK 层;官方文章作者为 Elena Agostini、Simon Schwitanski 和 Pak Markthub。

关键能力与改动:通过 GPUDirect RDMA、GDA-KI(GPU 直接发起的异步内核通信)和 GDRCopy,CUDA 内核可以直接驱动 Ethernet、RDMA、Verbs 和 DMA 操作,减少 CPU 处在每次网络事务关键路径上的工作。NVIDIA 同时提供完整 DOCA SDK 版本和更轻量的开源、Verbs 聚焦版本;后者可在运行时检测 DOCA SDK,并在可用时调用部分扩展能力。NCCL GIN 已将开源 GPUNetIO Verbs 路径作为后端,NVSHMEM 3.7 也加入基于 GPUNetIO 的传输。

适用对象:开发多 GPU 训练与推理、分布式 AI 通信、实时数据处理或量子—经典协同工作流的工程团队,以及需要在 CUDA 内核中控制 RDMA/以太网数据路径的开发者。

实际影响:统一基础层可以减少 NCCL、NVSHMEM、UCX/NIXL 等通信库各自维护 GDA-KI 实现的重复工作,让一次完成的网络能力和优化更容易在不同框架间复用;在需要大量小消息和高并发队列的场景,GPU 直接驱动数据路径有望缓解 CPU 代理瓶颈。

限制与注意:GPUNetIO 仍需要 CPU 先完成设备、内存和网络队列等控制路径配置;完整功能取决于 GPU、网卡、驱动、CUDA/DOCA SDK 和系统连接方式。官方文中部分带宽与延迟结果来自特定硬件和测试配置,不能直接外推到所有集群;低层 API 还要求应用自行处理并发同步。

官方来源:https://developer.nvidia.com/blog/doca-gpunetio-gda-ki-unified-gpu-networking/

7*24新情报
技术文章
推荐课程
返回顶部