闲社

标题: PyTorch Helion把编译器控制参数纳入联合调优：CompileIQ生成ACF供搜索 [打印本页]

作者: myhotmail 时间: 1 小时前
标题: PyTorch Helion把编译器控制参数纳入联合调优：CompileIQ生成ACF供搜索
PyTorch博客10月19日刊出一篇由NVIDIA与Meta作者共同撰写的技术文章，介绍如何把PTXAS编译器控制参数与Helion内核配置放进同一轮自动调优。Helion原有调优器会搜索tile大小、warp数量等配置；文章称，NVIDIA CompileIQ可搜索PTXAS高级控制，并将结果打包为可版本管理的Advanced Control File（ACF）。

工作流有两种：为已经选定的内核配置固定一个已验证的ACF，或把多个ACF候选交给Helion调优器，与内核参数一起搜索。联合搜索的理由是两类参数会相互影响，例如寄存器分配、占用率与调度表现；先后分开调优可能错过组合。文章给出的示例中，CompileIQ在GB200上优化一个已经预调优的NVFP4 GEMV内核，独立复测约有4.7%加速；作者也展示了其他目标指标和多形状实验。

这不是对所有模型或GPU都有效的性能承诺：结果依赖具体内核、形状、架构与工具链，ACF也与硬件及CUDA版本相关。联合搜索会增加编译和测量次数，文章建议对重要内核离线搜索，再固定胜出的ACF，而不是为整个代码库默认开启。来源：PyTorch官方技术博客。

欢迎光临闲社 (https://www.xianshe.com/)