一种用于自主内核调优的新型 AI 原生 GPU 内核编程语言
2025–2026 年间,由 LLM 驱动的自主内核调优器大量涌现,但在这些厂商库所针对的算子上——例如 Hopper GPU 上的 cuBLAS GEMM 或 cuSPARSELt 稀疏 GEMM——尚无一个能产生与厂商库相匹敌的内核。两个关键缺口解释了这一上限。第一,所有现有系统都在人类提供的骨架内调优参数,因此智能体无法探索架构层面的替代方案,例如 warp specialization、流水线拓扑或持久化模式。第二,这些系统所依赖的编程基底带来了叠加的障碍:每次迭代巨大的 token 占用、耦合的代码位置使单一结构变更扩散为大量零散编辑,以及当配置不可行时缺乏编译期反馈。本文提出首个 AI 原生 GPU 内核编程语言,与 AI 调优协同设计以弥合这两个缺口。在相同智能体、H800 GPU 和迭代预算下的六种 DSL 对比中,我们的方法是唯一一种其 AI 调优内核持续超越厂商库的编程基底,在 95 个生产形状上相对 cuBLAS、CUTLASS 和 cuSPARSELt 平均达到 1.23 ×。轨迹分析表明,突破源自结构性的内核发现(warp specialization、流水线分级、TMA),而非单纯的参数搜索,这得益于两条协同设计轴。语法–上下文协同设计使结构性编辑变得可行:解耦的原语产生每个特性最少的代码位置,将 token 占用降至同等表达力 DSL 的 1.6 × 以下,并将编译 pass@1 提升至 85.7%(pass@5 为 95.6%)。编译器–测试框架协同设计通过编译期剪枝和结构化诊断进一步放大这一点,在动态形状内核上保持 82.1% 的 pass@1(Triton 为 48%),在竞争 DSL 崩溃的中等容量模型下保持 82.3%(Triton 为 65.8%)。
@inproceedings{shi2026,
title = {{A Novel AI-Native GPU Kernel Programming Language for Autonomous Kernel Tuning}},
author = {Heng Shi and Xiaofeng Guan and Sijie Wu and Enming Fan and Chenpeng Wu and Qiqi Gu and Jiahang Xie and Guoqing Bao and Jianguo Yao},
booktitle = {SIGOPS ATC 2026: The 2026 ACM SIGOPS Annual Technical Conference},
year = 2026,
doi = {10.1145/3828523.3857041},
}