Triton 例会速览2026-09-03NPOT 混合进制布局、TritonPPM 性能预测与 Proton Profiler 新特性【免费下载链接】tritonDevelopment repository for the Triton language and compiler项目地址: https://gitcode.com/GitHub_Trending/tri/triton本篇基于 Triton 项目 2026 年 9 月 3 日的社区双月例会纪要docs/meetups/09-03-2026/notes.md展开覆盖四个主题Meta 提出的混合进制mixed-radix线性布局扩展、TritonPPM 内核性能预测模型、Proton Profiler 的五个新特性以及即将举办的 Triton Developer Summit 信息。读完本篇你将理解 Triton 布局系统为何天然排斥非 2 的幂形状及其演进方向、性能预测工具如何在免编译前提下实现亚 3% 的遗憾率以及 Proton 在 CUDA 图、长任务连续剖析、AMD 平台 PC 采样等方面的落地能力。会议议程概览本次例会由四位讲者分享了四个议题讲者所属主题Ian BarberMeta混合进制线性布局扩展原生支持非 2 的幂NPOT形状Alexey LoginovMetaTriton Developer Summit10 月 19 日圣何塞活动通告Avik ChaudhuriMetaTritonPPM静态分析 XGBoost 的内核性能预测模型Keren ZhouOpenAIProton Profiler 五个新特性其中三个议题均为技术性较强的进展汇报下面逐一展开并尽量结合当前仓库中的源码与文档进行印证。非 2 的幂形状混合进制线性布局扩展核心问题线性布局建立在 2 的幂之上Triton 的线性布局Linear Layout, LL系统是描述数据在硬件位置线程、束、寄存器与逻辑张量索引之间映射关系的核心抽象。仓库中的 include/triton/Tools/LinearLayout.h 给出了完整的数学定义一个线性布局是一个从硬件位置元组到逻辑张量索引元组的线性函数其值域只需在若干基向量basis vectors即输入为 2 的幂处的取值上指定其余所有取值都通过线性规则按位异或组合基向量得到。关键的数学背景是该映射定义在GF(2)域上元素只有 0 和 1加法为 xor乘法为 and这意味着布局的每个输入/输出维度大小必然以2 的幂为粒度。在实现上lib/Tools/LinearLayout.cpp 中维度大小通过getInDimSizeLog2/getOutDimSizeLog2内部调用llvm::Log2_32以log2 位数的形式存储进一步印证了系统从底层就是按 2 的幂构建的。由此产生了纪要中描述的现实痛点形状如96 32 × 3这类非 2 的幂形状目前要么填充padding到下一个 2 的幂如 96 → 128浪费约 25% 的槽位要么手动分解如 192 → 3 × 64成多个 2 的幂块。这两种方案都会引入额外的寄存器/共享内存开销或不必要的指令。混合进制思路用 radix 3/5/7/9 替换全二进制基Ian 的方案是将线性布局推广到混合进制算术mixed-radix arithmetic不再要求所有基都是 2 的幂而是允许某个寄存器维度使用基数 3乃至 5、7、9。这样布局可以直接精确表示 96 32 × 3 这类形状不浪费任何槽位也无需 padding 或分解。从数学上看这相当于把 GF(2) 上的向量空间推广到混合基数系统原本每个基向量对应输入坐标的一个二进制位扩展后输入坐标的某一段改用 3 进制或 5/7/9 进制位表示线性组合规则相应推广。笔记同时指出收益更多体现在减少内存搬移而非计算量节省上——NPOT 形状减少了 padding 造成的无效数据搬运并且 autotuner 仍会保留 2 的幂变体参与比较因为某些场景下 2 的幂形状反而更快最终由自动调优来裁决。实现挑战布局有效性证明混合进制推广面临的核心工程难题是混合进制代数在一般情形下不是封闭的。原本基于 GF(2) 的线性规则xor 组合基向量保证了组合结果始终落在合法值域内引入 3/5/7/9 进制后组合运算可能产生越界或不满足布局约束的结果无法再自动保证布局仍然有效。因此必须在整条变换管线中逐步证明布局有效性一旦证明失败回退方案仍然是 padding。这解释了为何该特性需要较长的时间线才能逐步落地。当前状态与路线图纪要给出了该特性在 Meta 内部 fbtriton 分支中的推进状态当前可用tl.arange、逐元素操作elementwise ops、load/store、wave-quant 自动调优候选未来数周落地精确乘积布局exact product layouts、归约/扫描reductions/scans、WGMMA、BlackwellTCGen05/MMAv5支持开关方式目前通过环境变量TRITON_ALLOW_NPOT1门控。需要说明的是该特性当前在 Meta 的 fbtriton fork 中尚未合入本仓库主线主线代码中暂时搜不到TRITON_ALLOW_NPOT的实际实现只有例会笔记中的描述。作为背景补充include/triton/Tools/LinearLayout.h 在与 NVIDIA CuTe 的对比中明确写道 CuTe layouts support non-power-of-two shapes; LLs do not——即当前主线的线性布局尚不支持非 2 的幂形状而这也正是本次演讲所针对的空白。tl.arange的 Python 侧入口可参见 python/triton/language/core.py 中的arange定义。Triton Developer Summit10 月 19 日Alexey Loginov 通报了 Triton 开发者峰会的安排时间地点10 月 19 日圣何塞会议中心San Jose Convention Center紧邻 10 月 20–21 日的 PyTorch Conference费用免费参加注册现已开放由 NVIDIA 与组织方合作举办包含早餐、午餐与欢乐时光happy hour议程正在最终确定预计 9 月 3–4 日即本次会议后一到两天发布初稿规划约 8 场完整演讲、约 5 场闪电演讲lightning talks以及包含 Ian 和 Avik 工作在内的海报展示。该议题属于社区活动通告无仓库源码层面的实现细节仅如实转述。TritonPPM静态分析 XGBoost 的内核性能预测工作原理一次静态分析 每配置廉价求值TritonPPM 的目标是不经过编译即可预测 Triton 内核在不同配置下的性能。其工作流程分两阶段静态分析每个内核只做一次对内核源码运行静态分析产出符号化公式描述每个块的各类工作量指标包括加载/存储的字节数、浮点运算量flops、寄存器/溢出spill估算、共享内存用量、依赖/流水线dependency/pipelining特征逐配置求值 机器学习针对每个候选配置以极低成本对上述公式求值得到特征向量再送入XGBoost模型预测性能。这种公式生成一次、求值无数次的设计是把编译器前端分析能力与机器学习预测能力结合起来的典型方案。训练与验证方法训练数据取自 Triton 教程和 TritonBench 的100 个内核在B200上基准测试得到250K 次 launch 实例泛化验证采用留一内核交叉验证leave-one-kernel-out即每次剔除一个完整内核来测试模型对未见内核的预测能力比随机切分数据更能反映真实泛化性能。关键结果指标数值Spearman 相关系数各内核类型0.96 – 0.99k*达到零遗憾所需的最少候选数均值 / p509.8 / 1top-10 平均遗憾mean regret2.8%top-10 零遗憾问题占比82.5%只探索 5% 配置空间时的零遗憾占比83.1%所谓遗憾regret指预测选出的最佳配置相对真实最佳配置的性能差距零遗憾即预测命中真实最优。82.5% 的问题在 top-10 内即可零遗憾命中说明模型排序质量很高。速度与重训练成本公式生成每个内核约500ms一次性成本特征求值每 1K 配置 100ms冷启动约 5K 配置的完整预测流程 1 秒。这正是预测而非编译的价值所在——传统 autotuner 需要对每个候选配置实际编译并运行基准测试而 TritonPPM 把这一过程压缩到亚秒级。关于跨硬件迁移纪要明确两点换新 GPU 需要重新采集基准数据并重训模型但训练只需约 10 分钟静态分析产出的符号公式本身跨硬件变化不大无需大改。后续计划发布包含完整静态分析细节的论文开发TLX 扩展提供显式的寄存器/本地内存控制与Inductor和TritonParse集成考虑上游合入 Tritonupstreaming。Proton Profiler 五个新特性第四个议题由 OpenAI 的 Keren Zhou 带来围绕 Proton 剖析器位于 third_party/proton的五个新能力展开。Proton 的文档体系可参见 third_party/proton/docs/README.md以下结合仓库文档逐一解读。1. CUDA Graph 剖析CUDA 图CUDA graph的 kernel launch 发生在图回放阶段常规剖析器难以把回放中的每个 kernel 归因回其捕获点。Proton 的做法是通过 scope API 让用户标注回放调用点从而把每次 kernel launch 关联回捕获位置并为每个调用点call-site携带独立指标——纪要明确指出这是PyTorch Profiler 做不到的。仓库文档 third_party/proton/docs/advanced.md 给出了完整的用法在torch.cuda.graph(graph)捕获区域外层加proton.scope回放时被标注的区域会出现在调用路径中且路径里会出现特殊的captured_at帧例如graph_replay - captured_at - captured_region - kernel_namescope 中的灵活指标flexible metrics与 launch 元数据会像普通 launch 一样按图回放聚合。注意使用 CUDA 图场景时需在捕获前启动proton.start(...)如需 launch 元数据可搭配hooktriton见 third_party/proton/docs/periodic-profiling.md 中的图回放示例。2. 连续剖析长任务场景连续剖析针对的是运行数小时到数周的长任务。其设计要点把执行切分为用户定义的阶段phase每个阶段结束时把数据刷写flush到磁盘而不是在内存中无限累积开销控制在1–2%在较新的 NVIDIA GPU 上可低于 1%同时支持后台自动刷写与手动异步/同步数据拷贝。仓库中periodic_flushing模式的完整实现文档位于 third_party/proton/docs/periodic-profiling.md关键用法如下import triton.profiler as proton session proton.start( train_profile, modeperiodic_flushing:formathatchet, ) for step in range(num_steps): with proton.scope(fstep_{step}): train_step() if (step 1) % 100 0: phase proton.data.advance_phase(session) print(fadvanced to phase {phase}) proton.finalize(session)配套要点会话默认从阶段0开始proton.data.advance_phase(session)推进阶段并返回新阶段号已完成的阶段按profile_path.part_phase.format命名输出例如train_profile.part_0.hatchet支持hatchetJSON、hatchet_msgpack、chrome_trace三种输出格式刷写完成后对应阶段会从内存数据存储中清除从而把内存占用限制在界内底层 GPU activity 缓冲区大小由TRITON_PROFILE_BUFFER_SIZE或 Python knobtriton.knobs.proton.profile_buffer_size默认 67108864 字节控制内存态阶段读取 API 包括proton.data.is_phase_complete、proton.data.get/get_msgpack、proton.data.clear支持clear_up_to_phaseTrue批量清理诊断开关PROTON_DATA_FLUSH_TIMING1可打印阶段序列化、文件写入、清理等耗时。3. 异步剖析事件Proton 新增不透明异步事件opaque async events可在循环、函数以及 warp 特化区域之间传递用于度量cp.async、tcgen05等异步操作。事件在 trace 视图中会建立生产者—消费者producer-consumer关系从而把异步操作的发起与其实际完成/消费点在时间线上正确关联起来。这是对异步流水线内核如 TMA、异步拷贝路径进行精确归因的基础能力。4. 第三方设备支持此前 Proton 的剖析后端主要绑定在 NVIDIACUPTI与 AMDrocprofiler/roctracer之上。新特性允许树外out-of-treeTriton 后端通过一个 CMake 文件加一个自定义剖析后端来注册 Proton 插件无需改动 Proton 其余部分。third_party/proton/docs/advanced.md 给出了插件的标准结构在插件目录中新增proton/子目录内含CMakeLists.txt与实现文件使用 Proton 的 CMake 辅助函数注册add_proton_backend(MyBackend MyBackendNamespace MyBackendSourceFile.cpp ) add_proton_device_type(MY_DEVICE) add_proton_backend_external_lib(MyProfilingApi)实现文件在指定命名空间内导出registerProtonBackend()返回由ProfilerRegistration、DeviceRegistration、RuntimeRegistration组成的注册结构且每个字段都可选——后端只需注册它支持的扩展点。文档建议新后端参照现有CuptiProfiler与RoctracerProfiler的模式实现回调关联、runtime 事件与指标插入。5. AMD GPU 上的 PC 采样PC 采样程序计数器采样用于获取指令级热点与 stall 分布此前在 NVIDIA 平台广为人知本次宣布在 AMD GPU 上也可用。Keren 与 AMD 团队在夏季合作稳定了 ROCm 软件栈现已能提供逐行指令样本计数与stall 分解。third_party/proton/docs/backends-and-modes.md 详细说明了 AMD 侧 PC 采样的配置方式包括通过backendrocprofilermodepcsampling启用采样间隔可用PROTON_PC_SAMPLING_INTERVAL配置可选正整数默认 131072rocprofiler-sdk 会把请求值钳制到 GPU 支持的范围内更小值产生更多样本但开销更大更大值反之默认优先随机采样stochastic回退到host-trap采样可用PROTON_ROCPROFILER_PC_SAMPLING_METHOD强制指定其一源行归因需要构建中的 rocprofiler-sdk 支持 code-object 地址翻译且被采样代码对象含可用 DWARF 行信息否则样本退化为内核级归因Proton 会在后端配置阶段就启用 rocprofiler-sdk 的 PC 采样特性因为 SDK 在会话开始前锁定配置若用户已设置ROCPROFILER_PC_SAMPLING_BETA_ENABLED则保留用户值。小结本次例会勾勒出 Triton 生态三个方向的演进布局系统从2 的幂专用走向混合进制以消灭 padding 浪费但仍需在变换管线中解决混合进制代数不封闭带来的有效性证明难题性能工程TritonPPM 以静态分析 XGBoost开辟了免编译的性能预测路径亚秒级冷启动与 3% 遗憾率的组合使其有望成为 autotuner 的加速前置步骤可观测性Proton 覆盖了 CUDA 图、长任务连续剖析、异步事件、第三方后端与 AMD PC 采样五个维度使剖析能力与日益复杂的现代 GPU 工作负载图回放、异步流水线、多后端对齐。对希望深入研究的读者建议结合以下仓库路径交叉阅读混合进制布局的背景对应 include/triton/Tools/LinearLayout.h 与 lib/Tools/LinearLayout.cppProton 各特性的用法与参数细节见 third_party/proton/docs/advanced.md、third_party/proton/docs/backends-and-modes.md 与 third_party/proton/docs/periodic-profiling.md。本次会议官方提供了录制回放链接见原纪要 notes.md 末尾的 Recording 一节。【免费下载链接】tritonDevelopment repository for the Triton language and compiler项目地址: https://gitcode.com/GitHub_Trending/tri/triton创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 Triton 例会速览（2026-09-03）：NPOT 混合进制布局、TritonPPM 性能预测与 Proton Profiler 新特性
Triton 例会速览2026-09-03NPOT 混合进制布局、TritonPPM 性能预测与 Proton Profiler 新特性【免费下载链接】tritonDevelopment repository for the Triton language and compiler项目地址: https://gitcode.com/GitHub_Trending/tri/triton本篇基于 Triton 项目 2026 年 9 月 3 日的社区双月例会纪要docs/meetups/09-03-2026/notes.md展开覆盖四个主题Meta 提出的混合进制mixed-radix线性布局扩展、TritonPPM 内核性能预测模型、Proton Profiler 的五个新特性以及即将举办的 Triton Developer Summit 信息。读完本篇你将理解 Triton 布局系统为何天然排斥非 2 的幂形状及其演进方向、性能预测工具如何在免编译前提下实现亚 3% 的遗憾率以及 Proton 在 CUDA 图、长任务连续剖析、AMD 平台 PC 采样等方面的落地能力。会议议程概览本次例会由四位讲者分享了四个议题讲者所属主题Ian BarberMeta混合进制线性布局扩展原生支持非 2 的幂NPOT形状Alexey LoginovMetaTriton Developer Summit10 月 19 日圣何塞活动通告Avik ChaudhuriMetaTritonPPM静态分析 XGBoost 的内核性能预测模型Keren ZhouOpenAIProton Profiler 五个新特性其中三个议题均为技术性较强的进展汇报下面逐一展开并尽量结合当前仓库中的源码与文档进行印证。非 2 的幂形状混合进制线性布局扩展核心问题线性布局建立在 2 的幂之上Triton 的线性布局Linear Layout, LL系统是描述数据在硬件位置线程、束、寄存器与逻辑张量索引之间映射关系的核心抽象。仓库中的 include/triton/Tools/LinearLayout.h 给出了完整的数学定义一个线性布局是一个从硬件位置元组到逻辑张量索引元组的线性函数其值域只需在若干基向量basis vectors即输入为 2 的幂处的取值上指定其余所有取值都通过线性规则按位异或组合基向量得到。关键的数学背景是该映射定义在GF(2)域上元素只有 0 和 1加法为 xor乘法为 and这意味着布局的每个输入/输出维度大小必然以2 的幂为粒度。在实现上lib/Tools/LinearLayout.cpp 中维度大小通过getInDimSizeLog2/getOutDimSizeLog2内部调用llvm::Log2_32以log2 位数的形式存储进一步印证了系统从底层就是按 2 的幂构建的。由此产生了纪要中描述的现实痛点形状如96 32 × 3这类非 2 的幂形状目前要么填充padding到下一个 2 的幂如 96 → 128浪费约 25% 的槽位要么手动分解如 192 → 3 × 64成多个 2 的幂块。这两种方案都会引入额外的寄存器/共享内存开销或不必要的指令。混合进制思路用 radix 3/5/7/9 替换全二进制基Ian 的方案是将线性布局推广到混合进制算术mixed-radix arithmetic不再要求所有基都是 2 的幂而是允许某个寄存器维度使用基数 3乃至 5、7、9。这样布局可以直接精确表示 96 32 × 3 这类形状不浪费任何槽位也无需 padding 或分解。从数学上看这相当于把 GF(2) 上的向量空间推广到混合基数系统原本每个基向量对应输入坐标的一个二进制位扩展后输入坐标的某一段改用 3 进制或 5/7/9 进制位表示线性组合规则相应推广。笔记同时指出收益更多体现在减少内存搬移而非计算量节省上——NPOT 形状减少了 padding 造成的无效数据搬运并且 autotuner 仍会保留 2 的幂变体参与比较因为某些场景下 2 的幂形状反而更快最终由自动调优来裁决。实现挑战布局有效性证明混合进制推广面临的核心工程难题是混合进制代数在一般情形下不是封闭的。原本基于 GF(2) 的线性规则xor 组合基向量保证了组合结果始终落在合法值域内引入 3/5/7/9 进制后组合运算可能产生越界或不满足布局约束的结果无法再自动保证布局仍然有效。因此必须在整条变换管线中逐步证明布局有效性一旦证明失败回退方案仍然是 padding。这解释了为何该特性需要较长的时间线才能逐步落地。当前状态与路线图纪要给出了该特性在 Meta 内部 fbtriton 分支中的推进状态当前可用tl.arange、逐元素操作elementwise ops、load/store、wave-quant 自动调优候选未来数周落地精确乘积布局exact product layouts、归约/扫描reductions/scans、WGMMA、BlackwellTCGen05/MMAv5支持开关方式目前通过环境变量TRITON_ALLOW_NPOT1门控。需要说明的是该特性当前在 Meta 的 fbtriton fork 中尚未合入本仓库主线主线代码中暂时搜不到TRITON_ALLOW_NPOT的实际实现只有例会笔记中的描述。作为背景补充include/triton/Tools/LinearLayout.h 在与 NVIDIA CuTe 的对比中明确写道 CuTe layouts support non-power-of-two shapes; LLs do not——即当前主线的线性布局尚不支持非 2 的幂形状而这也正是本次演讲所针对的空白。tl.arange的 Python 侧入口可参见 python/triton/language/core.py 中的arange定义。Triton Developer Summit10 月 19 日Alexey Loginov 通报了 Triton 开发者峰会的安排时间地点10 月 19 日圣何塞会议中心San Jose Convention Center紧邻 10 月 20–21 日的 PyTorch Conference费用免费参加注册现已开放由 NVIDIA 与组织方合作举办包含早餐、午餐与欢乐时光happy hour议程正在最终确定预计 9 月 3–4 日即本次会议后一到两天发布初稿规划约 8 场完整演讲、约 5 场闪电演讲lightning talks以及包含 Ian 和 Avik 工作在内的海报展示。该议题属于社区活动通告无仓库源码层面的实现细节仅如实转述。TritonPPM静态分析 XGBoost 的内核性能预测工作原理一次静态分析 每配置廉价求值TritonPPM 的目标是不经过编译即可预测 Triton 内核在不同配置下的性能。其工作流程分两阶段静态分析每个内核只做一次对内核源码运行静态分析产出符号化公式描述每个块的各类工作量指标包括加载/存储的字节数、浮点运算量flops、寄存器/溢出spill估算、共享内存用量、依赖/流水线dependency/pipelining特征逐配置求值 机器学习针对每个候选配置以极低成本对上述公式求值得到特征向量再送入XGBoost模型预测性能。这种公式生成一次、求值无数次的设计是把编译器前端分析能力与机器学习预测能力结合起来的典型方案。训练与验证方法训练数据取自 Triton 教程和 TritonBench 的100 个内核在B200上基准测试得到250K 次 launch 实例泛化验证采用留一内核交叉验证leave-one-kernel-out即每次剔除一个完整内核来测试模型对未见内核的预测能力比随机切分数据更能反映真实泛化性能。关键结果指标数值Spearman 相关系数各内核类型0.96 – 0.99k*达到零遗憾所需的最少候选数均值 / p509.8 / 1top-10 平均遗憾mean regret2.8%top-10 零遗憾问题占比82.5%只探索 5% 配置空间时的零遗憾占比83.1%所谓遗憾regret指预测选出的最佳配置相对真实最佳配置的性能差距零遗憾即预测命中真实最优。82.5% 的问题在 top-10 内即可零遗憾命中说明模型排序质量很高。速度与重训练成本公式生成每个内核约500ms一次性成本特征求值每 1K 配置 100ms冷启动约 5K 配置的完整预测流程 1 秒。这正是预测而非编译的价值所在——传统 autotuner 需要对每个候选配置实际编译并运行基准测试而 TritonPPM 把这一过程压缩到亚秒级。关于跨硬件迁移纪要明确两点换新 GPU 需要重新采集基准数据并重训模型但训练只需约 10 分钟静态分析产出的符号公式本身跨硬件变化不大无需大改。后续计划发布包含完整静态分析细节的论文开发TLX 扩展提供显式的寄存器/本地内存控制与Inductor和TritonParse集成考虑上游合入 Tritonupstreaming。Proton Profiler 五个新特性第四个议题由 OpenAI 的 Keren Zhou 带来围绕 Proton 剖析器位于 third_party/proton的五个新能力展开。Proton 的文档体系可参见 third_party/proton/docs/README.md以下结合仓库文档逐一解读。1. CUDA Graph 剖析CUDA 图CUDA graph的 kernel launch 发生在图回放阶段常规剖析器难以把回放中的每个 kernel 归因回其捕获点。Proton 的做法是通过 scope API 让用户标注回放调用点从而把每次 kernel launch 关联回捕获位置并为每个调用点call-site携带独立指标——纪要明确指出这是PyTorch Profiler 做不到的。仓库文档 third_party/proton/docs/advanced.md 给出了完整的用法在torch.cuda.graph(graph)捕获区域外层加proton.scope回放时被标注的区域会出现在调用路径中且路径里会出现特殊的captured_at帧例如graph_replay - captured_at - captured_region - kernel_namescope 中的灵活指标flexible metrics与 launch 元数据会像普通 launch 一样按图回放聚合。注意使用 CUDA 图场景时需在捕获前启动proton.start(...)如需 launch 元数据可搭配hooktriton见 third_party/proton/docs/periodic-profiling.md 中的图回放示例。2. 连续剖析长任务场景连续剖析针对的是运行数小时到数周的长任务。其设计要点把执行切分为用户定义的阶段phase每个阶段结束时把数据刷写flush到磁盘而不是在内存中无限累积开销控制在1–2%在较新的 NVIDIA GPU 上可低于 1%同时支持后台自动刷写与手动异步/同步数据拷贝。仓库中periodic_flushing模式的完整实现文档位于 third_party/proton/docs/periodic-profiling.md关键用法如下import triton.profiler as proton session proton.start( train_profile, modeperiodic_flushing:formathatchet, ) for step in range(num_steps): with proton.scope(fstep_{step}): train_step() if (step 1) % 100 0: phase proton.data.advance_phase(session) print(fadvanced to phase {phase}) proton.finalize(session)配套要点会话默认从阶段0开始proton.data.advance_phase(session)推进阶段并返回新阶段号已完成的阶段按profile_path.part_phase.format命名输出例如train_profile.part_0.hatchet支持hatchetJSON、hatchet_msgpack、chrome_trace三种输出格式刷写完成后对应阶段会从内存数据存储中清除从而把内存占用限制在界内底层 GPU activity 缓冲区大小由TRITON_PROFILE_BUFFER_SIZE或 Python knobtriton.knobs.proton.profile_buffer_size默认 67108864 字节控制内存态阶段读取 API 包括proton.data.is_phase_complete、proton.data.get/get_msgpack、proton.data.clear支持clear_up_to_phaseTrue批量清理诊断开关PROTON_DATA_FLUSH_TIMING1可打印阶段序列化、文件写入、清理等耗时。3. 异步剖析事件Proton 新增不透明异步事件opaque async events可在循环、函数以及 warp 特化区域之间传递用于度量cp.async、tcgen05等异步操作。事件在 trace 视图中会建立生产者—消费者producer-consumer关系从而把异步操作的发起与其实际完成/消费点在时间线上正确关联起来。这是对异步流水线内核如 TMA、异步拷贝路径进行精确归因的基础能力。4. 第三方设备支持此前 Proton 的剖析后端主要绑定在 NVIDIACUPTI与 AMDrocprofiler/roctracer之上。新特性允许树外out-of-treeTriton 后端通过一个 CMake 文件加一个自定义剖析后端来注册 Proton 插件无需改动 Proton 其余部分。third_party/proton/docs/advanced.md 给出了插件的标准结构在插件目录中新增proton/子目录内含CMakeLists.txt与实现文件使用 Proton 的 CMake 辅助函数注册add_proton_backend(MyBackend MyBackendNamespace MyBackendSourceFile.cpp ) add_proton_device_type(MY_DEVICE) add_proton_backend_external_lib(MyProfilingApi)实现文件在指定命名空间内导出registerProtonBackend()返回由ProfilerRegistration、DeviceRegistration、RuntimeRegistration组成的注册结构且每个字段都可选——后端只需注册它支持的扩展点。文档建议新后端参照现有CuptiProfiler与RoctracerProfiler的模式实现回调关联、runtime 事件与指标插入。5. AMD GPU 上的 PC 采样PC 采样程序计数器采样用于获取指令级热点与 stall 分布此前在 NVIDIA 平台广为人知本次宣布在 AMD GPU 上也可用。Keren 与 AMD 团队在夏季合作稳定了 ROCm 软件栈现已能提供逐行指令样本计数与stall 分解。third_party/proton/docs/backends-and-modes.md 详细说明了 AMD 侧 PC 采样的配置方式包括通过backendrocprofilermodepcsampling启用采样间隔可用PROTON_PC_SAMPLING_INTERVAL配置可选正整数默认 131072rocprofiler-sdk 会把请求值钳制到 GPU 支持的范围内更小值产生更多样本但开销更大更大值反之默认优先随机采样stochastic回退到host-trap采样可用PROTON_ROCPROFILER_PC_SAMPLING_METHOD强制指定其一源行归因需要构建中的 rocprofiler-sdk 支持 code-object 地址翻译且被采样代码对象含可用 DWARF 行信息否则样本退化为内核级归因Proton 会在后端配置阶段就启用 rocprofiler-sdk 的 PC 采样特性因为 SDK 在会话开始前锁定配置若用户已设置ROCPROFILER_PC_SAMPLING_BETA_ENABLED则保留用户值。小结本次例会勾勒出 Triton 生态三个方向的演进布局系统从2 的幂专用走向混合进制以消灭 padding 浪费但仍需在变换管线中解决混合进制代数不封闭带来的有效性证明难题性能工程TritonPPM 以静态分析 XGBoost开辟了免编译的性能预测路径亚秒级冷启动与 3% 遗憾率的组合使其有望成为 autotuner 的加速前置步骤可观测性Proton 覆盖了 CUDA 图、长任务连续剖析、异步事件、第三方后端与 AMD PC 采样五个维度使剖析能力与日益复杂的现代 GPU 工作负载图回放、异步流水线、多后端对齐。对希望深入研究的读者建议结合以下仓库路径交叉阅读混合进制布局的背景对应 include/triton/Tools/LinearLayout.h 与 lib/Tools/LinearLayout.cppProton 各特性的用法与参数细节见 third_party/proton/docs/advanced.md、third_party/proton/docs/backends-and-modes.md 与 third_party/proton/docs/periodic-profiling.md。本次会议官方提供了录制回放链接见原纪要 notes.md 末尾的 Recording 一节。【免费下载链接】tritonDevelopment repository for the Triton language and compiler项目地址: https://gitcode.com/GitHub_Trending/tri/triton创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考