后端优化#

Triton 启动参数和合适的分块大小取决于设备与编译器。先了解目标后端的硬件结构和编译参数,再按FlagGems 调优流程测量实际业务形状。

  • Ascend:AI Core 的计算与存储路径、Triton-Ascend 参数和 NPU 调优。
  • Hygon:DCU/HIP 存储层次、Triton 启动参数和分块调优。

文中的配置是候选值;应用到目标设备和已安装的编译器前,应验证数值正确性与耗时。