metax-maca3.8.1.3

前置条件 link

• 架构: x86_64
• 芯片型号: MetaX C550
• 宿主机驱动: 3.9.6
• 容器工具包 (可选) ⓘ: metax-docker >= 0.15.3

镜像内容 link

基于 link

Python link

3.12

主要 Python 软件包 link

• apex==0.1+metax3.8.1.0
• flag_gems==5.3.4
• flagtree==0.6.1+metax3.6
• flash_attn==2.6.3+metax3.8.1.0torch2.10
• flash_linear_attention==0.5.0+metax3.8.1.0torch2.10
• flash_mla==1.0.1+metax3.8.1.0torch2.10
• flashinfer==0.2.6+metax3.8.1.0torch2.10
• numpy==2.3.5
• torch==2.10.0+metax3.8.1.0
• torchaudio==2.4.1+metax3.8.1.0
• torchcodec==0.6.0+metax3.8.1.0
• torchvision==0.25.0+metax3.8.1.0
• triton==3.6.0+metax3.8.1.0

切换编译器 link

本镜像同时包含 FlagTree（默认）和 Triton。在容器内执行 compiler triton 可切换到 Triton，执行 compiler flagtree 切回，执行 compiler 查看当前编译器。

启动 link

使用容器工具包 (可选)：

  metax-docker \
  run \
  --rm \
  -it \
  harbor.baai.ac.cn/flagos-runtime/flagos-runtime-metax-maca3.8.1.3:2.1.2 bash
  

无需工具包 —— 直接使用 docker / podman：

  docker run --rm -it \
  --device /dev/mxcd \
  --device /dev/dri \
  --group-add video \
  harbor.baai.ac.cn/flagos-runtime/flagos-runtime-metax-maca3.8.1.3:2.1.2 bash
  

验证 link

在容器内，确认加速器可见：

  mx-smi