AscendGYM / docs /SANDBOX_IMAGE.md
SLAI-AITP's picture
Fix evaluation guides and connect the Hugging Face leaderboard link
961d5d4 verified
|
Raw History Blame Contribute Delete
3.4 kB

官方镜像使用

官方 AscendForge 镜像公开托管在 Quay,可直接拉取,无需申请访问权限。无需官方镜像的接入方式见自建环境。

1. 获取镜像

镜像页面:slai-aitp/ascendgym。

将 SANDBOX_IMAGE 设置为以下完整镜像引用。平台网页 URL 与 Docker 镜像引用用途不同,不要将带 https:// 的网页地址直接用于 docker pull。

export SANDBOX_IMAGE='quay.io/slai-aitp/ascendgym:v1.0.0-a3-cann9.0.1'

该公开镜像无需登录,直接拉取:

docker pull "$SANDBOX_IMAGE"

下文启动命令复用 SANDBOX_IMAGE,无需重复填写镜像名称。评测记录中应保存实际使用的镜像引用和版本;镜像页面用于查看版本信息,不是 bridge 的编译服务地址。

2. 启动服务

以下启动示例沿用 Linux aarch64、Ascend 910C 参考环境。实际镜像支持范围以平台上的版本说明为准。宿主机需有兼容的驱动、可用的 NPU 和容器设备访问能力;镜像不能代替宿主机驱动。仅运行 bridge 的客户端不需要这些设备。

以下为单 worker 启动示例。设备名和驱动目录必须按宿主机实际配置调整,仅映射分配给服务的设备;若平台使用专用容器运行时,应使用平台提供的设备映射方式。

docker run -d --name ascendgym-sandbox \
  -p 9000:8080 \
  --device=/dev/davinci0 \
  --device=/dev/davinci_manager \
  --device=/dev/devmm_svm \
  --device=/dev/hisi_hdc \
  -v /usr/local/Ascend/driver:/usr/local/Ascend/driver:ro \
  "$SANDBOX_IMAGE" \
  uvicorn sandbox.server.server:app --host 0.0.0.0 --port 8080

当前参考镜像默认命令为交互式 shell,以下示例显式传入服务启动命令;平台后续版本若调整入口,应按相应版本说明启动。示例将宿主机 9000 映射到容器 8080;请把服务放在受控网络中,端口开放范围由部署方配置。

docker logs --tail 100 ascendgym-sandbox
curl --fail http://127.0.0.1:9000/ping

启动命令是部署示例,不能代替目标宿主机的 NPU 验收。已有参考镜像的容器 API 检查和节点运行环境测试记录,不等于所拉取版本在目标部署上的 NPU 验收结果。请在目标部署上执行下一节检查。

3. 对接 bridge

在客户端把 <sandbox-host> 替换为客户端可访问的宿主机地址。客户端在另一台机器上时,不要使用 127.0.0.1 指向远端服务。

export ASCEND_GYM_WORKSPACE=/path/to/AscendGYM
export ASCEND_GYM_DATA_ROOT="$ASCEND_GYM_WORKSPACE/datasets"
export SANDBOX_URL="http://<sandbox-host>:9000"
cd "$ASCEND_GYM_WORKSPACE/bridge"
python3 op_manager.py smoke --op add_rms_norm --cases all --profiling-runs 5

核对全部测试轮次、错误日志、非空 profiling 和耗时解析结果后,再按根 README配置模型并运行评测。单 worker 不提供多节点调度;需要指定节点或 NPU 的调度约束时,应接入支持这些约束的调度服务。

源码、测试和 golden 由 bridge 上传,不需要将整个开源仓库或客户端绝对路径挂载进服务容器。任务产物保存在客户端的评测输出目录;容器重建前如需保留服务日志,应另行收集。