已关闭
【兼容性说明】npu-exporter中上报的npu卡利用率指标兼容性说明 #1175
董peng创建于  17 天前关闭于  16 天前
董peng
董peng成员
17 天前 创建

利用率指标兼容性说明

一、总体说明

利用率相关指标的定义、算法和查询能力由 HDK 版本决定,NPU Exporter 按版本适配并暴露对应指标。
同名指标在不同 HDK 版本下可能含义不同,跨版本对比前需先确认 HDK 版本。DCMI 多指标同时查询、1s 内平均利用率查询及 host 侧缓存能力,还受产品形态限制,主要包括 A2/A3/A5。

表中“同上”表示与上一版本保持一致。

二、HDK 驱动侧利用率能力演进

HDK 版本 NPU 整体利用率 AICore 利用率 AICube 利用率 AIVector 利用率 DCMI 接口能力
24.1.RC2.7 之前 不支持 仅统计 AICube 利用率 不支持 统计 AIVector 利用率 根据 input_type 查询单个利用率
接口:dcmi_get_device_utilization_rate
2:AI CORE
12:VECTOR CORE
13:NPU
14:AI Cube
24.1.RC2.7
(24年12月)
新增指标:Max(AICube)+Max(AIVector) 利用率 仅统计 AICube 利用率 不支持 同上 同上
25.3.RC1
(25年9月)
更新算法:统计 RTS 调度任务时间占比 仅统计 AICube 利用率 不支持 同上 同上
25.5.1
(26年2月)
RTS 调度任务时间占比 更新算法:统计 Max(AICube)+Max(AIVector) 利用率(同原 NPU整体利用率) 不支持 同上 同上
26.0.RC1
(26年3月)
同上 同上 新增指标:统计 AICube 利用率 同上 新增 dcmi_get_device_multi_utilization_rate,支持同时查询 4 个指标,仅支持 A2/A3/A5
26.1.0
(26年6月)
同上 同上 同上 同上 新增 dcmi_get_device_multi_utilization_rate_period,支持 1s 平均值同时查询 4 个指标,并在 host 侧增加缓存,仅支持 A2/A3
26.2.0
(26年9月)
同上 同上 同上 同上 新增dcmiv2_get_device_multi_utilization_rate_period 接口适配 A5

注意:A5 使用 dcmiv2 开头的 DCMI 接口,如 dcmiv2_get_device_utilization_rate、dcmiv2_get_device_multi_utilization_rate、dcmiv2_get_device_multi_utilization_rate_period。

三、NPU Exporter 利用率指标兼容性

NPU Exporter 版本 NPU 整体利用率
npu_chip_info
_overall_utilization
AICore 利用率
npu_chip_info_utilization / container_npu_utilization
AICube 利用率
npu_chip_info
_cube_utilization
AIVector 利用率
npu_chip_info
_vector_utilization
其他说明
6.0.0 之前版本 不支持 含义与 HDK 版本相关 不支持 支持 —
6.0.0
(24年12月)
新增指标
依赖 HDK 能力
含义与 HDK 版本相关
含义与 HDK 版本相关 不支持 支持 —
26.0.0
(26年3月)
含义与 HDK 版本相关 含义与 HDK 版本相关 新增指标
依赖 HDK 能力
支持 A2/A3/A5 支持一次性同时查询 4 个利用率,依赖 HDK 能力
26.1.0
(26年6月)
含义与 HDK 版本相关 含义与 HDK 版本相关 支持 支持 A2/A3 支持一次性同时查询 4 个 1s 内利用率平均值,依赖 HDK 能力
26.2.0
(26年9月)
含义与 HDK 版本相关 含义与 HDK 版本相关 支持 支持 A5 支持一次性同时查询 4 个 1s 内利用率平均值,依赖 HDK 能力

四、查询方式

1. npu-smi 查询

npu-smi info -t usages -i id

2. DCMI 驱动接口查询

参考 Ascend HDK API 文档:
https://support.huawei.com/enterprise/zh/atlas-computing/ascend-hdk-pid-252764743?category=developer-documents&subcategory=api-reference

3. DCMI 多指标查询接口

  • dcmi_get_device_multi_utilization_rate:HDK 26.0.RC1 起支持,A2/A3/A5 可同时查询 4 个指标。
  • dcmi_get_device_multi_utilization_rate_period:HDK 26.1.0 起支持,A2/A3 可查询 4 个指标 1s 平均值并支持 host 侧缓存;HDK 26.2.0 适配 A5。
  • A5 场景请使用 dcmiv2_* 对应接口。

五、兼容性注意事项

  1. HDK 是能力源头,NPU Exporter 是指标出口
    Exporter 是否支持某指标,取决于所依赖的 HDK 版本能力。

  2. AICore 指标含义发生过变化
    早期 HDK 中 AICore 利用率实际统计 AICube 利用率;HDK 25.5.1 起更新为 Max(AICube)+Max(AIVector)。

  3. NPU 整体利用率算法发生过变化
    HDK 24.1.RC2.7 为 Max(AICube)+Max(AIVector);HDK 25.3.RC1 起改为 RTS 调度任务时间占比。

  4. AICube 利用率为后期新增能力
    HDK 从 26.0.RC1 开始新增,NPU Exporter 从 26.0.0 开始支持,且依赖 HDK 版本。

  5. 多指标同时查询存在版本和产品限制
    NPU Exporter 26.0.0 对应 HDK 26.0.RC1,支持 A2/A3/A5;1s 平均查询在 26.1.0 支持 A2/A3,26.2.0 适配 A5。

likedislike
董peng董peng成员
17 天前 添加了label:usage
xiangjie10成员
17 天前 评论:

👋 您好,感谢向 mind-cluster 提交 Issue!
🎉 我们已收到您的反馈,感谢你对开源社区的支持!

📅 处理时效 维护团队将在工作日 24 小时内查看并回复您的问题。
🔍 自助排查(推荐优先查看) 在等待回复期间,您可以先查阅仓库README以及历史 Issue 中相似问题的解决方案,多数问题可快速解决。
💡 为了更快定位问题,请您确保 Issue 包含:

  • 清晰的问题描述
  • 可复现的操作步骤
  • 相关日志、截图或环境信息
    我们会尽快跟进,感谢您的理解与配合!
likedislike
xiangjie10成员
17 天前 评论:

/label add triaged

likedislike
ascend-robotascend-robot成员
17 天前 添加了label:triaged
董peng董peng成员
17 天前 修改标题为 “npu-exporter中上报的npu卡利用率指标兼容性说明”,原标题为“[Usage]: npu-exporter中上报的npu卡利用率指标兼容性说明”
董peng董peng成员
17 天前 修改了issue 的描述
董peng董peng成员
17 天前 关联了里程碑:MindCluster 26.2.0
董peng董peng成员
17 天前 修改标题为 “【兼容性说明】npu-exporter中上报的npu卡利用率指标兼容性说明”,原标题为“npu-exporter中上报的npu卡利用率指标兼容性说明”
董peng董peng成员
17 天前 修改了issue 的描述
董peng董peng成员
17 天前 修改了issue 的描述
董peng董peng成员
17 天前 修改了issue 的描述
董peng董peng成员
17 天前 修改了issue 的描述
董peng董peng成员
17 天前 修改了issue 的描述
董peng董peng成员
17 天前 修改了issue 的描述
董peng董peng成员
17 天前 修改了issue 的描述
董peng董peng成员
17 天前 修改了issue 的描述
董peng董peng成员
16 天前 issue状态由 TODO 改变为 DONE
董peng董peng成员
16 天前 关闭了 issue