文件最后提交记录最后更新时间
【docs】:A5产品支持情况纠正 Co-authored-by: zzm30<zhengzhimin1@h-partners.com> # message auto-generated for no-merge-commit merge: !355 merge master into master 【docs】:A5产品支持情况纠正 Created-by: zzm30 Commit-by: zzm30 Merged-by: ascend-robot Description: # PR 合入模板 ## 1. 修改描述 1. A5产品支持情况纠正,仅支持vLLM框架的工具。 [#60](https://gitcode.com/Ascend/msserviceprofiler/issues/60) See merge request: Ascend/msserviceprofiler!3559 天前
【docs】:A5产品支持情况纠正 Co-authored-by: zzm30<zhengzhimin1@h-partners.com> # message auto-generated for no-merge-commit merge: !355 merge master into master 【docs】:A5产品支持情况纠正 Created-by: zzm30 Commit-by: zzm30 Merged-by: ascend-robot Description: # PR 合入模板 ## 1. 修改描述 1. A5产品支持情况纠正,仅支持vLLM框架的工具。 [#60](https://gitcode.com/Ascend/msserviceprofiler/issues/60) See merge request: Ascend/msserviceprofiler!3559 天前
【docs】:A5产品支持情况纠正 Co-authored-by: zzm30<zhengzhimin1@h-partners.com> # message auto-generated for no-merge-commit merge: !355 merge master into master 【docs】:A5产品支持情况纠正 Created-by: zzm30 Commit-by: zzm30 Merged-by: ascend-robot Description: # PR 合入模板 ## 1. 修改描述 1. A5产品支持情况纠正,仅支持vLLM框架的工具。 [#60](https://gitcode.com/Ascend/msserviceprofiler/issues/60) See merge request: Ascend/msserviceprofiler!3559 天前
【docs】:A5产品支持情况纠正 Co-authored-by: zzm30<zhengzhimin1@h-partners.com> # message auto-generated for no-merge-commit merge: !355 merge master into master 【docs】:A5产品支持情况纠正 Created-by: zzm30 Commit-by: zzm30 Merged-by: ascend-robot Description: # PR 合入模板 ## 1. 修改描述 1. A5产品支持情况纠正,仅支持vLLM框架的工具。 [#60](https://gitcode.com/Ascend/msserviceprofiler/issues/60) See merge request: Ascend/msserviceprofiler!3559 天前
【docs】:A5产品支持情况纠正 Co-authored-by: zzm30<zhengzhimin1@h-partners.com> # message auto-generated for no-merge-commit merge: !355 merge master into master 【docs】:A5产品支持情况纠正 Created-by: zzm30 Commit-by: zzm30 Merged-by: ascend-robot Description: # PR 合入模板 ## 1. 修改描述 1. A5产品支持情况纠正,仅支持vLLM框架的工具。 [#60](https://gitcode.com/Ascend/msserviceprofiler/issues/60) See merge request: Ascend/msserviceprofiler!3559 天前
【docs】:A5产品支持情况纠正 Co-authored-by: zzm30<zhengzhimin1@h-partners.com> # message auto-generated for no-merge-commit merge: !355 merge master into master 【docs】:A5产品支持情况纠正 Created-by: zzm30 Commit-by: zzm30 Merged-by: ascend-robot Description: # PR 合入模板 ## 1. 修改描述 1. A5产品支持情况纠正,仅支持vLLM框架的工具。 [#60](https://gitcode.com/Ascend/msserviceprofiler/issues/60) See merge request: Ascend/msserviceprofiler!3559 天前
【docs】:A5产品支持情况纠正 Co-authored-by: zzm30<zhengzhimin1@h-partners.com> # message auto-generated for no-merge-commit merge: !355 merge master into master 【docs】:A5产品支持情况纠正 Created-by: zzm30 Commit-by: zzm30 Merged-by: ascend-robot Description: # PR 合入模板 ## 1. 修改描述 1. A5产品支持情况纠正,仅支持vLLM框架的工具。 [#60](https://gitcode.com/Ascend/msserviceprofiler/issues/60) See merge request: Ascend/msserviceprofiler!3559 天前
【docs】:A5产品支持情况纠正 Co-authored-by: zzm30<zhengzhimin1@h-partners.com> # message auto-generated for no-merge-commit merge: !355 merge master into master 【docs】:A5产品支持情况纠正 Created-by: zzm30 Commit-by: zzm30 Merged-by: ascend-robot Description: # PR 合入模板 ## 1. 修改描述 1. A5产品支持情况纠正,仅支持vLLM框架的工具。 [#60](https://gitcode.com/Ascend/msserviceprofiler/issues/60) See merge request: Ascend/msserviceprofiler!3559 天前
【docs】:A5产品支持情况纠正 Co-authored-by: zzm30<zhengzhimin1@h-partners.com> # message auto-generated for no-merge-commit merge: !355 merge master into master 【docs】:A5产品支持情况纠正 Created-by: zzm30 Commit-by: zzm30 Merged-by: ascend-robot Description: # PR 合入模板 ## 1. 修改描述 1. A5产品支持情况纠正,仅支持vLLM框架的工具。 [#60](https://gitcode.com/Ascend/msserviceprofiler/issues/60) See merge request: Ascend/msserviceprofiler!3559 天前
【docs】:A5产品支持情况纠正 Co-authored-by: zzm30<zhengzhimin1@h-partners.com> # message auto-generated for no-merge-commit merge: !355 merge master into master 【docs】:A5产品支持情况纠正 Created-by: zzm30 Commit-by: zzm30 Merged-by: ascend-robot Description: # PR 合入模板 ## 1. 修改描述 1. A5产品支持情况纠正,仅支持vLLM框架的工具。 [#60](https://gitcode.com/Ascend/msserviceprofiler/issues/60) See merge request: Ascend/msserviceprofiler!3559 天前
【docs】:A5产品支持情况纠正 Co-authored-by: zzm30<zhengzhimin1@h-partners.com> # message auto-generated for no-merge-commit merge: !355 merge master into master 【docs】:A5产品支持情况纠正 Created-by: zzm30 Commit-by: zzm30 Merged-by: ascend-robot Description: # PR 合入模板 ## 1. 修改描述 1. A5产品支持情况纠正,仅支持vLLM框架的工具。 [#60](https://gitcode.com/Ascend/msserviceprofiler/issues/60) See merge request: Ascend/msserviceprofiler!3559 天前
【docs】:A5产品支持情况纠正 Co-authored-by: zzm30<zhengzhimin1@h-partners.com> # message auto-generated for no-merge-commit merge: !355 merge master into master 【docs】:A5产品支持情况纠正 Created-by: zzm30 Commit-by: zzm30 Merged-by: ascend-robot Description: # PR 合入模板 ## 1. 修改描述 1. A5产品支持情况纠正,仅支持vLLM框架的工具。 [#60](https://gitcode.com/Ascend/msserviceprofiler/issues/60) See merge request: Ascend/msserviceprofiler!3559 天前
【docs】:A5产品支持情况纠正 Co-authored-by: zzm30<zhengzhimin1@h-partners.com> # message auto-generated for no-merge-commit merge: !355 merge master into master 【docs】:A5产品支持情况纠正 Created-by: zzm30 Commit-by: zzm30 Merged-by: ascend-robot Description: # PR 合入模板 ## 1. 修改描述 1. A5产品支持情况纠正,仅支持vLLM框架的工具。 [#60](https://gitcode.com/Ascend/msserviceprofiler/issues/60) See merge request: Ascend/msserviceprofiler!3559 天前
【docs】:A5产品支持情况纠正 Co-authored-by: zzm30<zhengzhimin1@h-partners.com> # message auto-generated for no-merge-commit merge: !355 merge master into master 【docs】:A5产品支持情况纠正 Created-by: zzm30 Commit-by: zzm30 Merged-by: ascend-robot Description: # PR 合入模板 ## 1. 修改描述 1. A5产品支持情况纠正,仅支持vLLM框架的工具。 [#60](https://gitcode.com/Ascend/msserviceprofiler/issues/60) See merge request: Ascend/msserviceprofiler!3559 天前
【docs】:A5产品支持情况纠正 Co-authored-by: zzm30<zhengzhimin1@h-partners.com> # message auto-generated for no-merge-commit merge: !355 merge master into master 【docs】:A5产品支持情况纠正 Created-by: zzm30 Commit-by: zzm30 Merged-by: ascend-robot Description: # PR 合入模板 ## 1. 修改描述 1. A5产品支持情况纠正,仅支持vLLM框架的工具。 [#60](https://gitcode.com/Ascend/msserviceprofiler/issues/60) See merge request: Ascend/msserviceprofiler!3559 天前
docs:资料大模型二次检查 Co-authored-by: cai-weiwei1989<734267852@qq.com> # message auto-generated for no-merge-commit merge: !316 merge master into master docs:资料大模型二次检查 Created-by: cai-weiwei1989 Commit-by: cai-weiwei1989 Merged-by: ascend-robot Description: # PR 合入模板 ## 1. 修改描述 - **修改原因:** docs:资料大模型二次检查 - **修改内容:** - [ ] **涉及代码双合**(贴上另一个PR链接): ---- ## 2. 功能验证 - [ ] **功能自验** - [ ] **本地自验用例截图**(请确保不体现个人信息) - [ ] **冒烟是否通过** ---- ## 3. 代码检视 - **要求:** - 合入代码大于 200 行,需三人以上会议检视。 - 检视密度≥2个/100行。 - 检视缺陷密度达不到要求的需给出说明。 - 大于 1000 行代码原则上不允许合入,需进行备案。 - [ ] **是否经过代码检视** - [ ] **是否具备UT测试用例看护** ---- ## 4. 安全自检 **典型安全编码问题** - [ ] **若涉及对外接口,是否已校验外部数据** - [ ] **MR 标题和描述是否按格式填写** - [ ] **是否进行空指针校验** - [ ] **是否进行返回值校验** - [ ] **是否正确考虑文件权限配置** - [ ] **是否充分考虑接口的异常场景** - [ ] **是否正确记录错误日志** - [ ] **若涉及正则表达式,是否对正则表达式做 ReDos 校验** - [ ] **若涉及运算,是否存在整数溢出、除零等风险** ---- ## 5. 变更知会 - **资料修改:** - **变更通知(消息知会 + 邮件知会):** ---- ## 6. 冒烟修改 - **PR 来源:** - [ ] 问题单 - [ ] 需求特性 - [ ] 安全排查 - [ ] 其他 - [ ] **是否存在冒烟可以拦截却未拦截的情况** - [ ] **是否需要添加冒烟:** ---- See merge request: Ascend/msserviceprofiler!3161 个月前
【docs】:A5产品支持情况纠正 Co-authored-by: zzm30<zhengzhimin1@h-partners.com> # message auto-generated for no-merge-commit merge: !355 merge master into master 【docs】:A5产品支持情况纠正 Created-by: zzm30 Commit-by: zzm30 Merged-by: ascend-robot Description: # PR 合入模板 ## 1. 修改描述 1. A5产品支持情况纠正,仅支持vLLM框架的工具。 [#60](https://gitcode.com/Ascend/msserviceprofiler/issues/60) See merge request: Ascend/msserviceprofiler!3559 天前
【docs】:A5产品支持情况纠正 Co-authored-by: zzm30<zhengzhimin1@h-partners.com> # message auto-generated for no-merge-commit merge: !355 merge master into master 【docs】:A5产品支持情况纠正 Created-by: zzm30 Commit-by: zzm30 Merged-by: ascend-robot Description: # PR 合入模板 ## 1. 修改描述 1. A5产品支持情况纠正,仅支持vLLM框架的工具。 [#60](https://gitcode.com/Ascend/msserviceprofiler/issues/60) See merge request: Ascend/msserviceprofiler!3559 天前
【docs】:A5产品支持情况纠正 Co-authored-by: zzm30<zhengzhimin1@h-partners.com> # message auto-generated for no-merge-commit merge: !355 merge master into master 【docs】:A5产品支持情况纠正 Created-by: zzm30 Commit-by: zzm30 Merged-by: ascend-robot Description: # PR 合入模板 ## 1. 修改描述 1. A5产品支持情况纠正,仅支持vLLM框架的工具。 [#60](https://gitcode.com/Ascend/msserviceprofiler/issues/60) See merge request: Ascend/msserviceprofiler!3559 天前
docs:资料大模型二次检查 Co-authored-by: cai-weiwei1989<734267852@qq.com> # message auto-generated for no-merge-commit merge: !316 merge master into master docs:资料大模型二次检查 Created-by: cai-weiwei1989 Commit-by: cai-weiwei1989 Merged-by: ascend-robot Description: # PR 合入模板 ## 1. 修改描述 - **修改原因:** docs:资料大模型二次检查 - **修改内容:** - [ ] **涉及代码双合**(贴上另一个PR链接): ---- ## 2. 功能验证 - [ ] **功能自验** - [ ] **本地自验用例截图**(请确保不体现个人信息) - [ ] **冒烟是否通过** ---- ## 3. 代码检视 - **要求:** - 合入代码大于 200 行,需三人以上会议检视。 - 检视密度≥2个/100行。 - 检视缺陷密度达不到要求的需给出说明。 - 大于 1000 行代码原则上不允许合入,需进行备案。 - [ ] **是否经过代码检视** - [ ] **是否具备UT测试用例看护** ---- ## 4. 安全自检 **典型安全编码问题** - [ ] **若涉及对外接口,是否已校验外部数据** - [ ] **MR 标题和描述是否按格式填写** - [ ] **是否进行空指针校验** - [ ] **是否进行返回值校验** - [ ] **是否正确考虑文件权限配置** - [ ] **是否充分考虑接口的异常场景** - [ ] **是否正确记录错误日志** - [ ] **若涉及正则表达式,是否对正则表达式做 ReDos 校验** - [ ] **若涉及运算,是否存在整数溢出、除零等风险** ---- ## 5. 变更知会 - **资料修改:** - **变更通知(消息知会 + 邮件知会):** ---- ## 6. 冒烟修改 - **PR 来源:** - [ ] 问题单 - [ ] 需求特性 - [ ] 安全排查 - [ ] 其他 - [ ] **是否存在冒烟可以拦截却未拦截的情况** - [ ] **是否需要添加冒烟:** ---- See merge request: Ascend/msserviceprofiler!3161 个月前
README.md

总体说明

接口简介

msServiceProfiler模块提供推理服务化性能数据采集(C++)接口,用于采集服务化调优场景性能数据。

推理服务化性能数据采集接口功能介绍和使用示例请参见《数据采集》。

头文件:${INSTALL_DIR}/include/msServiceProfiler.h

库文件:${INSTALL_DIR}/lib64/libms_service_profiler.so

${INSTALL_DIR}请替换为CANN软件安装后的文件存储路径。以root安装举例,则安装后文件存储路径为:/usr/local/Ascend/cann。

接口列表

具体接口如下:

表 1 msServiceProfiler API(C++)

接口 说明
IsEnable 判断是否使能采集数据。
SpanStart 记录一个过程的开始节点。
SpanEnd 记录一个过程的结束节点。
Metric 记录一个指标类数值。
MetricInc 记录一个指标类的增量数值。
MetricScope 定义一个指标类的作用范围。
MetricScopeAsReqID 定义一个指标类的作用范围为请求级别。
MetricScopeAsGlobal 定义一个指标类的作用范围为全局。
Launch 正式将该请求记录进行落盘。
Event 记录一个事件。
Link 记录不同资源之间的关联。
Attr系列 添加属性,返回当前对象,支持链式调用。
ArrayResource 添加数组类资源的关键属性。
Resource 添加资源ID,数据和timeline根据资源ID进行关联。
Domain 指定该数据的域,相同域的记录在trace数据中归为一类。
NumArrayAttr 添加数组属性,数组中仅支持数值。
ArrayAttr 通过回调函数自定义添加数组属性。
GetMsg 获取当前记录的数据。
宏定义 封装的采集语句。