Star0
0
代码
代码
Issues
Pull Requests1
Actions
项目讨论
Wiki
分析
Star0
0
cann-robotcann-robotnn仓芯片类型补充以及资料格式修改
b0224222创建于 4月1日历史提交
文件最后提交记录最后更新时间
docs
nn仓芯片类型补充以及资料格式修改 Co-authored-by: sunchun<sunchun4@h-partners.com> # message auto-generated for no-merge-commit merge: !3420 merge xinpian into master nn仓芯片类型补充以及资料格式修改 Created-by: sunchun Commit-by: sunchun Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3420
5 个月前
examples
代码同步 Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !450 merge master into master 代码同步 Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!450
8 个月前
op_graph
代码同步 Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !450 merge master into master 代码同步 Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!450
8 个月前
op_host
fix: 注释错误 Co-authored-by: 丛吉钰<congjiyu@h-partners.com> # message auto-generated for no-merge-commit merge: !3216 merge master into master fix: 注释错误 Created-by: cong-jiyu Commit-by: 丛吉钰 Merged-by: cann-robot Description: ## 描述 更新了注释中opc，改为asc_opc ## 关联的Issue [#1716](https://gitcode.com/cann/ops-nn/issues/1716) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 更新了注释中opc，改为asc_opc ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3216
5 个月前
op_kernel
add pipe sync for embeddingbag Co-authored-by: fengjiawei1<fengjiawei5@huawei.com> # message auto-generated for no-merge-commit merge: !3177 merge embd_qdx_ca into master add pipe sync for embeddingbag Created-by: fengjiawei1 Commit-by: fengjiawei1 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 修复计算过程中vec等待scalar流水以保证两次执行的确定性 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/1748 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3177
5 个月前
tests
[aicore]整改 Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !2261 merge master into master [aicore]整改 Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 编译器内部已经定义了__aicore__，算子侧需要去掉这个标识 ## 关联的Issue [#1276](https://gitcode.com/cann/ops-nn/issues/1276) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!2261
6 个月前
CMakeLists.txt
License Change Split2 Co-authored-by: huohuo_wy<wangyan389@huawei.com> # message auto-generated for no-merge-commit merge: !371 merge spilit2License3 into master License Change Split2 Created-by: huohuo_wangyan Commit-by: huohuo_wy Merged-by: cann-robot Description: ## 描述 批量整改文件copyright注释 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/177 ## 测试 COPYRIGHT注释头按新要求刷新 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!371
9 个月前
README.md
整仓doc Tools工具扫描问题修改 Co-authored-by: yangbinhua<yangbinhua1@huawei.com> # message auto-generated for no-merge-commit merge: !3285 merge revert-mr-3284-1774681738323-auto into master 整仓doc Tools工具扫描问题修改 Created-by: yangbinhua Commit-by: yangbinhua Merged-by: cann-robot Description: ## 描述 整仓文档问题修改，修改不符合markdown规范500+，未闭合标签400+。 ## 关联的Issue 关联Issue #1783 ## 测试 更新了README.md文件、docs/acl*.md、docs、experimental/activation、experimental/index 、experimental/matmul 、matmul 等文件 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3285
5 个月前
README

EmbeddingBag

产品支持情况

产品 是否支持
Ascend 950PR/Ascend 950DT √
Atlas A3 训练系列产品/Atlas A3 推理系列产品 √
Atlas A2 训练系列产品/Atlas A2 推理系列产品 √
Atlas 200I/500 A2推理产品 ×
Atlas 推理系列产品 √
Atlas 训练系列产品 √
Kirin X90 处理器系列产品 √
Kirin 9030 处理器系列产品 √

功能说明

  • 算子功能：根据indices从weight中获得一组被聚合的数，然后根据offsets的偏移和mode指定的聚合模式对获取的数进行max、sum、mean聚合。其余参数则更细化了计算过程的控制。

    • shape推导方式如下： 假设:

      weight的shape为(numWeight, embeddingDim)
indices的shape为(indices)
offsets的shape为(offsets)

      • 当mode为sum模式：

        y的shape 为 include_last_offset ? (offsets - 1, embeddingDim) : (offsets, embeddingDim)
offset2bag的shape 为 (indices,)
bag_size的shape 为 include_last_offset ? (offsets - 1) : (offsets,)
max_indices的shape 为 include_last_offset ? (offsets - 1) : (offsets,)

      • 当mode为mean模式：

        y的shape 为 include_last_offset? (offsets - 1, embeddingDim) : (offsets, embeddingDim)
offset2bag的shape 为 (indices,)
bag_size的shape 为 include_last_offset ? (offsets - 1) : (offsets,)
max_indices的shape 为 include_last_offset ? (offsets - 1) : (offsets,)

      • 当mode为max模式：

        y的shape 为 include_last_offset ? (offsets - 1, embeddingDim) : (offsets, embeddingDim)
offset2bag的shape 为 (indices,)
bag_size的shape 为 include_last_offset ? (offsets - 1) : (offsets,)
max_indices的shape 为 include_last_offset ? (offsets - 1, embeddingDim) : (offsets, embeddingDim)

参数说明

参数名 输入/输出/属性 描述 数据类型 数据格式
weight 输入 词嵌入矩阵，包含所有词的嵌入向量。 FLOAT、FLOAT16、BFLOAT16 ND
indices 输入 包含索引的张量，指定要从weight中提取哪些词的嵌入向量。 INT32、INT64 ND
offsets 可选输入 用于将indices分割成多个bag的偏移量张量。 INT32、INT64 ND
per_sample_weights 可选输入 指定样本权重。 FLOAT、FLOAT16、BFLOAT16 ND
y 输出 词嵌入矩阵聚合后的结果。 INT32、INT64 ND
offset2bag 输出 bag的起始偏移。 INT32、INT64 ND
bag_size 输出 每个bag的大小。 INT32、INT64 ND
max_indices 输出 当mode为max时，词嵌入向量最大值所在的行。 INT32、INT64 ND
mode 可选属性
  • 用于控制聚合模式。
  • 默认值为"mean"。
 String -
scale_grad_by_freq 可选属性
  • 用于控制是否根据词频缩放梯度。
  • 默认值为false。
 Bool -
sparse 可选属性
  • 用于控制稀疏模式。
  • 默认值为false。
 Bool -
include_last_offset 可选属性
  • 控制是否包含最后的偏移。
  • 默认值为false。
 Bool -
padding_idx 可选属性
  • 控制是否包含最后的偏移。
  • 默认值为-1。
 Int -
  • Atlas 训练系列产品：不支持BFLOAT16。
  • Kirin X90/Kirin 9030处理器系列产品：不支持BFLOAT16。

约束说明

无

调用说明

调用方式 调用样例 说明
aclnn调用 test_aclnn_embedding_bag 通过aclnnEmbeddingBag接口方式调用EmbeddingBag算子。
图模式调用 test_geir_embedding_bag 通过算子IR构图方式调用EmbeddingBag算子。