已关闭
建议:RecSDK支持推荐模型分布式推理与动态Embedding映射 #1302
崇理战队创建于  8月10日关闭于  28 天前
崇理战队
8月10日 创建

问题背景

RecSDK作为昇腾推荐系统SDK,当前分布式推理能力较弱,抖音、快手等业务的海量推荐模型需要分布式推理+动态embedding映射,当前SDK缺少这类场景的支持。

问题表现

  1. 推荐模型embedding维度动态变化场景缺少hotswap机制,实际业务需要不停机更新
  2. 多卡分布式推理仅支持静态分片,缺少基于负载的动态推荐流量调度
  3. 缺少稀疏特征的高效动态映射机制,广告业务冷启动场景缺少支持
  4. 与Flink、Spark等大数据组件的e2e流水线集成不顺畅,端到端延迟高
likedislike
xiangjie10成员
8月10日 评论:

👋 您好,感谢向 RecSDK 提交 Issue!
🎉 我们已收到您的反馈,感谢你对开源社区的支持!

📅 处理时效 维护团队将在工作日 24 小时内查看并回复您的问题。
🔍 自助排查(推荐优先查看) 在等待回复期间,您可以先查阅仓库README以及历史 Issue 中相似问题的解决方案,多数问题可快速解决。
💡 为了更快定位问题,请您确保 Issue 包含:

  • 清晰的问题描述
  • 可复现的操作步骤
  • 相关日志、截图或环境信息
    我们会尽快跟进,感谢您的理解与配合!
likedislike
xiangjie10成员
8月10日 评论:

/label add triaged

likedislike
ascend-robotascend-robot成员
8月10日 添加了label:triaged
taoqiuyu1998
taoqiuyu1998成员
8月11日 评论:

开发者您好,在A2/A3上进行开发可以参考多级缓存的文档,支持分布式稀疏表及DDR、HBM多级缓存:https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/torch/torch_rec_v1/api/multilevel_cache_management_apis.md

likedislike
taoqiuyu1998
taoqiuyu1998成员
8月11日 评论:

/label add resolved

likedislike
ascend-robotascend-robot成员
8月11日 添加了label:resolved
huangleihuanglei成员
8月12日 关联了看板:MindSDK版本issue看板
ascend-robot
ascend-robot成员
8月18日 评论:

您好,当前Issue标记为resolved且有一段时间未进一步更新,因此我们将其标记为'stale'(闲置)状态。若您认为这是误操作,可通过添加任意评论来去除'stale'标签。标记为stale的Issue在4天内无更新活动将自动关闭。

likedislike
ascend-robotascend-robot成员
8月18日 添加了label:stale
ascend-robotascend-robot成员
28 天前 关闭了 issue
taoqiuyu1998taoqiuyu1998成员
11 天前 关联了里程碑:MindSDK 26.2.0
taoqiuyu1998taoqiuyu1998成员
10 天前 issue状态由 TODO 改变为 DONE