dev

文件	最后提交记录	最后更新时间
features	新增Dynamic EPLB Co-authored-by: TwistZzzz<xuwenkang6@h-partners.com> # message auto-generated for no-merge-commit merge: !72 merge dev into dev [Feature] [EPLB] 新增Dynamic EPLB Created-by: TwistZzzz Commit-by: TwistZzzz Merged-by: ascend-robot Description: [feature] 新增Dynamic EPLB 由于方案部署与模型初始化阶段和moe阶段相关 详细部署流程已整合到mindiesd项目下： docs/features/DyEPLB.md <span style="font-size:36px;">**主要模块**</span> ## Collector - 模块说明：负载采集器, 由于DyEPLB是通过当前的专家负载信息来动态调整 Rank 上的专家布局从而达到负载均衡的方案，对于负载数据需要采集器来负责收集工作 - 核心逻辑：以专家对应的token数的列表作为负载信息进行采集，通过double buffer机制置入共享队列中供算法侧进行新专家布局的计算 ## Dispatcher - 模块说明: 调度器, 提供全局同步的通信接口、维护全局和本地专家布局map和权重更新接口 - 核心逻辑: 负责进行新专家布局涉及的权重拼接、权重替换 ## FPA算法 - 原理：由于DyEPLB 场景需要在运行时动态调整专家分配以追求极致性能，调度算法的决策时延与计算开销成为关键约束。为此，我们提出了一种基于贪心策略的高效 EPLB 调度算法。该算法利用运行时的专家激活分布数据及当前的专家-NPU 拓扑映射关系，实时生成专家动态复制与跨卡冷热交换策略，有效消解由专家热度差异引发的设备负载失衡问题 ## Task - 模块说明: 负责任务的构造、任务队列的出队入队。 均为内部接口, 用户无感知 - 核心逻辑: 对于采集器和调度器涉及到的数据进行处理，以达到逻辑自洽 See merge request: Ascend/MindIE-SD!72	7 个月前
figures	[Docs]更新开源群二维码readme Co-authored-by: zhouwenxue<zhouwenxue2@huawei.com> # message auto-generated for no-merge-commit merge: !186 merge dev into dev [Docs]更新开源群二维码readme Created-by: zhou-wenxue Commit-by: zhouwenxue Merged-by: ascend-robot Description: # Purpose 更新开源群二维码readme See merge request: Ascend/MindIE-SD!186	7 个月前
tech_report	新增RainFusion2.0论文初稿	9 个月前
architecture.md	【Docs】readme更新开源群二维码 & 修改[架构介绍]描述 Co-authored-by: zhouwenxue<zhouwenxue2@huawei.com> # message auto-generated for no-merge-commit merge: !161 merge dev into dev 【Docs】readme更新开源群二维码 & 修改[架构介绍]描述 Created-by: zhou-wenxue Commit-by: zhouwenxue Merged-by: ascend-robot Description: # Purpose 1、readme更新开源群二维码 2、readme修改[架构介绍]描述，删除旧版模型支持列表 3、readme新增标志符号 See merge request: Ascend/MindIE-SD!161	8 个月前
developer_guide.md	[BUGFIX]torch兼容性提升 Co-authored-by: guowenna1<guowenna1@huawei.com> # message auto-generated for no-merge-commit merge: !114 merge torch into dev [BUGFIX]torch兼容性提升 Created-by: weixin_44144262 Commit-by: guowenna1 Merged-by: ascend-robot Description: > Fix part of #23 # Purpose - 增加鲁棒性，在torch2.1,2.6,2.8提升兼容性 - 通过跳过重复注册，解决了部分新增pattren to copy算子在torch2.1 compile 报错fake tensor的问题 - 跳过了compile在低版本torch的因为缺乏符号导致的ut错误问题 - 解决了register op在高版本torch的ut逻辑错误 - 解决了量化ut和接口报错的问题 - 优化了文档 # Test Plan 在torch2.1,2.6,2.8运行全量测试 # Test Report  See merge request: Ascend/MindIE-SD!114	9 个月前