dev

ascend-robot[Feature][example]新增服务化样例支持

9b8fb2f2创建于 1月14日历史提交

文件	最后提交记录	最后更新时间
cache	[docs]更新以存代算使用样例 Co-authored-by: chensiyu47<chensiyu49@huawei.com> # message auto-generated for no-merge-commit merge: !24 merge dev into dev [docs]更新以存代算使用样例 Created-by: chensiyu47 Commit-by: chensiyu47 Merged-by: ascend-robot Description: 更新以存代算使用样例和示例 See merge request: Ascend/MindIE-SD!24	10 个月前
service	[Feature][example]新增服务化样例支持 Co-authored-by: guowenna1<guowenna1@huawei.com> # message auto-generated for no-merge-commit merge: !66 merge server into dev [Feature][example]新增服务化样例支持 Created-by: weixin_44144262 Commit-by: guowenna1 Merged-by: ascend-robot Description: # 背景 多模态生成模型缺少服务化的调用方式，同时由于各个模型的诉求不同，请求端需要按照模型定制，故需要提供服务化的样例，供使用者参考 实现基于FastAPI的视频生成服务，包含文本到视频(t2v)和图像到视频(i2v)两种模式。服务通过Ray分布式框架进行任务调度，支持多NPU并行计算。新增curl示例脚本方便测试接口调用。 主要功能包括： - 实现GenerateRequest模型处理输入参数 - 支持分布式环境初始化与模型加载 - 提供视频生成和保存功能 - 添加性能统计和日志记录 # 方案 Engine作为后端接收请求，实现fastapi服务，提供ray框架实现与worker的通信，unicore实现高性能http服务器 Worker与模型实现相关，需要用户定义请求，Worker的初始化，请求处理的逻辑等 # 测试结果 该功能以wan2.2为样例，模型推理正常   See merge request: Ascend/MindIE-SD!66	8 个月前
wan	readme update Co-authored-by: zhouwenxue<zhouwenxue2@huawei.com> # message auto-generated for no-merge-commit merge: !13 merge dev into dev readme update Created-by: zhou-wenxue Commit-by: chensiyu47;zhouwenxue Merged-by: ascend-robot Description: readme update See merge request: Ascend/MindIE-SD!13	10 个月前