已合并
[feat]support atb_llm whl包生成 #205
[feat]support atb_llm whl包生成 #205
已合并
zhaokerui创建于 1月10日
zhaokerui
zhaokerui
1月10日

合入背景

Fixes#118

修改内容

优化atb_models下build.sh的内容
优化atb_models下setup.py的内容
为atb_models下所有代码目录新增__init__.py方便标准化的打包流程

编译

Atb-models

cd MindIE-LLM/examples/atb_models

abi版本自动从torch获取

export LD_LIBRARY_PATH={PYTHON_SITE_PACKAGES}/torch/lib:{PYTHON_SITE_PACKAGES}/torch.libs:$LD_LIBRARY_PATH
export MINDIE_LLM_VERSION_OVERRIDE=3.0.0 # 设置whl包版本号
pip wheel . --no-build-isolation -v # 编译完成后在当前目录生成 atb_llm whl 包

整包内容

  • atb_llm whl

安装子包

pip install .whl --force-reinstall # 直接安装子包

资料变更

不涉及
注:本PR仅支持atb_llm打包,待mindie-motor, mindie-llm全部上库之后,统一修改相关文档。

接口变更

不涉及

测试结果

atb-models打包成atb_llm,与mindie-llm联调功能可通。

CheckList

PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x]。

likedislike
Pull Request已成功合入, 合并人@ascend-robot
(感谢 zhaokerui 的贡献)
ascend-robot
ascend-robot成员
1月10日 评论:

Thank your for your pull-request.

The full list of commands accepted by me can be found at here.

You can get sig-info at here

likedislike
ascend-robotascend-robot成员
1月10日 添加了label:stat/needs-squash
ascend-robot
ascend-robot成员
1月10日 评论:

以下是根据您提交的修改文件推荐的Reviewer和Committer序列,需各模块评审通过后方可合入

Module List Reviewers Committers
repo-Ascend/MindIE-LLM guleo2, wbj1207, chuyuelin, chenyangwang2, zzhao2012 masiming, Katrina-CXY, maoxx241, zk123, wumingjing
likedislike
ascend-robotascend-robot成员
1月10日 添加了label:ascend-cla/yes
ascend-robotascend-robot成员
1月10日 添加了label:needs-issue
此处折叠了74条消息 查看更多
ascend-robotascend-robot成员
1月21日 添加了label:approvedlgtm
CXY-Katrina
CXY-Katrina成员
1月21日 评论:

/merge

likedislike
ascend-robotascend-robot成员
1月21日 添加了label:keeper_approved
ascend-robot
ascend-robot成员
1月21日 评论:

Review Guide

This Pull-Request Passes Review.
Committers who wrote a comment of /approve are: Katrina-CXY.
Reviewers who wrote a comment of /lgtm are: martinXuc, Katrina-CXY.

likedislike
ascend-robotascend-robot成员
1月21日 合入了pull request