已关闭
[Feature]: 启动脚本增强 #1
liangwei2010创建于 4月2日关闭于 4月9日
4月2日 添加了label：feature
wangyongjun
4月2日 评论：
4月2日 评论：
你好，
问题1：我们是考虑到支持普通用户HwHiAiUser用户运行容器限制的
问题2：TEI其他参数是可以通过环境变量配置的
LiMingxiang
4月2日 评论：
4月2日 评论：
十分感谢您的建议，关于您提出的第一条建议 目前 mis-tei 启动时，无法指定任意已经下载好的模型目录，需要支持已经下载好的模型在任意目录 问题目前的解决方案是这样的:
1. 如果您是root用户启动容器，是可以自定义模型权重配置路径的。
例如下方的embedding模型启动路径为自定义的 /data2/l50056623/model/Qwen3-Embedding-0.6B ，请确保您在启动容器时挂载了该目录。
2.如果您是普通用户HwHiAiUser，由于权限原因，暂只能通过 /home/HwHiAiUser/model/ 目录配置模型权重。
再次感谢您提出的宝贵建议，这对我们十分有帮助🌹🌹
4月2日 issue状态由 TODO 改变为 Analysing
wangyongjun
4月2日 评论：
4月2日 评论：
/Analysing
liangwei2010
4月2日 评论：
4月2日 评论：
@LiMingxiang123 @wangyongjun
1.支持需要挂载到/home/HwHiAiUser/model才可以，但是考虑到集成第三方平台时，一般平台方做好了标准的路径，所以这类特殊的挂载通用性就差一些
2.环境变量是可以支持，但是考虑 2 个因素：
1）主要考虑未来兼容性，目前tei 所有参数都支持环境变量，如果 tei 出现不支持环境变量的参数就会不兼容
2）在第三方平台集成时，像 mode-id，hostname，served-model-name，port等参数需要引用平台的变量，通过参数使用平台变量比较方便，环境变量一般不支持引用平台变量。如：--hostname {{平台变量}}
wangyongjun
4月2日 评论：
4月2日 评论：
add lable /Analysing
4月9日 关闭了 issue
4月9日 添加了label：resolved
18 天前 issue状态由 Analysing 改变为 DONE
提交提案之前，请先检索仓库内是否已有相同的提案，如已有请在同一提案中进行讨论。
💻 需求背景、当前现状、期望实现的功能内容、具体的设计方案、以及测试方案
mis-tei 目前启动方式不是特别友好，不方便集成到其它三方平台
1.目前 mis-tei 启动时，无法指定任意已经下载好的模型目录，需要支持已经下载好的模型在任意目录
2.目前只支持<model_id> <listen_ip> <listen_port>参数，不支持其它启动参数，希望能支持指定text-embeddings-router任意参数
替代方案
当前的替代做法是，替换官方镜像的 start.sh
希望社区原生支持，无需二次打包
补充说明
欢迎加入社区，感谢您对社区的贡献 🎉!