已关闭
[bug]codellama34b模型开启虚推和并行解码MD后起服务失败 #209
Zijun Huang创建于 2月10日关闭于 3月3日
2月10日 添加了label：bug
2月11日 关联了pull request：资料修改（虚推特性不支持memory_decoding和lookahead)
2月11日 关联了pull request：资料修改（虚推特性不支持memory_decoding和lookahead)
3月3日 issue状态由 TODO 改变为 DONE
3月3日 关闭了 issue
在提交新问题之前，请确保您已经在社区中搜索过相关问题，并使用了社区中提供的资源/工具后，仍未找到满意的解决方式。
⚠️ 安全信息提醒：请仔细检查提供的文本内容，确保其不包含敏感数据信息，包括但不限于：
在分享配置信息或代码示例时，请将敏感信息脱敏处理，或使用
<TOKEN>等占位符替代原有内容。环境信息
🐛 问题描述
开启虚推和并行解码插件，拉起服务报错
欢迎加入社区，感谢您对社区的贡献 🎉!