您好，感谢您的反馈，请您按照版本说明提供对应的配套软件版本信息，以及完整的XXXXXX脚本，完整报错日志，方便我们复现定位问题。

使用镜像：openeuler22.03-mindspeed-llm-2.3.0-a2-arm
CANN版本：8.5.0
PyTorch版本：2.7.1
Python版本：3.10

examples/mcore/qwen3/tune_qwen3_8b_4K_full_ptd.sh脚本配置如下：
#!/bin/bash
export CUDA_DEVICE_MAX_CONNECTIONS=1
export PYTORCH_NPU_ALLOC_CONF=expandable_segments:True

NPUS_PER_NODE=8
MASTER_ADDR=localhost
MASTER_PORT=6000
NNODES=1
NODE_RANK=0
WORLD_SIZE=$(($NPUS_PER_NODE*$NNODES))

please fill these path configurations

CKPT_LOAD_DIR="./model_from_hf/qwen3_hf/"
CKPT_SAVE_DIR="./ckpt/qwen3-8b"
DATA_PATH="./dataset/train-00000-of-00001-a09b74b3ef9c3b56.parquet"
TOKENIZER_PATH="./model_from_hf/qwen3_hf/"

TP=2
PP=4
MBS=1
GBS=16

DISTRIBUTED_ARGS="
--nproc_per_node $NPUS_PER_NODE
--nnodes $NNODES
--node_rank $NODE_RANK
--master_addr $MASTER_ADDR
--master_port $MASTER_PORT
"

GPT_ARGS="
--use-mcore-models
--spec mindspeed_llm.tasks.models.spec.qwen3_spec layer_spec
--kv-channels 128
--qk-layernorm
--tensor-model-parallel-size ${TP}
--pipeline-model-parallel-size ${PP}
--sequence-parallel
--use-distributed-optimizer
--use-flash-attn
--num-layers 36
--hidden-size 4096
--use-rotary-position-embeddings
--num-attention-heads 32
--ffn-hidden-size 12288
--max-position-embeddings 32768
--seq-length 4096
--make-vocab-size-divisible-by 1
--padded-vocab-size 151936
--rotary-base 1000000
--micro-batch-size ${MBS}
--global-batch-size ${GBS}
--disable-bias-linear
--train-iters 20
--swiglu
--tokenizer-type PretrainedFromHF
--tokenizer-name-or-path ${TOKENIZER_PATH}
--normalization RMSNorm
--position-embedding-type rope
--norm-epsilon 1e-6
--hidden-dropout 0
--attention-dropout 0
--no-gradient-accumulation-fusion
--attention-softmax-in-fp32
--exit-on-missing-checkpoint
--no-masked-softmax-fusion
--group-query-attention
--untie-embeddings-and-output-weights
--num-query-groups 8
--min-lr 1.25e-7
--lr 1.25e-6
--weight-decay 1e-1
--clip-grad 1.0
--adam-beta1 0.9
--adam-beta2 0.95
--initial-loss-scale 4096
--no-load-optim
--no-load-rng
--seed 42
--bf16
"

DATA_ARGS="
--data-path $DATA_PATH
--split 100,0,0
"

OUTPUT_ARGS="
--log-interval 1
--save-interval 1000
--eval-interval 1000
--eval-iters 0
"

TUNE_ARGS="
--finetune
--stage sft
--is-instruction-dataset
--prompt-type qwen3
--no-pad-to-seq-lengths
"

torchrun $DISTRIBUTED_ARGS posttrain_gpt.py
$GPT_ARGS
$DATA_ARGS
$OUTPUT_ARGS
$TUNE_ARGS
--distributed-backend nccl
--load ${CKPT_LOAD_DIR}
--save ${CKPT_SAVE_DIR}
| tee logs/tune_qwen3_8b_full.log

完整打印日志：
7cbc16e112614065a3de76c883979cf9.txt

您好，您这边是否使用的2.3.0的分支呢，目前2.3.0分支不支持权重数据训练合一功能，您这是使用了原始数据路径，但是没有使能上述功能导致，建议切到26.0.0代码及以上。使用文档说明链接：https://gitcode.com/Ascend/MindSpeed-LLM/blob/master/docs/zh/pytorch/training/pretrain/mcore/train_from_hf.md

已验证2.3.0分支配置后也可以执行成功。

数据和权重在线加载训练的内容未在本文档中提及，建议增加相关说明。

您好，感谢您的反馈。权重数据和一训练的特性为26.0.0分支上的新增特性，2.3.0分支可能未经过充分验证。

您提到的问题：prompt_type的可选项在https://gitcode.com/Ascend/MindSpeed-LLM/blob/master/configs/finetune/templates.json文件中配置，但未在该文件中找到相关配置。
templates.json保存了一个template列表，列表中每一个template的name字段就是prompt_type的选项。

我注意到您在使用2.3.0的镜像，但却在使用master分支的快速入门文档。由于为了提升易用性，更快让用户上手LLM仓库，在26.0.0分支及之后的快速入门改为了更简单的在线加载训练形式。
您可以参考安装指导获取26.0.0的镜像或者从源码安装后，再体验快速入门的章节。

使用26.0.0的镜像按照https://gitcode.com/Ascend/MindSpeed-LLM/blob/master/docs/zh/pytorch/training/quick_start.md该文档步骤操作一样会出现这个报错，文档中并未对权重数据训练合一功能有任何说明

感谢您的再次反馈，权重数据合一训练特性是26.0.0的新增特性，但是快速入门文档并未在26.0.0分支就刷新为在线加载训练形式，这点需要重新说明下。

所以您使用26.0.0分支时，需要使用26.0.0分支的快速入门文档。或者切换到master分支再按照https://gitcode.com/Ascend/MindSpeed-LLM/blob/master/docs/zh/pytorch/training/quick_start.md该文档操作。

再次感谢您的反馈，如果您目前没有其他问题，我们将根据流程关闭此 issue。
如后续有新的疑问或补充内容，欢迎随时重新打开本 issue，或另起一个新的 issue 进行提问。
感谢您的理解与支持！

再次感谢您的反馈，如果您目前没有其他问题，我们将根据流程关闭此 issue。