atomgit@66cedc7007bfab54b01b61f4:~/CosyVoice$ python run_cosyvoice.py
/usr/local/python3.11.14/lib/python3.11/site-packages/torch_npu/utils/collect_env.py:58: UserWarning: Warning: The /usr/local/Ascend/cann-8.5.0 owner does not match the current owner.
warnings.warn(f"Warning: The {path} owner does not match the current owner.")
/usr/local/python3.11.14/lib/python3.11/site-packages/torch_npu/utils/collect_env.py:58: UserWarning: Warning: The /usr/local/Ascend/cann-8.5.0/aarch64-linux/ascend_toolkit_install.info owner does not match the current owner.
warnings.warn(f"Warning: The {path} owner does not match the current owner.")
/usr/local/python3.11.14/lib/python3.11/site-packages/torch_npu/utils/_path_manager.py:66: UserWarning: Permission mismatch: The owner of /usr/local/python3.11.14/lib/python3.11/site-packages/torch_npu/lib/libop_plugin_atb.so does not match.
warnings.warn(f"Permission mismatch: The owner of {path} does not match.")
/usr/local/python3.11.14/lib/python3.11/site-packages/torch_npu/utils/collect_env.py:58: UserWarning: Warning: The /usr/local/Ascend/cann-8.5.0 owner does not match the current owner.
warnings.warn(f"Warning: The {path} owner does not match the current owner.")
/usr/local/python3.11.14/lib/python3.11/site-packages/torch_npu/utils/collect_env.py:58: UserWarning: Warning: The /usr/local/Ascend/cann-8.5.0/aarch64-linux/ascend_toolkit_install.info owner does not match the current owner.
warnings.warn(f"Warning: The {path} owner does not match the current owner.")
INFO 03-19 10:50:32 [__init__.py:43] Available plugins for group vllm.platform_plugins:
INFO 03-19 10:50:32 [__init__.py:45] - ascend -> vllm_ascend:register
INFO 03-19 10:50:32 [__init__.py:48] All plugins in this group will be loaded. Set `VLLM_PLUGINS` to control which plugins to load.
INFO 03-19 10:50:33 [__init__.py:217] Platform plugin ascend is activated
WARNING 03-19 10:50:37 [interfaces_base.py:66] The model (<class 'cosyvoice.vllm.cosyvoice2.CosyVoice2ForCausalLM'>) is missing the `embed_input_ids` method.
WARNING 03-19 10:50:37 [interfaces_base.py:66] The model (<class 'cosyvoice.vllm.cosyvoice2.CosyVoice2ForCausalLM'>) is missing the `embed_input_ids` method.
WARNING 03-19 10:50:37 [interfaces_base.py:66] The model (<class 'cosyvoice.vllm.cosyvoice2.CosyVoice2ForCausalLM'>) is missing the `embed_input_ids` method.
path string is NULLpath string is NULLonnxruntime cpuid_info warning: Unknown CPU vendor. cpuinfo_vendor value: 15
正在从本地目录加载模型: /opt/atomgit/Fun-CosyVoice3-0.5B-2512
2026-03-19 10:50:48,294 INFO input frame rate=25
/usr/local/python3.11.14/lib/python3.11/site-packages/torch/nn/utils/weight_norm.py:144: FutureWarning: `torch.nn.utils.weight_norm` is deprecated in favor of `torch.nn.utils.parametrizations.weight_norm`.
WeightNorm.apply(module, name, dim)
Downloading Model to directory: /opt/atomgit/.cache/modelscope/hub/pengzhendong/wetext
2026-03-19 10:50:55,781 DEBUG Starting new HTTPS connection (1): www.modelscope.cn:443
2026-03-19 10:50:56,201 DEBUG https://www.modelscope.cn:443 "GET /api/v1/models/pengzhendong/wetext/revisions HTTP/1.1" 200 222
2026-03-19 10:50:56,317 DEBUG https://www.modelscope.cn:443 "GET /api/v1/models/pengzhendong/wetext/repo/files?Revision=master&Recursive=True HTTP/1.1" 200 None
Downloading Model to directory: /opt/atomgit/.cache/modelscope/hub/pengzhendong/wetext
2026-03-19 10:50:56,545 DEBUG Starting new HTTPS connection (1): www.modelscope.cn:443
2026-03-19 10:50:56,910 DEBUG https://www.modelscope.cn:443 "GET /api/v1/models/pengzhendong/wetext/revisions HTTP/1.1" 200 222
2026-03-19 10:50:57,021 DEBUG https://www.modelscope.cn:443 "GET /api/v1/models/pengzhendong/wetext/repo/files?Revision=master&Recursive=True HTTP/1.1" 200 None
2026-03-19 10:50:57,244 INFO use wetext frontend
2026-03-19 10:50:57,244 WARNING tensorrt only supports cuda, set load_trt to False
/opt/atomgit/.local/lib/python3.11/site-packages/pydantic/_internal/_fields.py:160: UserWarning: Field "model_identity" has conflict with protected namespace "model_".
You may be able to resolve this warning by setting `model_config['protected_namespaces'] = ()`.
warnings.warn(
INFO 03-19 10:51:10 [__init__.py:108] Registered model loader `<class 'vllm_ascend.model_loader.netloader.netloader.ModelNetLoaderElastic'>` with load format `netloader`
INFO 03-19 10:51:10 [model.py:530] Resolved architecture: Qwen2ForCausalLM
INFO 03-19 10:51:10 [model.py:1545] Using max model len 32768
INFO 03-19 10:51:10 [scheduler.py:229] Chunked prefill is enabled with max_num_batched_tokens=2048.
INFO 03-19 10:51:10 [vllm.py:630] Asynchronous scheduling is enabled.
INFO 03-19 10:51:10 [vllm.py:637] Disabling NCCL for DP synchronization when using async scheduling.
INFO 03-19 10:51:10 [ascend_config.py:55] Linear layer sharding enabled with config: None. Note: This feature works optimally with FLASHCOMM2 and DSA-CP enabled; using it without these features may result in significant performance degradation.
INFO 03-19 10:51:10 [platform.py:289] PIECEWISE compilation enabled on NPU. use_inductor not supported - using only ACL Graph mode
INFO 03-19 10:51:10 [utils.py:567] Calculated maximum supported batch sizes for ACL graph: 72
WARNING 03-19 10:51:10 [utils.py:568] Currently, communication is performed using FFTS+ method, which reduces the number of available streams and, as a result, limits the range of runtime shapes that can be handled. To both improve communication performance and increase the number of supported shapes, set HCCL_OP_EXPANSION_MODE=AIV.
INFO 03-19 10:51:10 [utils.py:599] No adjustment needed for ACL graph batch sizes: Qwen2ForCausalLM model (layers: 24) with 35 sizes
INFO 03-19 10:51:10 [platform.py:422] Set PYTORCH_NPU_ALLOC_CONF=expandable_segments:True
/usr/local/python3.11.14/lib/python3.11/site-packages/torch_npu/utils/collect_env.py:58: UserWarning: Warning: The /usr/local/Ascend/cann-8.5.0 owner does not match the current owner.
warnings.warn(f"Warning: The {path} owner does not match the current owner.")
/usr/local/python3.11.14/lib/python3.11/site-packages/torch_npu/utils/collect_env.py:58: UserWarning: Warning: The /usr/local/Ascend/cann-8.5.0/aarch64-linux/ascend_toolkit_install.info owner does not match the current owner.
warnings.warn(f"Warning: The {path} owner does not match the current owner.")
/usr/local/python3.11.14/lib/python3.11/site-packages/torch_npu/utils/_path_manager.py:66: UserWarning: Permission mismatch: The owner of /usr/local/python3.11.14/lib/python3.11/site-packages/torch_npu/lib/libop_plugin_atb.so does not match.
warnings.warn(f"Permission mismatch: The owner of {path} does not match.")
/usr/local/python3.11.14/lib/python3.11/site-packages/torch_npu/utils/collect_env.py:58: UserWarning: Warning: The /usr/local/Ascend/cann-8.5.0 owner does not match the current owner.
warnings.warn(f"Warning: The {path} owner does not match the current owner.")
/usr/local/python3.11.14/lib/python3.11/site-packages/torch_npu/utils/collect_env.py:58: UserWarning: Warning: The /usr/local/Ascend/cann-8.5.0/aarch64-linux/ascend_toolkit_install.info owner does not match the current owner.
warnings.warn(f"Warning: The {path} owner does not match the current owner.")
INFO 03-19 10:51:21 [__init__.py:43] Available plugins for group vllm.platform_plugins:
INFO 03-19 10:51:21 [__init__.py:45] - ascend -> vllm_ascend:register
INFO 03-19 10:51:21 [__init__.py:48] All plugins in this group will be loaded. Set `VLLM_PLUGINS` to control which plugins to load.
INFO 03-19 10:51:21 [__init__.py:217] Platform plugin ascend is activated
WARNING 03-19 10:51:25 [interfaces_base.py:66] The model (<class 'cosyvoice.vllm.cosyvoice2.CosyVoice2ForCausalLM'>) is missing the `embed_input_ids` method.
WARNING 03-19 10:51:25 [interfaces_base.py:66] The model (<class 'cosyvoice.vllm.cosyvoice2.CosyVoice2ForCausalLM'>) is missing the `embed_input_ids` method.
WARNING 03-19 10:51:25 [interfaces_base.py:66] The model (<class 'cosyvoice.vllm.cosyvoice2.CosyVoice2ForCausalLM'>) is missing the `embed_input_ids` method.
path string is NULLpath string is NULLonnxruntime cpuid_info warning: Unknown CPU vendor. cpuinfo_vendor value: 15
/opt/atomgit/.local/lib/python3.11/site-packages/pydantic/_internal/_fields.py:160: UserWarning: Field "model_identity" has conflict with protected namespace "model_".
You may be able to resolve this warning by setting `model_config['protected_namespaces'] = ()`.
warnings.warn(
(EngineCore_DP0 pid=28916) INFO 03-19 10:51:37 [__init__.py:108] Registered model loader `<class 'vllm_ascend.model_loader.netloader.netloader.ModelNetLoaderElastic'>` with load format `netloader`
(EngineCore_DP0 pid=28916) INFO 03-19 10:51:37 [core.py:97] Initializing a V1 LLM engine (v0.14.1) with config: model='/opt/atomgit/Fun-CosyVoice3-0.5B-2512/vllm', speculative_config=None, tokenizer='/opt/atomgit/Fun-CosyVoice3-0.5B-2512/vllm', skip_tokenizer_init=True, tokenizer_mode=auto, revision=None, tokenizer_revision=None, trust_remote_code=False, dtype=torch.bfloat16, max_seq_len=32768, download_dir=None, load_format=auto, tensor_parallel_size=1, pipeline_parallel_size=1, data_parallel_size=1, disable_custom_all_reduce=True, quantization=None, enforce_eager=False, enable_return_routed_experts=False, kv_cache_dtype=auto, device_config=npu, structured_outputs_config=StructuredOutputsConfig(backend='auto', disable_fallback=False, disable_any_whitespace=False, disable_additional_properties=False, reasoning_parser='', reasoning_parser_plugin='', enable_in_reasoning=False), observability_config=ObservabilityConfig(show_hidden_metrics_for_version=None, otlp_traces_endpoint=None, collect_detailed_traces=None, kv_cache_metrics=False, kv_cache_metrics_sample=0.01, cudagraph_metrics=False, enable_layerwise_nvtx_tracing=False, enable_mfu_metrics=False, enable_mm_processor_stats=False, enable_logging_iteration_details=False), seed=0, served_model_name=/opt/atomgit/Fun-CosyVoice3-0.5B-2512/vllm, enable_prefix_caching=True, enable_chunked_prefill=True, pooler_config=None, compilation_config={'level': None, 'mode': <CompilationMode.VLLM_COMPILE: 3>, 'debug_dump_path': None, 'cache_dir': '', 'compile_cache_save_format': 'binary', 'backend': 'vllm_ascend.compilation.compiler_interface.AscendCompiler', 'custom_ops': ['all'], 'splitting_ops': ['vllm::unified_attention', 'vllm::unified_attention_with_output', 'vllm::unified_mla_attention', 'vllm::unified_mla_attention_with_output', 'vllm::mamba_mixer2', 'vllm::mamba_mixer', 'vllm::short_conv', 'vllm::linear_attention', 'vllm::plamo2_mamba_mixer', 'vllm::gdn_attention_core', 'vllm::kda_attention', 'vllm::sparse_attn_indexer', 'vllm::mla_forward'], 'compile_mm_encoder': False, 'compile_sizes': [], 'compile_ranges_split_points': [2048], 'inductor_compile_config': {'enable_auto_functionalized_v2': False, 'combo_kernels': True, 'benchmark_combo_kernel': True}, 'inductor_passes': {}, 'cudagraph_mode': <CUDAGraphMode.PIECEWISE: 1>, 'cudagraph_num_of_warmups': 1, 'cudagraph_capture_sizes': [1, 2, 4, 8, 16, 24, 32, 40, 48, 56, 64, 72, 80, 88, 96, 104, 112, 120, 128, 136, 144, 152, 160, 168, 176, 184, 192, 200, 208, 216, 224, 232, 240, 248, 256], 'cudagraph_copy_inputs': False, 'cudagraph_specialize_lora': True, 'use_inductor_graph_partition': False, 'pass_config': {'fuse_norm_quant': True, 'fuse_act_quant': True, 'fuse_attn_quant': False, 'eliminate_noops': True, 'enable_sp': False, 'fuse_gemm_comms': False, 'fuse_allreduce_rms': False}, 'max_cudagraph_capture_size': 256, 'dynamic_shapes_config': {'type': <DynamicShapesType.BACKED: 'backed'>, 'evaluate_guards': False, 'assume_32_bit_indexing': True}, 'local_cache_dir': None}
[W319 10:51:40.599840960 compiler_depend.ts:37] Warning: A common user is using the files of the root user. (function operator())
(EngineCore_DP0 pid=28916) INFO 03-19 10:51:41 [ascend_config.py:55] Linear layer sharding enabled with config: None. Note: This feature works optimally with FLASHCOMM2 and DSA-CP enabled; using it without these features may result in significant performance degradation.
(EngineCore_DP0 pid=28916) INFO 03-19 10:51:41 [parallel_state.py:1214] world_size=1 rank=0 local_rank=0 distributed_init_method=tcp://10.202.69.115:41787 backend=hccl
[Gloo] Rank 0 is connected to 0 peer ranks. Expected number of connected peer ranks is : 0
[Gloo] Rank 0 is connected to 0 peer ranks. Expected number of connected peer ranks is : 0
[Gloo] Rank 0 is connected to 0 peer ranks. Expected number of connected peer ranks is : 0
[Gloo] Rank 0 is connected to 0 peer ranks. Expected number of connected peer ranks is : 0
[Gloo] Rank 0 is connected to 0 peer ranks. Expected number of connected peer ranks is : 0
[Gloo] Rank 0 is connected to 0 peer ranks. Expected number of connected peer ranks is : 0
(EngineCore_DP0 pid=28916) INFO 03-19 10:51:41 [parallel_state.py:1425] rank 0 in world size 1 is assigned as DP rank 0, PP rank 0, PCP rank 0, TP rank 0, EP rank N/A
[Gloo] Rank 0 is connected to 0 peer ranks. Expected number of connected peer ranks is : 0
(EngineCore_DP0 pid=28916) INFO 03-19 10:51:41 [model_runner_v1.py:2188] Starting to load model /opt/atomgit/Fun-CosyVoice3-0.5B-2512/vllm...
(EngineCore_DP0 pid=28916) INFO 03-19 10:51:42 [compilation.py:873] Using OOT custom backend for compilation.
Loading safetensors checkpoint shards: 0% Completed | 0/1 [00:00<?, ?it/s]
Loading safetensors checkpoint shards: 100% Completed | 1/1 [00:00<00:00, 6.99it/s]
Loading safetensors checkpoint shards: 100% Completed | 1/1 [00:00<00:00, 6.98it/s]
(EngineCore_DP0 pid=28916)
(EngineCore_DP0 pid=28916) INFO 03-19 10:51:42 [default_loader.py:291] Loading weights took 0.17 seconds
(EngineCore_DP0 pid=28916) INFO 03-19 10:51:44 [model_runner_v1.py:2205] Loading model weights took 0.7011 GB
(EngineCore_DP0 pid=28916) INFO 03-19 10:51:49 [backends.py:644] Using cache directory: /opt/atomgit/.cache/vllm/torch_compile_cache/e8979f63a4/rank_0_0/backbone for vLLM's torch.compile
(EngineCore_DP0 pid=28916) INFO 03-19 10:51:49 [backends.py:704] Dynamo bytecode transform time: 4.95 s
(EngineCore_DP0 pid=28916) INFO 03-19 10:52:04 [backends.py:278] Compiling a graph for compile range (1, 2048) takes 9.52 s
(EngineCore_DP0 pid=28916) INFO 03-19 10:52:04 [monitor.py:34] torch.compile takes 14.47 s in total
(EngineCore_DP0 pid=28916) INFO 03-19 10:52:04 [worker.py:291] Available memory: 1063429939, total memory: 31662800896
(EngineCore_DP0 pid=28916) INFO 03-19 10:52:04 [kv_cache_utils.py:1305] GPU KV cache size: 86,528 tokens
(EngineCore_DP0 pid=28916) INFO 03-19 10:52:04 [kv_cache_utils.py:1310] Maximum concurrency for 32,768 tokens per request: 2.64x
Capturing CUDA graphs (mixed prefill-decode, PIECEWISE): 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 35/35 [00:05<00:00, 6.46it/s]
(EngineCore_DP0 pid=28916) INFO 03-19 10:52:11 [gpu_model_runner.py:4856] Graph capturing finished in 7 secs, took 0.10 GiB
(EngineCore_DP0 pid=28916) INFO 03-19 10:52:11 [core.py:273] init engine (profile, create kv cache, warmup model) took 27.80 seconds
(EngineCore_DP0 pid=28916) INFO 03-19 10:52:12 [vllm.py:630] Asynchronous scheduling is enabled.
(EngineCore_DP0 pid=28916) WARNING 03-19 10:52:12 [platform.py:672] Parameter '--all2all-backend' is set to 'flashinfer_all2allv', which may be incompatible with Ascend. Using internal plugin mechanisms.
(EngineCore_DP0 pid=28916) INFO 03-19 10:52:12 [platform.py:289] PIECEWISE compilation enabled on NPU. use_inductor not supported - using only ACL Graph mode
(EngineCore_DP0 pid=28916) INFO 03-19 10:52:12 [utils.py:567] Calculated maximum supported batch sizes for ACL graph: 72
(EngineCore_DP0 pid=28916) WARNING 03-19 10:52:12 [utils.py:568] Currently, communication is performed using FFTS+ method, which reduces the number of available streams and, as a result, limits the range of runtime shapes that can be handled. To both improve communication performance and increase the number of supported shapes, set HCCL_OP_EXPANSION_MODE=AIV.
(EngineCore_DP0 pid=28916) INFO 03-19 10:52:12 [utils.py:599] No adjustment needed for ACL graph batch sizes: Qwen2ForCausalLM model (layers: 24) with 35 sizes
(EngineCore_DP0 pid=28916) INFO 03-19 10:52:12 [platform.py:422] Set PYTORCH_NPU_ALLOC_CONF=expandable_segments:True
0%| | 0/100 [00:00<?, ?it/sWARNING 03-19 10:52:12 [warnings.py:110] /opt/atomgit/CosyVoice/cosyvoice/cli/frontend.py:125: UserWarning: Cannot create tensor with interal format while allow_internel_format=False, tensor will be created with base format. (Triggered internally at build/CMakeFiles/torch_npu.dir/compiler_depend.ts:338.)
2026-03-19 10:52:15,773 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。
WARNING 03-19 10:52:15 [preprocess.py:83] Using None for EOS token id because tokenizer is not initialized
(EngineCore_DP0 pid=28916) INFO 03-19 10:52:15 [acl_graph.py:185] Replaying aclgraph
[W319 10:52:22.438135860 compiler_depend.ts:164] Warning: Device do not support double dtype now, dtype cast replace with float. (function operator())
2026-03-19 10:52:22,890 INFO yield speech len 11.16, rtf 0.6377183408292818
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:10<00:00, 10.13s/it]
1%|█▋ | 1/100 [00:10<16:42, 10.13s/it2026-03-19 10:52:25,721 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:52:26 [loggers.py:257] Engine 000: Avg prompt throughput: 24.0 tokens/s, Avg generation throughput: 23.8 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 39.8%
2026-03-19 10:52:31,863 INFO yield speech len 11.32, rtf 0.5425990891540851
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:08<00:00, 8.97s/it]
2%|███▍ | 2/100 [00:19<15:25, 9.45s/it2026-03-19 10:52:34,674 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:52:36 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 35.6 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 53.0%
2026-03-19 10:52:41,619 INFO yield speech len 12.6, rtf 0.5512180971720863
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.75s/it]
3%|█████ | 3/100 [00:28<15:29, 9.59s/it2026-03-19 10:52:44,436 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:52:46 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 35.6 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 59.6%
2026-03-19 10:52:50,595 INFO yield speech len 11.36, rtf 0.5421321366874265
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:08<00:00, 8.97s/it]
4%|██████▊ | 4/100 [00:37<14:57, 9.35s/it2026-03-19 10:52:53,406 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:52:56 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 35.6 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 63.6%
2026-03-19 10:52:59,412 INFO yield speech len 11.04, rtf 0.5440231250680012
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:08<00:00, 8.82s/it]
5%|████████▌ | 5/100 [00:46<14:29, 9.16s/it2026-03-19 10:53:02,202 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:53:06 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 36.2 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 66.3%
2026-03-19 10:53:09,332 INFO yield speech len 11.04, rtf 0.6458454157995142
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.92s/it]
6%|██████████▏ | 6/100 [00:56<14:45, 9.42s/it2026-03-19 10:53:12,134 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:53:16 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 35.2 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 68.1%
2026-03-19 10:53:18,440 INFO yield speech len 11.08, rtf 0.5691463336187149
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.11s/it]
7%|███████████▉ | 7/100 [01:05<14:26, 9.31s/it2026-03-19 10:53:21,250 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:53:26 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 35.8 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.6%, Prefix cache hit rate: 69.6%
2026-03-19 10:53:27,053 INFO yield speech len 10.52, rtf 0.5516344376843239
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:08<00:00, 8.61s/it]
8%|█████████████▌ | 8/100 [01:14<13:56, 9.09s/it2026-03-19 10:53:29,863 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
2026-03-19 10:53:36,204 INFO yield speech len 11.84, rtf 0.5355652522396397
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.15s/it]
9%|███████████████▎ | 9/100 [01:23<13:49, 9.11s/it2026-03-19 10:53:39,013 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:53:39 [loggers.py:257] Engine 000: Avg prompt throughput: 12.6 tokens/s, Avg generation throughput: 25.4 tokens/s, Running: 0 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.0%, Prefix cache hit rate: 70.7%
2026-03-19 10:53:45,826 INFO yield speech len 12.52, rtf 0.5442150675069791
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.62s/it]
10%|████████████████▉ | 10/100 [01:33<13:54, 9.27s/it2026-03-19 10:53:48,624 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:53:49 [loggers.py:257] Engine 000: Avg prompt throughput: 32.2 tokens/s, Avg generation throughput: 35.9 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 72.3%
2026-03-19 10:53:55,163 INFO yield speech len 12.08, rtf 0.5413307062047996
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.33s/it]
11%|██████████████████▌ | 11/100 [01:42<13:46, 9.29s/it2026-03-19 10:53:57,952 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:53:59 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 35.5 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 72.9%
2026-03-19 10:54:04,648 INFO yield speech len 12.08, rtf 0.5542900980703088
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.48s/it]
12%|████████████████████▎ | 12/100 [01:51<13:42, 9.35s/it2026-03-19 10:54:07,439 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:54:09 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 34.7 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 73.4%
2026-03-19 10:54:13,746 INFO yield speech len 11.16, rtf 0.5651134957549393
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.10s/it]
13%|█████████████████████▉ | 13/100 [02:00<13:26, 9.27s/it2026-03-19 10:54:16,553 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:54:19 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 35.2 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 73.8%
2026-03-19 10:54:22,749 INFO yield speech len 10.84, rtf 0.571608895305338
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.00s/it]
14%|███████████████████████▋ | 14/100 [02:09<13:10, 9.19s/it2026-03-19 10:54:25,568 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:54:29 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 35.4 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 74.2%
2026-03-19 10:54:31,440 INFO yield speech len 11.36, rtf 0.5169532248671626
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:08<00:00, 8.69s/it]
15%|█████████████████████████▎ | 15/100 [02:18<12:48, 9.04s/it2026-03-19 10:54:34,244 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:54:39 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 35.5 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.6%, Prefix cache hit rate: 74.5%
2026-03-19 10:54:39,650 INFO yield speech len 10.0, rtf 0.5405614614486695
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:08<00:00, 8.21s/it]
16%|███████████████████████████ | 16/100 [02:26<12:18, 8.79s/it2026-03-19 10:54:42,457 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
2026-03-19 10:54:48,997 INFO yield speech len 12.56, rtf 0.5207229192089883
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.35s/it]
17%|████████████████████████████▋ | 17/100 [02:36<12:23, 8.96s/it2026-03-19 10:54:51,792 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:54:51 [loggers.py:257] Engine 000: Avg prompt throughput: 12.6 tokens/s, Avg generation throughput: 25.4 tokens/s, Running: 0 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.0%, Prefix cache hit rate: 74.8%
2026-03-19 10:54:58,379 INFO yield speech len 11.88, rtf 0.5544861358424228
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.38s/it]
18%|██████████████████████████████▍ | 18/100 [02:45<12:24, 9.09s/it2026-03-19 10:55:01,182 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:55:01 [loggers.py:257] Engine 000: Avg prompt throughput: 32.2 tokens/s, Avg generation throughput: 35.8 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 75.3%
2026-03-19 10:55:07,398 INFO yield speech len 11.88, rtf 0.5232693972410979
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.02s/it]
19%|████████████████████████████████ | 19/100 [02:54<12:14, 9.07s/it2026-03-19 10:55:10,203 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:55:11 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 35.7 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 75.5%
2026-03-19 10:55:16,165 INFO yield speech len 11.0, rtf 0.5419763435016979
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:08<00:00, 8.77s/it]
20%|█████████████████████████████████▊ | 20/100 [03:03<11:58, 8.98s/it2026-03-19 10:55:18,975 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:55:21 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 34.6 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 75.7%
2026-03-19 10:55:24,997 INFO yield speech len 11.16, rtf 0.5396247337368654
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:08<00:00, 8.83s/it]
21%|███████████████████████████████████▍ | 21/100 [03:12<11:45, 8.93s/it2026-03-19 10:55:27,806 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:55:31 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 35.9 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 75.9%
2026-03-19 10:55:33,766 INFO yield speech len 10.76, rtf 0.5538864428225946
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:08<00:00, 8.77s/it]
22%|█████████████████████████████████████▏ | 22/100 [03:21<11:32, 8.88s/it2026-03-19 10:55:36,611 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:55:41 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 35.8 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.6%, Prefix cache hit rate: 76.0%
2026-03-19 10:55:42,737 INFO yield speech len 11.72, rtf 0.5226595613329891
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:08<00:00, 8.97s/it]
23%|██████████████████████████████████████▊ | 23/100 [03:29<11:26, 8.91s/it2026-03-19 10:55:45,580 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
2026-03-19 10:55:52,204 INFO yield speech len 12.44, rtf 0.5324384790524793
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.47s/it]
24%|████████████████████████████████████████▌ | 24/100 [03:39<11:29, 9.08s/it2026-03-19 10:55:55,036 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:55:55 [loggers.py:257] Engine 000: Avg prompt throughput: 12.2 tokens/s, Avg generation throughput: 26.2 tokens/s, Running: 0 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.0%, Prefix cache hit rate: 76.2%
2026-03-19 10:56:00,782 INFO yield speech len 10.52, rtf 0.5461441926629824
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:08<00:00, 8.58s/it]
25%|██████████████████████████████████████████▎ | 25/100 [03:48<11:09, 8.93s/it2026-03-19 10:56:03,612 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:56:05 [loggers.py:257] Engine 000: Avg prompt throughput: 32.2 tokens/s, Avg generation throughput: 34.9 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 76.4%
2026-03-19 10:56:09,483 INFO yield speech len 10.48, rtf 0.560227946470712
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:08<00:00, 8.70s/it]
26%|███████████████████████████████████████████▉ | 26/100 [03:56<10:55, 8.86s/it2026-03-19 10:56:12,292 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:56:15 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 35.2 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 76.6%
2026-03-19 10:56:18,866 INFO yield speech len 11.24, rtf 0.584903391230573
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.38s/it]
27%|█████████████████████████████████████████████▋ | 27/100 [04:06<10:58, 9.02s/it2026-03-19 10:56:21,661 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:56:25 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 35.4 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 76.7%
2026-03-19 10:56:27,842 INFO yield speech len 10.48, rtf 0.5898076386852119
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:08<00:00, 8.97s/it]
28%|███████████████████████████████████████████████▎ | 28/100 [04:15<10:48, 9.00s/it2026-03-19 10:56:30,646 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:56:35 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 35.8 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.6%, Prefix cache hit rate: 76.8%
2026-03-19 10:56:37,175 INFO yield speech len 11.64, rtf 0.5609015828555391
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.33s/it]
29%|█████████████████████████████████████████████████ | 29/100 [04:24<10:46, 9.10s/it2026-03-19 10:56:39,998 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:56:45 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 34.7 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.6%, Prefix cache hit rate: 76.9%
2026-03-19 10:56:46,561 INFO yield speech len 11.44, rtf 0.5736381857545226
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.38s/it]
30%|██████████████████████████████████████████████████▋ | 30/100 [04:33<10:43, 9.19s/it2026-03-19 10:56:49,366 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:56:55 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 33.3 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.6%, Prefix cache hit rate: 76.9%
2026-03-19 10:56:56,338 INFO yield speech len 12.28, rtf 0.567798078642606
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.78s/it]
31%|████████████████████████████████████████████████████▍ | 31/100 [04:43<10:46, 9.36s/it2026-03-19 10:56:59,144 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
2026-03-19 10:57:05,253 INFO yield speech len 10.68, rtf 0.5720079168398282
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:08<00:00, 8.91s/it]
32%|██████████████████████████████████████████████████████ | 32/100 [04:52<10:27, 9.23s/it2026-03-19 10:57:08,066 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:57:08 [loggers.py:257] Engine 000: Avg prompt throughput: 12.4 tokens/s, Avg generation throughput: 23.7 tokens/s, Running: 0 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.0%, Prefix cache hit rate: 77.0%
2026-03-19 10:57:14,783 INFO yield speech len 11.68, rtf 0.5750476905744369
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.53s/it]
33%|███████████████████████████████████████████████████████▊ | 33/100 [05:02<10:24, 9.32s/it2026-03-19 10:57:17,596 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:57:18 [loggers.py:257] Engine 000: Avg prompt throughput: 32.2 tokens/s, Avg generation throughput: 32.2 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 77.2%
2026-03-19 10:57:25,206 INFO yield speech len 12.2, rtf 0.623770444119563
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:10<00:00, 10.42s/it]
34%|█████████████████████████████████████████████████████████▍ | 34/100 [05:12<10:36, 9.65s/it2026-03-19 10:57:27,993 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:57:28 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.3 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 77.2%
2026-03-19 10:57:34,292 INFO yield speech len 10.4, rtf 0.6056740421515244
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.08s/it]
35%|███████████████████████████████████████████████████████████▏ | 35/100 [05:21<10:16, 9.48s/it2026-03-19 10:57:37,105 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:57:38 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 33.2 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 77.3%
2026-03-19 10:57:44,141 INFO yield speech len 11.72, rtf 0.6003087291131654
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.85s/it]
36%|████████████████████████████████████████████████████████████▊ | 36/100 [05:31<10:13, 9.59s/it2026-03-19 10:57:46,950 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:57:48 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.7 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 77.4%
2026-03-19 10:57:53,621 INFO yield speech len 11.88, rtf 0.5614734859980316
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.48s/it]
37%|██████████████████████████████████████████████████████████████▌ | 37/100 [05:40<10:02, 9.56s/it2026-03-19 10:57:56,424 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:57:58 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 33.0 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 77.4%
2026-03-19 10:58:03,631 INFO yield speech len 11.4, rtf 0.6322140442697626
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:10<00:00, 10.01s/it]
38%|████████████████████████████████████████████████████████████████▏ | 38/100 [05:50<10:01, 9.69s/it2026-03-19 10:58:06,428 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:58:08 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.7 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 77.5%
2026-03-19 10:58:14,127 INFO yield speech len 12.0, rtf 0.6416399280230204
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:10<00:00, 10.49s/it]
39%|█████████████████████████████████████████████████████████████████▉ | 39/100 [06:01<10:06, 9.93s/it2026-03-19 10:58:16,930 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:58:18 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.3 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 77.5%
2026-03-19 10:58:23,633 INFO yield speech len 11.52, rtf 0.5818715939919155
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.50s/it]
40%|███████████████████████████████████████████████████████████████████▌ | 40/100 [06:10<09:48, 9.81s/it2026-03-19 10:58:26,434 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:58:28 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.5 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 77.6%
2026-03-19 10:58:33,115 INFO yield speech len 11.2, rtf 0.5964858829975128
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.48s/it]
41%|█████████████████████████████████████████████████████████████████████▎ | 41/100 [06:20<09:32, 9.71s/it2026-03-19 10:58:35,914 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:58:38 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.9 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 77.6%
2026-03-19 10:58:43,081 INFO yield speech len 12.96, rtf 0.5530028615468814
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.96s/it]
42%|██████████████████████████████████████████████████████████████████████▉ | 42/100 [06:30<09:27, 9.79s/it2026-03-19 10:58:45,905 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:58:48 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 33.0 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 77.7%
2026-03-19 10:58:52,902 INFO yield speech len 12.56, rtf 0.5571122382097183
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.82s/it]
43%|████████████████████████████████████████████████████████████████████████▋ | 43/100 [06:40<09:18, 9.80s/it2026-03-19 10:58:55,745 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:58:58 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 33.1 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 77.7%
2026-03-19 10:59:02,065 INFO yield speech len 11.32, rtf 0.55823404039174
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.16s/it]
44%|██████████████████████████████████████████████████████████████████████████▎ | 44/100 [06:49<08:57, 9.61s/it2026-03-19 10:59:04,918 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:59:08 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.1 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 77.7%
2026-03-19 10:59:12,071 INFO yield speech len 11.96, rtf 0.5980964488409035
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:10<00:00, 10.00s/it]
45%|████████████████████████████████████████████████████████████████████████████ | 45/100 [06:59<08:54, 9.73s/it2026-03-19 10:59:14,905 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:59:18 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.7 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 77.8%
2026-03-19 10:59:23,151 INFO yield speech len 11.92, rtf 0.6917650067566226
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:11<00:00, 11.08s/it]
46%|█████████████████████████████████████████████████████████████████████████████▋ | 46/100 [07:10<09:07, 10.13s/it2026-03-19 10:59:25,981 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:59:28 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.2 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 77.8%
2026-03-19 10:59:32,336 INFO yield speech len 10.68, rtf 0.5951072839315464
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.18s/it]
47%|███████████████████████████████████████████████████████████████████████████████▍ | 47/100 [07:19<08:41, 9.85s/it2026-03-19 10:59:35,165 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:59:38 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.4 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 77.8%
2026-03-19 10:59:41,975 INFO yield speech len 11.56, rtf 0.5891536140111903
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.64s/it]
48%|█████████████████████████████████████████████████████████████████████████████████ | 48/100 [07:29<08:28, 9.79s/it2026-03-19 10:59:44,808 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:59:48 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.5 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 77.9%
2026-03-19 10:59:51,669 INFO yield speech len 11.48, rtf 0.5976608405960562
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.69s/it]
49%|██████████████████████████████████████████████████████████████████████████████████▊ | 49/100 [07:38<08:17, 9.76s/it2026-03-19 10:59:54,467 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 10:59:58 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.4 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 77.9%
2026-03-19 11:00:01,906 INFO yield speech len 12.4, rtf 0.5999420535179877
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:10<00:00, 10.24s/it]
50%|████████████████████████████████████████████████████████████████████████████████████▌ | 50/100 [07:49<08:15, 9.90s/it2026-03-19 11:00:04,732 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:00:08 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.7 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 77.9%
2026-03-19 11:00:10,732 INFO yield speech len 10.6, rtf 0.5659779737580497
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:08<00:00, 8.82s/it]
51%|██████████████████████████████████████████████████████████████████████████████████████▏ | 51/100 [07:57<07:49, 9.58s/it2026-03-19 11:00:13,562 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:00:18 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.3 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.6%, Prefix cache hit rate: 78.0%
2026-03-19 11:00:21,070 INFO yield speech len 12.44, rtf 0.6035346885202783
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:10<00:00, 10.34s/it]
52%|███████████████████████████████████████████████████████████████████████████████████████▉ | 52/100 [08:08<07:50, 9.81s/it2026-03-19 11:00:23,911 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:00:28 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.5 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 78.0%
2026-03-19 11:00:31,075 INFO yield speech len 12.2, rtf 0.587191288588477
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:10<00:00, 10.00s/it]
53%|█████████████████████████████████████████████████████████████████████████████████████████▌ | 53/100 [08:18<07:43, 9.87s/it2026-03-19 11:00:33,889 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:00:38 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.0 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 78.0%
2026-03-19 11:00:40,650 INFO yield speech len 12.2, rtf 0.5541730513338183
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.57s/it]
54%|███████████████████████████████████████████████████████████████████████████████████████████▎ | 54/100 [08:27<07:29, 9.78s/it2026-03-19 11:00:43,446 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:00:48 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.8 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.6%, Prefix cache hit rate: 78.1%
2026-03-19 11:00:51,884 INFO yield speech len 15.0, rtf 0.5624971707661947
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:11<00:00, 11.23s/it]
55%|████████████████████████████████████████████████████████████████████████████████████████████▉ | 55/100 [08:39<07:39, 10.22s/it2026-03-19 11:00:54,720 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:00:58 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 31.9 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 78.1%
2026-03-19 11:01:01,317 INFO yield speech len 11.04, rtf 0.5975706637769506
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.43s/it]
56%|██████████████████████████████████████████████████████████████████████████████████████████████▋ | 56/100 [08:48<07:19, 9.98s/it2026-03-19 11:01:04,135 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:01:08 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 31.8 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 78.1%
2026-03-19 11:01:10,373 INFO yield speech len 10.76, rtf 0.5797592459114954
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.05s/it]
57%|████████████████████████████████████████████████████████████████████████████████████████████████▎ | 57/100 [08:57<06:57, 9.70s/it2026-03-19 11:01:13,192 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:01:18 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.6 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.6%, Prefix cache hit rate: 78.1%
2026-03-19 11:01:20,435 INFO yield speech len 11.72, rtf 0.6179367926340461
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:10<00:00, 10.06s/it]
58%|██████████████████████████████████████████████████████████████████████████████████████████████████ | 58/100 [09:07<06:52, 9.81s/it2026-03-19 11:01:23,306 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:01:28 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 31.2 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.6%, Prefix cache hit rate: 78.2%
2026-03-19 11:01:30,399 INFO yield speech len 11.08, rtf 0.6402452930216325
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.96s/it]
59%|███████████████████████████████████████████████████████████████████████████████████████████████████▋ | 59/100 [09:17<06:44, 9.86s/it2026-03-19 11:01:33,257 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:01:38 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.1 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.6%, Prefix cache hit rate: 78.2%
2026-03-19 11:01:40,077 INFO yield speech len 11.92, rtf 0.5721444051537737
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.68s/it]
60%|█████████████████████████████████████████████████████████████████████████████████████████████████████▍ | 60/100 [09:27<06:32, 9.80s/it2026-03-19 11:01:42,925 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:01:48 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 31.9 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.6%, Prefix cache hit rate: 78.2%
2026-03-19 11:01:49,544 INFO yield speech len 11.32, rtf 0.5847809171508142
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.47s/it]
61%|███████████████████████████████████████████████████████████████████████████████████████████████████████ | 61/100 [09:36<06:18, 9.70s/it2026-03-19 11:01:52,378 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:01:58 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 30.9 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.6%, Prefix cache hit rate: 78.2%
2026-03-19 11:01:59,555 INFO yield speech len 10.88, rtf 0.6596077452687655
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:10<00:00, 10.01s/it]
62%|████████████████████████████████████████████████████████████████████████████████████████████████████████▊ | 62/100 [09:46<06:12, 9.79s/it2026-03-19 11:02:02,376 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:02:08 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 31.3 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.6%, Prefix cache hit rate: 78.2%
2026-03-19 11:02:09,732 INFO yield speech len 12.0, rtf 0.612968643506368
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:10<00:00, 10.18s/it]
63%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▍ | 63/100 [09:56<06:06, 9.91s/it2026-03-19 11:02:12,561 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:02:18 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 31.5 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.6%, Prefix cache hit rate: 78.3%
2026-03-19 11:02:19,896 INFO yield speech len 11.4, rtf 0.6433970258947004
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:10<00:00, 10.16s/it]
64%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ | 64/100 [10:07<05:59, 9.99s/it2026-03-19 11:02:22,707 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:02:28 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 31.6 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.6%, Prefix cache hit rate: 78.3%
2026-03-19 11:02:29,345 INFO yield speech len 11.24, rtf 0.5905169609178428
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.45s/it]
65%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▊ | 65/100 [10:16<05:43, 9.82s/it2026-03-19 11:02:32,151 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
2026-03-19 11:02:38,903 INFO yield speech len 11.72, rtf 0.5761085109905985
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.56s/it]
66%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████▌ | 66/100 [10:26<05:31, 9.74s/it2026-03-19 11:02:41,709 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:02:41 [loggers.py:257] Engine 000: Avg prompt throughput: 12.1 tokens/s, Avg generation throughput: 23.9 tokens/s, Running: 0 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.0%, Prefix cache hit rate: 78.3%
2026-03-19 11:02:49,690 INFO yield speech len 12.52, rtf 0.6374785884881553
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:10<00:00, 10.79s/it]
67%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ | 67/100 [10:36<05:31, 10.06s/it2026-03-19 11:02:52,502 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:02:52 [loggers.py:257] Engine 000: Avg prompt throughput: 14.9 tokens/s, Avg generation throughput: 32.7 tokens/s, Running: 0 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.0%, Prefix cache hit rate: 78.3%
2026-03-19 11:02:59,536 INFO yield speech len 10.72, rtf 0.6561562196532291
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.84s/it]
68%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉ | 68/100 [10:46<05:19, 9.99s/it2026-03-19 11:03:02,341 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:03:02 [loggers.py:257] Engine 000: Avg prompt throughput: 32.1 tokens/s, Avg generation throughput: 31.5 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 78.4%
2026-03-19 11:03:10,239 INFO yield speech len 12.6, rtf 0.6268200420197987
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:10<00:00, 10.70s/it]
69%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌ | 69/100 [10:57<05:16, 10.21s/it2026-03-19 11:03:13,067 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:03:13 [loggers.py:257] Engine 000: Avg prompt throughput: 0.0 tokens/s, Avg generation throughput: 33.6 tokens/s, Running: 0 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.0%, Prefix cache hit rate: 78.4%
2026-03-19 11:03:19,794 INFO yield speech len 11.32, rtf 0.5942661012440604
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.56s/it]
70%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎ | 70/100 [11:07<05:00, 10.01s/it2026-03-19 11:03:22,616 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:03:23 [loggers.py:257] Engine 000: Avg prompt throughput: 32.1 tokens/s, Avg generation throughput: 32.2 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 78.4%
2026-03-19 11:03:28,800 INFO yield speech len 10.76, rtf 0.5746843424871508
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:08<00:00, 8.99s/it]
71%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉ | 71/100 [11:16<04:41, 9.71s/it2026-03-19 11:03:31,627 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:03:33 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.8 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 78.4%
2026-03-19 11:03:38,724 INFO yield speech len 11.6, rtf 0.6117627744016977
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.92s/it]
72%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋ | 72/100 [11:25<04:33, 9.77s/it2026-03-19 11:03:41,545 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:03:43 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.0 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 78.4%
2026-03-19 11:03:49,181 INFO yield speech len 12.76, rtf 0.5984423302557775
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:10<00:00, 10.46s/it]
73%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎ | 73/100 [11:36<04:29, 9.98s/it2026-03-19 11:03:51,985 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:03:53 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.2 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 78.4%
2026-03-19 11:03:59,390 INFO yield speech len 11.88, rtf 0.6233482047764941
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:10<00:00, 10.21s/it]
74%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████ | 74/100 [11:46<04:21, 10.05s/it2026-03-19 11:04:02,206 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:04:03 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.6 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 78.4%
2026-03-19 11:04:08,971 INFO yield speech len 11.76, rtf 0.575326900092923
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.58s/it]
75%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊ | 75/100 [11:56<04:07, 9.91s/it2026-03-19 11:04:11,800 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:04:13 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 31.9 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 78.5%
2026-03-19 11:04:18,340 INFO yield speech len 11.28, rtf 0.5798133975225138
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.37s/it]
76%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍ | 76/100 [12:05<03:53, 9.75s/it2026-03-19 11:04:21,154 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:04:23 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 31.8 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 78.5%
2026-03-19 11:04:27,831 INFO yield speech len 11.16, rtf 0.5982970678678123
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.49s/it]
77%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ | 77/100 [12:15<03:42, 9.67s/it2026-03-19 11:04:30,642 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:04:33 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 31.9 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 78.5%
2026-03-19 11:04:37,642 INFO yield speech len 11.44, rtf 0.6118338008026977
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.81s/it]
78%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊ | 78/100 [12:24<03:33, 9.71s/it2026-03-19 11:04:40,468 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:04:43 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.5 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 78.5%
2026-03-19 11:04:47,409 INFO yield speech len 12.24, rtf 0.5670085062388501
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.77s/it]
79%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌ | 79/100 [12:34<03:24, 9.73s/it2026-03-19 11:04:50,233 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:04:53 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 31.4 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 78.5%
2026-03-19 11:04:56,205 INFO yield speech len 9.56, rtf 0.6246428609393131
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:08<00:00, 8.79s/it]
80%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ | 80/100 [12:43<03:08, 9.45s/it2026-03-19 11:04:59,024 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:05:03 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 30.7 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 78.5%
2026-03-19 11:05:05,424 INFO yield speech len 10.48, rtf 0.610710373361602
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.22s/it]
81%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉ | 81/100 [12:52<02:58, 9.38s/it2026-03-19 11:05:08,220 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:05:13 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.0 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.6%, Prefix cache hit rate: 78.5%
2026-03-19 11:05:14,640 INFO yield speech len 11.0, rtf 0.5836886059154164
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.21s/it]
82%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌ | 82/100 [13:01<02:47, 9.33s/it2026-03-19 11:05:17,446 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
2026-03-19 11:05:23,396 INFO yield speech len 10.44, rtf 0.5699226225929699
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:08<00:00, 8.75s/it]
83%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎ | 83/100 [13:10<02:35, 9.16s/it2026-03-19 11:05:26,228 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:05:26 [loggers.py:257] Engine 000: Avg prompt throughput: 12.4 tokens/s, Avg generation throughput: 24.0 tokens/s, Running: 0 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.0%, Prefix cache hit rate: 78.5%
2026-03-19 11:05:32,909 INFO yield speech len 11.28, rtf 0.5922852467137871
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.51s/it]
84%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉ | 84/100 [13:20<02:28, 9.26s/it2026-03-19 11:05:35,726 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:05:36 [loggers.py:257] Engine 000: Avg prompt throughput: 32.2 tokens/s, Avg generation throughput: 32.7 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 78.6%
2026-03-19 11:05:42,688 INFO yield speech len 12.2, rtf 0.5706925470320905
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.78s/it]
85%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋ | 85/100 [13:29<02:21, 9.42s/it2026-03-19 11:05:45,506 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:05:46 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.1 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 78.6%
2026-03-19 11:05:53,754 INFO yield speech len 12.16, rtf 0.6782908188669305
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:11<00:00, 11.06s/it]
86%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎ | 86/100 [13:40<02:18, 9.91s/it2026-03-19 11:05:56,553 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:05:56 [loggers.py:257] Engine 000: Avg prompt throughput: 0.0 tokens/s, Avg generation throughput: 29.6 tokens/s, Running: 0 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.0%, Prefix cache hit rate: 78.6%
2026-03-19 11:06:03,659 INFO yield speech len 12.2, rtf 0.5824518594585482
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.90s/it]
87%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████ | 87/100 [13:50<02:08, 9.91s/it2026-03-19 11:06:06,481 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:06:06 [loggers.py:257] Engine 000: Avg prompt throughput: 32.2 tokens/s, Avg generation throughput: 32.4 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 78.6%
2026-03-19 11:06:13,593 INFO yield speech len 12.4, rtf 0.5735642487002957
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.93s/it]
88%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋ | 88/100 [14:00<01:59, 9.92s/it2026-03-19 11:06:16,406 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:06:16 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 33.1 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 78.6%
2026-03-19 11:06:22,622 INFO yield speech len 10.68, rtf 0.5819984143146415
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.03s/it]
89%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍ | 89/100 [14:09<01:46, 9.65s/it2026-03-19 11:06:25,455 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:06:26 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.1 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 78.6%
2026-03-19 11:06:32,916 INFO yield speech len 11.88, rtf 0.627993112461334
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:10<00:00, 10.29s/it]
90%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████ | 90/100 [14:20<01:38, 9.84s/it2026-03-19 11:06:35,743 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:06:36 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 31.8 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 78.6%
2026-03-19 11:06:42,411 INFO yield speech len 11.0, rtf 0.6061815998770974
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.49s/it]
91%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊ | 91/100 [14:29<01:27, 9.74s/it2026-03-19 11:06:45,259 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:06:46 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.5 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 78.6%
2026-03-19 11:06:51,924 INFO yield speech len 10.4, rtf 0.6408486916468693
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.51s/it]
92%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍ | 92/100 [14:39<01:17, 9.67s/it2026-03-19 11:06:54,764 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:06:56 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 31.9 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 78.6%
2026-03-19 11:07:01,345 INFO yield speech len 9.96, rtf 0.6607807304964486
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.42s/it]
93%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ | 93/100 [14:48<01:07, 9.60s/it2026-03-19 11:07:04,161 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:07:06 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 29.8 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 78.7%
2026-03-19 11:07:12,389 INFO yield speech len 12.92, rtf 0.6368576004040131
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:11<00:00, 11.04s/it]
94%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊ | 94/100 [14:59<01:00, 10.03s/it2026-03-19 11:07:15,211 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:07:16 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 30.0 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 78.7%
2026-03-19 11:07:21,969 INFO yield speech len 11.2, rtf 0.6033532108579364
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.58s/it]
95%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌ | 95/100 [15:09<00:49, 9.90s/it2026-03-19 11:07:24,809 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:07:26 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.4 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 78.7%
2026-03-19 11:07:32,970 INFO yield speech len 12.32, rtf 0.6623596727073967
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:10<00:00, 11.00s/it]
96%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ | 96/100 [15:20<00:40, 10.23s/it2026-03-19 11:07:35,815 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:07:36 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 29.4 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 78.7%
2026-03-19 11:07:42,563 INFO yield speech len 11.84, rtf 0.569892896188272
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.59s/it]
97%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉ | 97/100 [15:29<00:30, 10.04s/it2026-03-19 11:07:45,396 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:07:46 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 32.5 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 78.7%
2026-03-19 11:07:52,444 INFO yield speech len 11.76, rtf 0.5993066596336105
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.88s/it]
98%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌ | 98/100 [15:39<00:19, 9.99s/it2026-03-19 11:07:55,279 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:07:56 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 31.3 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.3%, Prefix cache hit rate: 78.7%
2026-03-19 11:08:01,608 INFO yield speech len 10.48, rtf 0.6039238385571778
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.16s/it]
99%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎ | 99/100 [15:48<00:09, 9.74s/it2026-03-19 11:08:04,436 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
INFO 03-19 11:08:06 [loggers.py:257] Engine 000: Avg prompt throughput: 16.1 tokens/s, Avg generation throughput: 31.6 tokens/s, Running: 1 reqs, Waiting: 0 reqs, GPU KV cache usage: 0.4%, Prefix cache hit rate: 78.7%
2026-03-19 11:08:10,964 INFO yield speech len 11.2, rtf 0.5828483615602766
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:09<00:00, 9.35s/it]
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 100/100 [15:58<00:00, 9.58s/it]
sys:1: DeprecationWarning: builtin type swigvarlink has no __module__ attribute