LLMConfig

• LLMConfig构造函数

• generate_options

• device_id

• sync_kv_timeout

• enable_switch_role

• ge_options

• listen_ip_info

• mem_utilization

• buf_pool_cfg