x

2026-03-29 17:25:11 +08:00
parent 5f1f2ccfc9
commit a339629039
4 changed files with 9 additions and 2 deletions
@@ -43,7 +43,7 @@
 - `models.default`：默认模型名
 - `models.selected`：当前生效模型名
 - `models.profiles`：模型配置集合
- 每个模型必须包含：`local_path`，并建议补充 `ctx`、`max_num_seqs`、`max_tokens`
+- 每个模型必须包含：`local_path`，并建议补充 `ctx`、`max_num_seqs`、`max_tokens`、`dtype`、`quantization`

 启动时会按以下优先级选模型：