部署 Qwen3.8-27B 模型的朋友,死循环问题可以升级了。 https://huggingface.co/froggeric/Qwen-Fixed-Chat-Templates llama.cpp 的配置参数里指定模板文件:
--jinja --chat-template-file /model/Qwen3.8-27B/chat_template.jinja --reasoning-format deepseek
部署 Qwen3.8-27B 模型的朋友,死循环问题可以升级了。 https://huggingface.co/froggeric/Qwen-Fixed-Chat-Templates llama.cpp 的配置参数里指定模板文件:
--jinja --chat-template-file /model/Qwen3.8-27B/chat_template.jinja --reasoning-format deepseek
1
liangyuan1985 2 days ago
Qwen3.6-27B 就用了
|
2
jinsongzhaocn OP @liangyuan1985 几天前更新了一些 think 部分的内容,不知道替换后效果如何?
|