mindie

顾籽黎17 天前
mindie·deepseekv3.1·思考分离
MindIE 启动模型开启思考分离说明让 MindIE 启动的 DeepSeek-V3.1 模型在 OpenAI 接口返回中实现思考分离，即返回类似下面的结构：
好记忆不如烂笔头abc1 年前
mindie
mindie运行Qwen2.5-7B-Instruct正常，量化版Qwen2.5-72B-Instruct-GPTQ-Int4报错(base) root@huawei:/disk1/models# pwd /disk1/models (base) root@huawei:/disk1/models# cat /etc/issue Ubuntu 20.04 LTS \n \l
我是有底线的