mistral-7b

shizidushu2 个月前
docker·语言模型·llama·llama.cpp·mistral-7b
Docker下使用llama.cpp部署带Function calling和Json Mode功能的Mistral 7B模型说明：使用HuggingFace的镜像 https://hf-mirror.com/方式一：方式二（推荐）：