【RTX Pro 4500】Qwen3.8 27B NVFP4在LM Studio挂载多模态模型

【RTX Pro 4500】Qwen3.8 27B NVFP4在LM Studio挂载多模态模型

前言

之前已经部署了模型：

https://lizhiyong.blog.csdn.net/article/details/163834176

虽然模型本身是多模态的，但是：

此时并不具备多模态功能！！！

强行使用会失败：

虽然GPU会有负载，但是结果表明不能识别：

所以需要按照作者的提示，去加载多模态模型：

地址在抱抱脸：

https://huggingface.co/esatapedico/Qwen3.8-27B-NVFP4-MTP-GGUF/tree/main

加载多模态模型

放置到模型的相同路径下：

此时就会出现神奇的事情：

这个模型此刻具有了多模态功能。

验证多模态功能

加载了多模态的模型后，此时显存占用会变多，到达26.6GB。

还是甩个相同的视频：

可惜在LM Studio里还是不具备视频识别能力：

验证图片识别能力

但是具备了图片识别能力：

识别准确率还不错：

未找到相关引用。这张图片呈现的是一个幽默拟人化的海滩场景：一只戴墨镜的豹子惬意地躺在沙滩的绿色毛巾上，毛巾上印着中文"虎鲸不是鱼"。它一手拿着报纸阅读，嘴里叼着吸管，正在喝一杯装有冰块、橙子片、西瓜块和薄荷叶的红色饮料。背景是阳光下的海滨，有椰子树、蓝色海水、遮阳伞以及若干模糊的游客，整体氛围轻松搞笑，像是在度假休闲。

这句未找到相关引用明显多余了。。。不过内容是描述出来了。

转载请注明出处：

https://lizhiyong.blog.csdn.net/article/details/163834242