技术栈

minicpm-v

神奇的代码在哪里
20 天前
ocr·多模态大模型·llama.cpp·gguf·minicpm-v
没有独显也能跑多模态:MiniCPM-V 4.7-1B 本地 OCR 实测(附源码)想在没有独立显卡的机器上跑多模态大模型做 OCR?本文用 llama.cpp + GGUF 在一台 Intel 核显 + 7.8GB 内存的机器上部署了 MiniCPM-V 4.7-1B,对 5 类图片做了完整 OCR 实测,期间踩了两个坑:llama.cpp 版本过旧导致加载视觉投影时报 unknown projector type: minicpmv4_7,以及模型默认开启思考模式导致结构化输出跑偏。部署过程、测试方法和真实结果都在下面,供同样没有显卡的读者参考。
威化饼的一隅
2 年前
深度学习·多模态·视觉语言模型·多模态模型·minicpm·minicpm-v
【多模态】MiniCPM-V多模态大模型使用学习前面学习了一些常见多模态模型的架构,现在开始学习使用minicpm-v-2.6模型,记录学习过程,欢迎批评指正~
我是有底线的