LabVIEW连接本地部署大模型
- 安装LM Studio
- 下载模型文件
- 测试模型
- 安装JSON工具包
- NI官方例程
安装LM Studio
官方下载地址 https://lmstudio.ai/,直接无脑安装就行。

把语言设置成中文。

下载模型文件
可以直接在LM Studio里搜索并下载

或者在modelscope或HuggingFace下载.GGUF文件//下载好的文件放在.lmstudio\models\lmstudio-community文件夹下。
测试模型
在聊天窗口选择模型并进行测试


安装JSON工具包
从VIPM安装JKI JSON//通信是基于JSON格式的

NI官方例程
NI官方例程地址 https://pan.baidu.com/share/init?surl=wG3d6m45-UhtvrNmJF0Yyw&pwd=g57x#/home/%2F/%2F
//研讨会上听了这个操作,相当感兴趣,回家一通嚯嚯。然后,对象问我,既然已经装了LM Studio,又为啥还要用LabVIEW调用本地部署?
啊这,不要在意这些细节。