LabVIEW连接本地部署大模型
- 安装LM Studio
- 下载模型文件
- 测试模型
- 安装JSON工具包
- NI官方例程
安装LM Studio
官方下载地址 https://lmstudio.ai/,直接无脑安装就行。
把语言设置成中文。
下载模型文件
可以直接在LM Studio里搜索并下载
或者在modelscope或HuggingFace下载.GGUF文件//下载好的文件放在.lmstudio\models\lmstudio-community文件夹下。
测试模型
在聊天窗口选择模型并进行测试
安装JSON工具包
从VIPM安装JKI JSON//通信是基于JSON格式的
NI官方例程
NI官方例程地址 https://pan.baidu.com/share/init?surl=wG3d6m45-UhtvrNmJF0Yyw&pwd=g57x#/home/%2F/%2F
//研讨会上听了这个操作，相当感兴趣，回家一通嚯嚯。然后，对象问我，既然已经装了LM Studio，又为啥还要用LabVIEW调用本地部署？
啊这，不要在意这些细节。