Anything LLM+LM Studio+SearXNG实现私有模型开启联网功能

本文较长,建议点赞收藏。更多AI大模型开发学习视频籽料, 都在这>>Github<<

一、Anything LLM简介

一个全栈应用程序,使您能够将任何文档、资源或内容转换为上下文,任何LLM都可以在聊天过程中将其用作参考。此应用程序允许您选择要使用的LLM或矢量数据库,并支持多用户管理和权限。

AnythingLLM将您的文档划分为称为工作区的对象。工作区的功能很像线程,但增加了文档的容器化。工作区可以共享文档,但它们不会相互通信,因此您可以保持每个工作区的上下文干净。

AnythingLLM的酷炫功能

二、安装Anything LLM

官方下载地址:anythingllm.com/desktop

下载64位

下载完成后,直接下一步,下一步安装即可。

打开首页,新建工作区,My Workspace

三、LM Studio配置

LM Studio 是一款桌面应用程序,用于在您的计算机本地开发和实验 LLM。

LM Studio的安装过程,这里不再重复。

运行qwen3-8b模型即可

四、Anything LLM配置

大语言模型(LLM)

选择LM Studio,并配置模型,API地址

代理技能

开启web search(网络搜索),插件选择SearXNG,输入SearXNG API地址,比如:http://192.168.10.5:8081/search

访问http://192.168.10.5:8081/search,搜索天气,确保能正常搜索。

开发者API

生成新的API密钥,用于对外提供API接口调用

点击上面的,阅读API文档,打开页面后,点击认证

输入API密钥,并验证

测试调用接口,获取模型

点击执行,得到结果,模型为my-workspace,记住这个参数,等会要用到。

返回Anything LLM首页,新建一个会话,选择模型

选择模型

工作区设置自动开启联网功能

点击工作区设置

找到代理设置

注意:如果要联网功能,必须在输入信息开头添加@agent

但是这样会很麻烦,如何在上下文自动判断加@agent呢?

答案很简单,直接加提示词即可。

点击聊天设置

修改提示词,增加红色方框的文字,注意:最好是英文

完整提示词如下:

vbnet 复制代码
Given the following conversation, relevant context, and a follow up question, reply with an answer to the current question the user is asking. Return only your response to the question given the above information following the users instructions as needed.
If unable to answer, add @ agent before the context and use the online search function to answer.

翻译成中文的意思是

css 复制代码
根据以下对话、相关背景和后续问题,回答用户当前提出的问题。根据需要,按照用户说明,仅返回您对上述信息问题的回答。
如果无法回答,请在上下文前添加@agent,并使用在线搜索功能回答。

这样的话,你在聊天的过程中,遇到模型无法回答的问题,会自动在上下文添加@agent

五、测试联网功能

Anything LLM聊天测试

返回工作区,测试联网,查询天气

可以看到,它会自动添加@agent

Cherry Studio测试

添加模型供应商Anything LLM

输入api密钥,api地址,模型

点击检测, 验证是否成功

返回聊天框,选择模型Anything LLM

查询北京天气

学习资源推荐

如果你想更深入地学习大模型,以下是一些非常有价值的学习资源,这些资源将帮助你从不同角度学习大模型,提升你的实践能力。

Github

相关推荐
bulucc18 小时前
一个简答的意图识别Agent
python·大模型·agent
扫地的小何尚1 天前
AI创新的火花:NVIDIA DGX Spark开箱与深度解析
大数据·人工智能·spark·llm·gpu·nvidia·dgx
weixin_438077491 天前
windows10安装WSL2 & ubuntu24.04中安装vLLM & vLLM中部署Qwen2.5-VL
llm·vllm·qwen2.5-vl
一个处女座的程序猿1 天前
LLMs之Deployment:guidellm的简介、安装和使用方法、案例应用之详细攻略
llm·部署·压测·负载·推理·guidellm
前端开发张小七1 天前
写个刚步入大学生活的弟弟的一封信
程序员
智泊AI2 天前
传统RAG已到尽头?Agentic RAG 正成为新范式
llm
梵得儿SHI2 天前
Prompt Engineering 关键技能:精准掌控 LLM 输出的格式、内容与风格
大模型·llm·prompt·格式控制·内容到风格·内容控制·风格控制
原装加多宝2 天前
Lambda 底层原理全解析
程序员
大模型教程2 天前
如何构建你的Agents|谷歌Agents白皮书
google·llm·agent
大模型教程2 天前
构建可靠AI Agent:从提示词、工作流到知识库的实战指南
程序员·llm·agent