Anything LLM+LM Studio+SearXNG实现私有模型开启联网功能

本文较长,建议点赞收藏。更多AI大模型开发学习视频籽料, 都在这>>Github<<

一、Anything LLM简介

一个全栈应用程序,使您能够将任何文档、资源或内容转换为上下文,任何LLM都可以在聊天过程中将其用作参考。此应用程序允许您选择要使用的LLM或矢量数据库,并支持多用户管理和权限。

AnythingLLM将您的文档划分为称为工作区的对象。工作区的功能很像线程,但增加了文档的容器化。工作区可以共享文档,但它们不会相互通信,因此您可以保持每个工作区的上下文干净。

AnythingLLM的酷炫功能

二、安装Anything LLM

官方下载地址:anythingllm.com/desktop

下载64位

下载完成后,直接下一步,下一步安装即可。

打开首页,新建工作区,My Workspace

三、LM Studio配置

LM Studio 是一款桌面应用程序,用于在您的计算机本地开发和实验 LLM。

LM Studio的安装过程,这里不再重复。

运行qwen3-8b模型即可

四、Anything LLM配置

大语言模型(LLM)

选择LM Studio,并配置模型,API地址

代理技能

开启web search(网络搜索),插件选择SearXNG,输入SearXNG API地址,比如:http://192.168.10.5:8081/search

访问http://192.168.10.5:8081/search,搜索天气,确保能正常搜索。

开发者API

生成新的API密钥,用于对外提供API接口调用

点击上面的,阅读API文档,打开页面后,点击认证

输入API密钥,并验证

测试调用接口,获取模型

点击执行,得到结果,模型为my-workspace,记住这个参数,等会要用到。

返回Anything LLM首页,新建一个会话,选择模型

选择模型

工作区设置自动开启联网功能

点击工作区设置

找到代理设置

注意:如果要联网功能,必须在输入信息开头添加@agent

但是这样会很麻烦,如何在上下文自动判断加@agent呢?

答案很简单,直接加提示词即可。

点击聊天设置

修改提示词,增加红色方框的文字,注意:最好是英文

完整提示词如下:

vbnet 复制代码
Given the following conversation, relevant context, and a follow up question, reply with an answer to the current question the user is asking. Return only your response to the question given the above information following the users instructions as needed.
If unable to answer, add @ agent before the context and use the online search function to answer.

翻译成中文的意思是

css 复制代码
根据以下对话、相关背景和后续问题,回答用户当前提出的问题。根据需要,按照用户说明,仅返回您对上述信息问题的回答。
如果无法回答,请在上下文前添加@agent,并使用在线搜索功能回答。

这样的话,你在聊天的过程中,遇到模型无法回答的问题,会自动在上下文添加@agent

五、测试联网功能

Anything LLM聊天测试

返回工作区,测试联网,查询天气

可以看到,它会自动添加@agent

Cherry Studio测试

添加模型供应商Anything LLM

输入api密钥,api地址,模型

点击检测, 验证是否成功

返回聊天框,选择模型Anything LLM

查询北京天气

学习资源推荐

如果你想更深入地学习大模型,以下是一些非常有价值的学习资源,这些资源将帮助你从不同角度学习大模型,提升你的实践能力。

Github

相关推荐
aopstudio7 小时前
llms.txt:为大模型打造的“网站说明书”
人工智能·python·llm·开发者工具
大模型真好玩1 天前
深入浅出LangGraph AI Agent智能体开发教程(九)—LangGraph长短期记忆管理
人工智能·python·agent
vv_5011 天前
Langchain+Neo4j+Agent 的结合案例-电商销售
人工智能·langchain·agent·neo4j
小爱同学_2 天前
一次面试让我重新认识了 Cursor
前端·面试·程序员
AI大模型API向量引擎2 天前
开发者必看:Luma Video API 对接教程 + 电影级视频生成技巧,NeRF 技术落地实践
llm
AndrewHZ2 天前
【3D图像技术讨论】3A游戏场景重建实战指南:从数据采集到实时渲染的开源方案
人工智能·算法·游戏·3d·开源·llm·colmap
马诗剑2 天前
Qwen3-8B 在华为昇腾平台上的保姆级微调与推理教程 (基于AutoDL)
llm
彼日花2 天前
前端新人30天:从手足无措到融入团队
前端·程序员
攻城狮7号2 天前
Kimi开源轻量级中间件checkpoint-engine:能20秒内更新万亿参数模型?
人工智能·llm·kimi·moonshotai·checkpoint引擎·开源中间件
居7然2 天前
JoyAgent-JDGenie深度评测:从开箱到实战,多智能体框架的工业级答卷
分布式·自然语言处理·架构·transformer·agent