deepseek本地部署

ollama+anythingllm本地环境搭建与rag检索增强环境搭建

1 ollama

1 下载安装文件

到ollama官网下载安装文件对应系统的安装文件,我这里是在windows上安装,所以下载OllamaSetup.exe

2 执行安装命令

这里可以直接双击exe安装,但是应用程序默认会安装的用户目录下面取,如果想改变安装路径,可以使用下面命令安装:

OllamaSetup.exe /DIR="D:\programs\ollama"

3 设置模型保存路径(可选)

点击设置可以可以修改模型保存路径

4 下载模型

选择好模型后,可以做出一个提问,就会自动下载模型了

2 AnythingLLM

1 安装

下载anythingllm然后点击安装文件安装,配置过程中选择ollama和对应的模型,最后勾选运行即可

2 ‌Workspace(工作区)‌

‌ 一个独立的 AI 对话环境,可以绑定特定用户组,实现细粒度权限隔离。核心属性‌:

|-------------------------------------------------------------------------------------------------------------------------|
| id:唯一标识。 name:工作区名称。 slug:URL 友好标识。 openAiPrompt:系统提示词。 openAiTemp:温度参数。 similarityThreshold:相似度阈值。 chatProvider:聊天提供商。 |

|-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| openAiTemp: 1. ‌温度值范围‌ ‌取值范围‌:0.0(最确定)到 1.0(最随机)。 ‌默认值‌:通常为 0.7(平衡状态)。 2. ‌作用机制‌ ‌温度 0.0‌:生成结果高度确定,输出内容更固定、可预测。 ‌温度 1.0‌:生成结果更随机,输出内容更多样化、创新。 ‌实际效果‌: ‌0.0-0.3‌:适合需要精准答案的场景(如代码补全、事实查询)。 ‌0.4-0.6‌:平衡状态,适合日常对话。 ‌0.7-1.0‌:适合创意写作、生成多样化内容。 |

|--------------------------------------------------------------------------------------------|
| similarityThreshold : 是一个介于 0 到 1 之间的浮点数,用于衡量文档与用户问题的语义相似度。通过设定阈值,过滤低相关性文档,提升回答的准确性和聚焦度。 |

‌功能‌:

支持多用户协作与权限隔离,例如"财务制度"Workspace 只对财务部门开放

将私有文档转化为可对话的知识库,支持多格式文档(Word/PDF/图片等)

3 Thread

工作区内的一个独立对话线程,用于管理用户与 AI 的交互历史。核心属性‌:

|-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| id:聊天会话 ID。 workspaceId:所属工作区 ID。 prompt:用户输入。 response:AI 响应。 user_id:用户 ID。 thread_id:线程 ID。 include:是否包含在历史中。 feedbackScore:反馈评分。 chatMode:聊天模式。 vectorSearchMode:向量搜索模式 |

4 准本RAG文档内容和验证

text.txt内容如下

复制代码
问题:张三和李四是什么亲属关系?
答案:张三和李四夫妻关系

首先提问(此时没有把上面的文本嵌入AnythinLLM向量数据库):

上传数据到AnythinLLM向量数据库保存后再次提问:

看,回答正确。

5 权限

桌面版没有看到有设置用户权限的地方

发现的问题

有时候思考的时候显示的是英文内容,这有点恶心。你问的是中文,它直接用英文回答你。

相关推荐
深蓝AI40 分钟前
无头浏览器不必从 Chrome 改:Lightpanda 用 Zig 从零造,100 个页面只占 123MB 内存
人工智能·程序员
奈落243 小时前
AI辅助的另一面:从2026年国际AI安全报告的“故障”清单到国内专家的可靠性短板,自主行动的Agent为什么更难及时干预
人工智能·安全·agent·本地部署·ai 办公
火山引擎开发者社区4 小时前
eMudhra 证书失陷:容器用户最容易忽略的镜像信任链漏洞
人工智能
LabVIEW开发5 小时前
LabVIEW 机载 DIAL:每秒万次甲烷测量
人工智能·labview·labview知识·labview功能·labview程序
飞猫的边缘AI6 小时前
英特尔量子生意
人工智能·量子计算·边缘ai
深蓝AI6 小时前
桌面 Agent 缺的不是视觉:Vercel 开源 agent-desktop,用无障碍树 ref 替代截图坐标
人工智能·程序员
镜子AI6 小时前
镜子AI 技术复盘:三条自动化链路上的“停止条件“设计
运维·人工智能·自动化
向哆哆7 小时前
羊行为目标检测数据集:4类别、2,000张图像 | 目标检测
人工智能·yolo·目标检测·目标跟踪
如若1237 小时前
【论文复现】CoFailMed:从零复现医学图像分割的共享失败审计,含完整代码流程与科研绘图
人工智能·python
赛博守夜人8 小时前
AI安全攻防与治理之十六:对抗样本、恶意文件与多模态攻击,AI 内容安全检测的真实盲区
人工智能·安全