Windows安装ollama和AnythingLLM

一、Ollama安装部署

1)安装ollama

官网下载:https://ollama.com/download,很慢

阿里云盘下载:https://www.alipan.com/s/jiwVVjc7eYb 提取码: ft90

百度云盘下载:https://pan.baidu.com/s/1o1OcY0FkycxMpZ7Ho8_5oA?pwd=8cft 提取码:8cft

2、

ollama run llama2

3、启动与运行

在Ollama的终端界面中,键入命令Ollama serve,一键将Ollama设置为后端服务器模式,静待其为您的知识库服务。

Ollama serve	

运行私有化大模型(基于ollama)

4、随时查看已经下载大模型

ollama list

二、AnythingLLM安装

1、AnythingLLM安装有很多方式,一是到官方网站(Download AnythingLLM for Desktop)下载桌面版,然后双击即可

搭建本地聊天工具(部署Anythingllm)

一个功能强大的大模型开发工具下载地址:

https://useanything.com/

(链接:https://pan.quark.cn/s/a9974a779650 提取码:jnBL)

2、安装也是一键安装,左面图标长这样,点击打开即可

3、配置本地下载的大模型,先点击左下角的【配置】

本地大模型默认地址:http://127.0.0.1:11434

进来之后简单了解翻译一下

4、配置大模型:

5、到此我们已经完成了私有化大模型,聊天机器人的配置,点击左下角返回聊天界面

点击【New Workspace】新建一个聊天空间。

写个名字点【Save】

6、左侧点击进入你刚刚创建空间,然后开始和你专属的大模型聊天

三、搭建私有化知识库

1、嵌入模型选择

2、设置【向量数据库】

3、返回聊天空间,点击【上传按钮】如图

4、上传私有知识文档

5、点击保存

6、保存后有个数据向量化入库的过程。等到完成后右下角不会出现保存,同时文档已经在你的列表中,说明私有化知识库搭建完成了

7、设置知识库模式,两种模式

到此一个私有化知识库大模型搭建完成!

参考:小白速成教程:私有化大模型+知识库_私有大模型和知识库-CSDN博客

参考:AI模型:windows本地运行下载安装ollama运行llama3、llama2、Google CodeGemma、gemma等可离线运行数据模型【自留记录】_ollama下载-CSDN博客

相关推荐
_.Switch几秒前
高级Python自动化运维:容器安全与网络策略的深度解析
运维·网络·python·安全·自动化·devops
AI极客菌30 分钟前
Controlnet作者新作IC-light V2:基于FLUX训练,支持处理风格化图像,细节远高于SD1.5。
人工智能·计算机视觉·ai作画·stable diffusion·aigc·flux·人工智能作画
阿_旭32 分钟前
一文读懂| 自注意力与交叉注意力机制在计算机视觉中作用与基本原理
人工智能·深度学习·计算机视觉·cross-attention·self-attention
王哈哈^_^38 分钟前
【数据集】【YOLO】【目标检测】交通事故识别数据集 8939 张,YOLO道路事故目标检测实战训练教程!
前端·人工智能·深度学习·yolo·目标检测·计算机视觉·pyqt
测开小菜鸟1 小时前
使用python向钉钉群聊发送消息
java·python·钉钉
Power20246662 小时前
NLP论文速读|LongReward:基于AI反馈来提升长上下文大语言模型
人工智能·深度学习·机器学习·自然语言处理·nlp
数据猎手小k2 小时前
AIDOVECL数据集:包含超过15000张AI生成的车辆图像数据集,目的解决旨在解决眼水平分类和定位问题。
人工智能·分类·数据挖掘
好奇龙猫2 小时前
【学习AI-相关路程-mnist手写数字分类-win-硬件:windows-自我学习AI-实验步骤-全连接神经网络(BPnetwork)-操作流程(3) 】
人工智能·算法
沉下心来学鲁班2 小时前
复现LLM:带你从零认识语言模型
人工智能·语言模型
数据猎手小k2 小时前
AndroidLab:一个系统化的Android代理框架,包含操作环境和可复现的基准测试,支持大型语言模型和多模态模型。
android·人工智能·机器学习·语言模型