从零开始学AI,完成AI 企业知识库的AI问答搭建

1:本地安装一个ollama玩下,ollama下载模型默认路径为C盘,但该盘空间不足。

解决方案:添加系统环境变量OLLAMA_MODELS,设置其值为新的路径。

2:安装完成后,访问http://127.0.0.1:11434/ 查看服务是否正常;

3: 下载阿里的通义千问模型

ollama pull qwen

4:运行模型

ollama run qwen

好了,完成一个最简单的模型本地化部署。

后续继续弄,

1:模型离线化部署。

2:知识库本地化部署。

3:页面的问答,企业内部的知识库。

【我是中年老码农,欢迎关注@老码农聊IT,一个工作10多年的老码农,除了每天写代码,传播行业体会,分享人生百态, 感受生活的善意】

相关推荐
罗西的思考4 小时前
【轻量化复刻大模型 / KIMI K3】KDA(Kimi Delta Attention):并行
人工智能·算法·机器学习
秋天的怀念_David7 小时前
算法一千零一夜 · 第二十三夜 电力民生写成的曲线
java·程序人生·算法
方方洛7 小时前
ray教程-23-附录C-术语表
人工智能·分布式·机器学习
程序猿编码9 小时前
解决 LLM 算力浪费,一套统一 KV 管理层实现缓存复用
人工智能·神经网络·机器学习·缓存·llm·大模型推理
郝学胜-神的一滴10 小时前
AI 编程智能体 22:解析器赋能与实战落地全指南
人工智能·程序人生·游戏·unity·游戏引擎
Blockbuater_drug10 小时前
《经典机器学习实战》第 1 课:导论——是什么、简史、负责任 AI 与标准流程
机器学习·scikit-learn·监督学习·数据清洗·过拟合·训练集测试集·公平性
Star(up up up)12 小时前
Docker系列---Docker容器基本命令(新手小白保姆级实操教程)
运维·学习·程序人生·青少年编程·docker·容器·dubbo
武天旭12 小时前
AI安全--AI大模型的关键技术组成
人工智能·深度学习·安全·机器学习
Star(up up up)13 小时前
Docker系列---Dockerfile镜像文件
人工智能·经验分享·学习·程序人生·docker·容器·github
程序猿编码13 小时前
RK3588 NPU LLM 推理引擎:自研底层算子,性能碾压原厂 SDK
机器学习·llm·rk3588·大模型推理