大语言模型学习--本地部署DeepSeek

本地部署一个DeepSeek大语言模型 研究学习一下。

本地快速部署大模型的一个工具 先根据操作系统版本下载Ollama客户端

1.Ollama安装

ollama是一个开源的大型语言模型(LLM)本地化部署与管理工具,旨在简化在本地计算机上运行和管理大语言模型的流程。它支持多种主流开源模型(如Llama、Mistral、DeepSeek、Qwen等),并通过命令行工具、API接口及丰富的社区生态,为开发者、研究人员和爱好者提供了高效、灵活的本地AI应用开发环境。

下载地址

Download Ollama on Windows

官网地址下载较慢 可以使用以下地址 ollama官方下载最新版-ollama安装包下载v0.5.12.0 windows国内镜像中文版-2265安卓网

github地址

https://github.com/ollama/ollama

ollama可以用来快速安装各种模型

ollama可以安装的模型列表如下

https://github.com/ollama/ollama?tab=readme-ov-file

下载完 本地安装

2.DeepSeek安装

DeepSeek各版本说明

各模型版本硬件说明

B代表"billion"(十亿)

这里先安装模型 ollama run deepseek-r1 7B

安装完成 尝尝鲜

3.ChatBox安装

上述命令行交互太low 可以使用本地AI模型交互客户端 chatBox

官网地址 Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载

按照说明配置一下

可以与本地大模型交互一下

至此本地DeepSeek模型就安装完成了

相关推荐
喜欢吃豆7 小时前
OpenAI Agent 工具全面开发者指南——从 RAG 到 Computer Use —— 深入解析全新 Responses API
人工智能·microsoft·自然语言处理·大模型
居7然9 小时前
Attention注意力机制:原理、实现与优化全解析
人工智能·深度学习·大模型·transformer·embedding
大千AI助手10 小时前
探索LoSA:动态低秩稀疏自适应——大模型高效微调的新突破
人工智能·神经网络·lora·大模型·llm·大千ai助手·稀疏微调
Wu Liuqi16 小时前
【大模型学习】第一章:自然语言处理(NLP)核心概念
人工智能·学习·自然语言处理·大模型·大模型转行
bestcxx18 小时前
0.5、提示词中 System、User、Assistant 的基本概念
大模型·提示词·system·user·assistant
糖葫芦君19 小时前
基于树结构突破大模型自身能力
人工智能·深度学习·大模型
小白狮ww20 小时前
VASP 教程:使用 VASP 进行机器学习力场训练
人工智能·深度学习·机器学习·大模型·分子动力学·计算机程序·vasp
Mr.zwX21 小时前
GPT-OSS大模型Attention架构设计
大模型·注意力机制·gpt-oss
hzp66621 小时前
基于大语言模型(LLM)的多智能体应用的新型服务框架——Tokencake
人工智能·语言模型·大模型·llm·智能体·tokencake
大千AI助手2 天前
LIFT:基于低秩引导的稀疏微调
人工智能·神经网络·lora·大模型·lift·大千ai助手·稀疏微调