大语言模型学习--本地部署DeepSeek

本地部署一个DeepSeek大语言模型 研究学习一下。

本地快速部署大模型的一个工具 先根据操作系统版本下载Ollama客户端

1.Ollama安装

ollama是一个开源的大型语言模型(LLM)本地化部署与管理工具,旨在简化在本地计算机上运行和管理大语言模型的流程。它支持多种主流开源模型(如Llama、Mistral、DeepSeek、Qwen等),并通过命令行工具、API接口及丰富的社区生态,为开发者、研究人员和爱好者提供了高效、灵活的本地AI应用开发环境。

下载地址

Download Ollama on Windows

官网地址下载较慢 可以使用以下地址 ollama官方下载最新版-ollama安装包下载v0.5.12.0 windows国内镜像中文版-2265安卓网

github地址

https://github.com/ollama/ollama

ollama可以用来快速安装各种模型

ollama可以安装的模型列表如下

https://github.com/ollama/ollama?tab=readme-ov-file

下载完 本地安装

2.DeepSeek安装

DeepSeek各版本说明

各模型版本硬件说明

B代表"billion"(十亿)

这里先安装模型 ollama run deepseek-r1 7B

安装完成 尝尝鲜

3.ChatBox安装

上述命令行交互太low 可以使用本地AI模型交互客户端 chatBox

官网地址 Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载

按照说明配置一下

可以与本地大模型交互一下

至此本地DeepSeek模型就安装完成了

相关推荐
程序猿编码4 天前
告别改源码适配模型:纯 C++ 可配置 LLM 推理引擎,全格式全结构兼容
c++·大模型·llm·推理引擎
蔡俊锋4 天前
华为昇腾 960 超节点发布:4096 卡、5500 个光引擎替 4.8 万光模块——国产算力拐点到了吗?
大模型·模型部署·ai架构·国产算力·华为昇腾
O。O蛋黄酥啊4 天前
Claude Code 记忆机制全拆解:Auto Memory 与 CLAUDE.md 双轨解析
大模型·agent·memory·claude·codex·记忆
BlackStar_L4 天前
第二章 上下文工程
大模型·llm·agent
User_芊芊君子4 天前
让 Claude Code 换上国产大脑:蓝耘元生代上 GLM-5.2 / DeepSeek / Qwen 模型横评实测
人工智能·ai·大模型
寻道码路4 天前
大模型工程化实战(十二):RAG 数据工程底座——采集到入库流水线(离线+在线双链路)
大模型·知识库·rag·ai工程化·llmops`·数据工程底座·文档采集
Web3&Basketball5 天前
CRM Agent 后训练实战:3 倍更少错误
python·架构·大模型·agent·推理
蚁小二官方5 天前
AI 安全治理框架更新|大模型训练数据合规,企业实操落地思路
大模型·数据合规·ai安全
AI模力圈5 天前
On-Policy Distillation:原理、变体与工程实现解析
大模型·强化学习·知识蒸馏
长谷深风1115 天前
根因定位:三步隔离法破解AIBadcase
人工智能·ai·大模型·retrieval·ai智能体·aiagent·aibadcase