大语言模型学习--本地部署DeepSeek

本地部署一个DeepSeek大语言模型 研究学习一下。

本地快速部署大模型的一个工具 先根据操作系统版本下载Ollama客户端

1.Ollama安装

ollama是一个开源的大型语言模型(LLM)本地化部署与管理工具,旨在简化在本地计算机上运行和管理大语言模型的流程。它支持多种主流开源模型(如Llama、Mistral、DeepSeek、Qwen等),并通过命令行工具、API接口及丰富的社区生态,为开发者、研究人员和爱好者提供了高效、灵活的本地AI应用开发环境。

下载地址

Download Ollama on Windows

官网地址下载较慢 可以使用以下地址 ollama官方下载最新版-ollama安装包下载v0.5.12.0 windows国内镜像中文版-2265安卓网

github地址

https://github.com/ollama/ollama

ollama可以用来快速安装各种模型

ollama可以安装的模型列表如下

https://github.com/ollama/ollama?tab=readme-ov-file

下载完 本地安装

2.DeepSeek安装

DeepSeek各版本说明

各模型版本硬件说明

B代表"billion"(十亿)

这里先安装模型 ollama run deepseek-r1 7B

安装完成 尝尝鲜

3.ChatBox安装

上述命令行交互太low 可以使用本地AI模型交互客户端 chatBox

官网地址 Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载

按照说明配置一下

可以与本地大模型交互一下

至此本地DeepSeek模型就安装完成了

相关推荐
程序猿编码2 小时前
基于GGML的C++17轻量化语音推理引擎:说话人识别与语音分析技术全解析
开发语言·c++·pytorch·深度学习·神经网络·大模型
夏文强3 小时前
DeepSeek Harness 底层探秘:Cordis 元框架与「一切皆插件」的实现
人工智能·开源·大模型·agent·deepseek
夏文强4 小时前
DeepSeek Harness 可追溯性实战:会话日志的 resume、fork 与 replay
人工智能·开源·大模型·agent·deepseek
songsong.6 小时前
一个简单通用的ChatLLM类设计与使用
大模型·openai·大语言模型
像风一样自由202014 小时前
20.Milvus常见问题检索不到维度错误和数据一致性
人工智能·大模型·milvus
这张生成的图像能检测吗1 天前
(论文速读)Scaling Rectified Flow Transformers:Rectified Flow + MM-DiT 的高分辨率文生图路线
大模型·文生图·多模态·扩散模型·图像生成
是Yu欸1 天前
实测openPangu-2.0-Pro:昇腾原生, 505B大模型的开源答卷
人工智能·开源·大模型·昇腾·pangu
Tom·Ge1 天前
【AI前沿】2026.08.17 SpaceX 600亿收购Cursor正式完成·DeepSeek V4 Pro万亿开源·人形机器人生态全面爆发
人工智能·大模型·ai前沿
程序员-Benothing2 天前
OpenAI断供Cursor:当AI巨头开始“清理门户“,开源生态的中立性还能撑多久?
人工智能·开源·大模型
thesky1234562 天前
27届大模型面试准备(七十三):大模型强化学习对齐工程实战——RLHF、PPO 与 GRPO 的训练流水线
大模型·rlhf·奖励模型·ppo·dpo·grpo·强化学习对齐