大语言模型学习--本地部署DeepSeek

本地部署一个DeepSeek大语言模型 研究学习一下。

本地快速部署大模型的一个工具 先根据操作系统版本下载Ollama客户端

1.Ollama安装

ollama是一个开源的大型语言模型(LLM)本地化部署与管理工具,旨在简化在本地计算机上运行和管理大语言模型的流程。它支持多种主流开源模型(如Llama、Mistral、DeepSeek、Qwen等),并通过命令行工具、API接口及丰富的社区生态,为开发者、研究人员和爱好者提供了高效、灵活的本地AI应用开发环境。

下载地址

Download Ollama on Windows

官网地址下载较慢 可以使用以下地址 ollama官方下载最新版-ollama安装包下载v0.5.12.0 windows国内镜像中文版-2265安卓网

github地址

https://github.com/ollama/ollama

ollama可以用来快速安装各种模型

ollama可以安装的模型列表如下

https://github.com/ollama/ollama?tab=readme-ov-file

下载完 本地安装

2.DeepSeek安装

DeepSeek各版本说明

各模型版本硬件说明

B代表"billion"(十亿)

这里先安装模型 ollama run deepseek-r1 7B

安装完成 尝尝鲜

3.ChatBox安装

上述命令行交互太low 可以使用本地AI模型交互客户端 chatBox

官网地址 Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载

按照说明配置一下

可以与本地大模型交互一下

至此本地DeepSeek模型就安装完成了

相关推荐
herosunly3 小时前
大模型文档神器:合合信息大模型加速器
大模型·aigc·合合信息·文档神器·合合信息大模型加速器
般若Neo3 小时前
企业级大模型开发及应用 - 通用大模型与行业大模型
大模型·通用大模型·行业大模型·专属大模型
骚戴5 小时前
架构视角:Gemini 3.0 Pro 原生多模态能力的边界与工程落地
人工智能·大模型·llm·api·ai gateway
被制作时长两年半的个人练习生5 小时前
agent和知识库技术发展的一个可能性
大模型·agent·知识库
骚戴7 小时前
架构设计之道:构建高可用的大语言模型(LLM) Enterprise GenAI Gateway
java·人工智能·架构·大模型·gateway·api
AI大模型学徒19 小时前
大模型应用开发(十六)_知识库2
chatgpt·大模型·知识库·deepseek
愤怒的可乐19 小时前
从零构建大模型智能体:OpenAI Function Calling智能体实战
人工智能·大模型·智能体
Thomas_Cai1 天前
MCP服务创建指南
人工智能·大模型·agent·智能体·mcp
谁怕平生太急1 天前
浅读智谱经典之作《MobileRL》
大模型
大千AI助手1 天前
编辑相似度(Edit Similarity):原理、演进与多模态扩展
人工智能·机器学习·大模型·编辑距离·相似度·大千ai助手·编辑相似度