大语言模型学习--本地部署DeepSeek

本地部署一个DeepSeek大语言模型 研究学习一下。

本地快速部署大模型的一个工具 先根据操作系统版本下载Ollama客户端

1.Ollama安装

ollama是一个开源的大型语言模型(LLM)本地化部署与管理工具,旨在简化在本地计算机上运行和管理大语言模型的流程。它支持多种主流开源模型(如Llama、Mistral、DeepSeek、Qwen等),并通过命令行工具、API接口及丰富的社区生态,为开发者、研究人员和爱好者提供了高效、灵活的本地AI应用开发环境。

下载地址

Download Ollama on Windows

官网地址下载较慢 可以使用以下地址 ollama官方下载最新版-ollama安装包下载v0.5.12.0 windows国内镜像中文版-2265安卓网

github地址

https://github.com/ollama/ollama

ollama可以用来快速安装各种模型

ollama可以安装的模型列表如下

https://github.com/ollama/ollama?tab=readme-ov-file

下载完 本地安装

2.DeepSeek安装

DeepSeek各版本说明

各模型版本硬件说明

B代表"billion"(十亿)

这里先安装模型 ollama run deepseek-r1 7B

安装完成 尝尝鲜

3.ChatBox安装

上述命令行交互太low 可以使用本地AI模型交互客户端 chatBox

官网地址 Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载

按照说明配置一下

可以与本地大模型交互一下

至此本地DeepSeek模型就安装完成了

相关推荐
大千AI助手31 分钟前
SWE-bench:真实世界软件工程任务的“试金石”
人工智能·深度学习·大模型·llm·软件工程·代码生成·swe-bench
trigger3331 小时前
大模型的畅享
大模型
ModelWhale1 天前
“大模型”技术专栏 | 浅谈基于 Kubernetes 的 LLM 分布式推理框架架构:概览
分布式·kubernetes·大模型
charlee442 天前
在本地部署Qwen大语言模型全过程总结
大模型·cuda·qwen·量化
SuperherRo2 天前
Web攻防-大模型应用&LLM安全&提示词注入&不安全输出&代码注入&直接间接&数据投毒
大模型·llm·提示词注入·不安全输出·直接·间接
努力还债的学术吗喽2 天前
2020 GPT3 原文 Language Models are Few-Shot Learners 精选注解
gpt·大模型·llm·gpt-3·大语言模型·few-shot·zero-shot
精致先生2 天前
Streamlit实现Qwen对话机器人
python·机器人·大模型·streamlit
ai绘画-安安妮3 天前
零基础学LangChain:核心概念与基础组件解析
人工智能·学习·ai·程序员·langchain·大模型·转行
没事学AI5 天前
移动端调用大模型详解
ios·大模型·安卓