【DeepSeek】DeepSeek概述 | 本地部署deepseek

目录

[1 -> 概述](#1 -> 概述)

[1.1 -> 技术特点](#1.1 -> 技术特点)

[1.2 -> 模型发布](#1.2 -> 模型发布)

[1.3 -> 应用领域](#1.3 -> 应用领域)

[1.4 -> 优势与影响](#1.4 -> 优势与影响)

[2 -> 本地部署](#2 -> 本地部署)

[2.1 -> 安装ollama](#2.1 -> 安装ollama)

[2.2 -> 部署deepseek-r1模型](#2.2 -> 部署deepseek-r1模型)


1 -> 概述

DeepSeek是由中国的深度求索公司开发的一系列人工智能模型,以其高效的性能和低成本的训练而受到关注。以下是其主要介绍:

1.1 -> 技术特点

  • 混合专家架构(MoE):DeepSeek-V3采用MoE架构,总参数达6710亿,但每个输入只激活370亿参数,通过动态冗余策略,在推理和训练过程中保持最佳的负载平衡,大大降低了计算成本,同时保持高性能。
  • 多头潜在注意力(MLA):引入多头潜在注意力机制,通过低秩联合压缩机制,将Key-Value矩阵压缩为低维潜在向量,显著减少内存占用。
  • 无辅助损失负载均衡:采用无辅助损失负载均衡策略,最小化因鼓励负载均衡而导致的性能下降。
  • 多Token预测(MTP):采用多Token预测目标,证明其对模型性能有益,并可用于推理加速。
  • FP8混合精度训练:设计了FP8混合精度训练框架,首次验证了在极大规模模型上进行FP8训练的可行性和有效性。
  • 知识蒸馏:DeepSeek-R1通过知识蒸馏,将长链推理(CoT)模型的推理能力蒸馏到标准LLM中,显著提升了推理性能。

1.2 -> 模型发布

  • DeepSeek-V3:2024年12月发布,总参数达6710亿,采用创新的MoE架构和FP8混合精度训练,训练成本仅为557.6万美元,在聊天机器人竞技场(Chatbot Arena)上排名第七,在开源模型中排名第一,是全球前十中性价比最高的模型。
  • DeepSeek-R1:2025年1月发布,性能与OpenAI的o1正式版持平,并开源,在Chatbot Arena综合榜单上排名第三,与OpenAI的o1并列,在高难度任务上表现出色。
  • Janus-Pro:2025年1月28日发布,分为7B(70亿)和1.5B(15亿)两个参数量版本,且均为开源,在多模态理解和文本到图像的指令跟踪功能方面取得重大进步,同时增强了文本到图像生成的稳定性,在多项基准测试中表现出色,甚至强于OpenAI旗下的DALL-E 3,以及Stable Diffusion。

1.3 -> 应用领域

  • 自然语言处理:能够理解并回答用户的问题,进行文本生成、翻译、摘要等任务,可用于智能客服、内容创作、信息检索等领域。
  • 代码生成与调试:支持多种编程语言的代码生成、调试和数据分析任务,帮助程序员提高工作效率。
  • 多模态任务:如Janus-Pro模型可进行文生图、图生文等多模态任务,在图像生成、图像理解等方面有应用潜力。

1.4 -> 优势与影响

  • 成本效益高:通过算法优化和架构创新,在保证性能的前提下,大幅降低了训练和推理成本,使AI技术更易于普及和应用。
  • 开源策略:采用完全开源策略,吸引了大量开发者和研究人员的关注,促进了AI社区的协作和技术的快速发展。
  • 推动行业变革:DeepSeek的成功挑战了传统的"大力出奇迹"的AI发展模式,为行业提供了新的发展思路和方向,激发了更多的创新和探索。

2 -> 本地部署deepseek

2.1 -> 安装ollama

ollama官网

  • 点击Download下载
  • 选择对应的操作系统,本次以Windows操作系统为例

点击Download for Windows下载。

  • 下载完成后,打开文件开始安装OllamaSetup
  • 点击Install开始下载,等待下载完成
  • 检查是否安装成功

win+R输入cmd调出命令行进入到命令模式,输入命令ollama -v查看是否安装成功,输入完命令出现了版本号的话就说明安装成功。

2.2 -> 部署deepseek-r1模型

  • 回到ollama官网点击左上角的Models进入如下界面。并选择第一个deepseek-r1,点击进入
  • 选择适合自己电脑配置的版本
  • 选择好后,复制对应版本后的命令
  • win+R输入cmd调出命令行进入到命令模式,输入命令

如果觉得下载速度慢,可以Ctrl+C先退出这个命令,然后再输入命令重新进行下载,还是会接着上次的下载进度继续下载,速度会稍微快一些。

  • 下载完成后会出现success,接下来就可以进行对话了
  • 问一个AI经常会出错的问题:9.11和9.9哪个大

可以看到,会给出思考过程以及最终结论。

  • 输入命令/bye可以退出对话
  • 输入命令ollama list可以查看下载好的模型
  • 输入ollama run + 对应的模型就可以进入对话

这里输入ollama run deepseek-r1:latest可以发现再一次进入对话。

这样本地部署deepseek就算完成啦


感谢各位大佬支持!!!

互三啦!!!

相关推荐
gloomyfish4 分钟前
OpenCV4.8 开发实战系列专栏之 30 - OpenCV中的自定义滤波器
图像处理·人工智能·深度学习·opencv·计算机视觉
全栈小523 分钟前
【大模型】DeepSeek与chatGPT的区别以及自身的优势
chatgpt·大模型·deepseek
web1511736022324 分钟前
【update 更新数据语法合集】.NET开源ORM框架 SqlSugar 系列
开源·.net
帅次1 小时前
高端入门:Ollama 本地高效部署DeepSeek模型深度搜索解决方案
人工智能·深度学习·生成对抗网络·语言模型·文心一言·ollama·deepseek
倔强的石头1061 小时前
蓝耘智算平台搭载DeepSeek R1模型:高效环境配置全攻略
人工智能·aigc·deepseek
从前,有个傻子........1 小时前
openCV函数使用(一)
人工智能·opencv·计算机视觉
马拉AI1 小时前
CVPR | CNN融合注意力机制,芜湖起飞!
人工智能·神经网络·cnn
伊一大数据&人工智能学习日志1 小时前
深度学习01 神经网络
人工智能·深度学习·神经网络·学习·机器学习
华清远见IT开放实验室2 小时前
【每天学点AI】实战仿射变换在人工智能图像处理中的应用
图像处理·人工智能·python·opencv·仿射变换
warm3snow2 小时前
五分钟搭建属于你的AI助手:Ollama+DeepSeek+AnythingLLM深度整合教程
大模型·llm·anythingllm·ollama·本地知识库·deepseek