【DeepSeek】DeepSeek概述 | 本地部署deepseek

目录

[1 -> 概述](#1 -> 概述)

[1.1 -> 技术特点](#1.1 -> 技术特点)

[1.2 -> 模型发布](#1.2 -> 模型发布)

[1.3 -> 应用领域](#1.3 -> 应用领域)

[1.4 -> 优势与影响](#1.4 -> 优势与影响)

[2 -> 本地部署](#2 -> 本地部署)

[2.1 -> 安装ollama](#2.1 -> 安装ollama)

[2.2 -> 部署deepseek-r1模型](#2.2 -> 部署deepseek-r1模型)


1 -> 概述

DeepSeek是由中国的深度求索公司开发的一系列人工智能模型,以其高效的性能和低成本的训练而受到关注。以下是其主要介绍:

1.1 -> 技术特点

  • 混合专家架构(MoE):DeepSeek-V3采用MoE架构,总参数达6710亿,但每个输入只激活370亿参数,通过动态冗余策略,在推理和训练过程中保持最佳的负载平衡,大大降低了计算成本,同时保持高性能。
  • 多头潜在注意力(MLA):引入多头潜在注意力机制,通过低秩联合压缩机制,将Key-Value矩阵压缩为低维潜在向量,显著减少内存占用。
  • 无辅助损失负载均衡:采用无辅助损失负载均衡策略,最小化因鼓励负载均衡而导致的性能下降。
  • 多Token预测(MTP):采用多Token预测目标,证明其对模型性能有益,并可用于推理加速。
  • FP8混合精度训练:设计了FP8混合精度训练框架,首次验证了在极大规模模型上进行FP8训练的可行性和有效性。
  • 知识蒸馏:DeepSeek-R1通过知识蒸馏,将长链推理(CoT)模型的推理能力蒸馏到标准LLM中,显著提升了推理性能。

1.2 -> 模型发布

  • DeepSeek-V3:2024年12月发布,总参数达6710亿,采用创新的MoE架构和FP8混合精度训练,训练成本仅为557.6万美元,在聊天机器人竞技场(Chatbot Arena)上排名第七,在开源模型中排名第一,是全球前十中性价比最高的模型。
  • DeepSeek-R1:2025年1月发布,性能与OpenAI的o1正式版持平,并开源,在Chatbot Arena综合榜单上排名第三,与OpenAI的o1并列,在高难度任务上表现出色。
  • Janus-Pro:2025年1月28日发布,分为7B(70亿)和1.5B(15亿)两个参数量版本,且均为开源,在多模态理解和文本到图像的指令跟踪功能方面取得重大进步,同时增强了文本到图像生成的稳定性,在多项基准测试中表现出色,甚至强于OpenAI旗下的DALL-E 3,以及Stable Diffusion。

1.3 -> 应用领域

  • 自然语言处理:能够理解并回答用户的问题,进行文本生成、翻译、摘要等任务,可用于智能客服、内容创作、信息检索等领域。
  • 代码生成与调试:支持多种编程语言的代码生成、调试和数据分析任务,帮助程序员提高工作效率。
  • 多模态任务:如Janus-Pro模型可进行文生图、图生文等多模态任务,在图像生成、图像理解等方面有应用潜力。

1.4 -> 优势与影响

  • 成本效益高:通过算法优化和架构创新,在保证性能的前提下,大幅降低了训练和推理成本,使AI技术更易于普及和应用。
  • 开源策略:采用完全开源策略,吸引了大量开发者和研究人员的关注,促进了AI社区的协作和技术的快速发展。
  • 推动行业变革:DeepSeek的成功挑战了传统的"大力出奇迹"的AI发展模式,为行业提供了新的发展思路和方向,激发了更多的创新和探索。

2 -> 本地部署deepseek

2.1 -> 安装ollama

ollama官网

  • 点击Download下载
  • 选择对应的操作系统,本次以Windows操作系统为例

点击Download for Windows下载。

  • 下载完成后,打开文件开始安装OllamaSetup
  • 点击Install开始下载,等待下载完成
  • 检查是否安装成功

win+R输入cmd调出命令行进入到命令模式,输入命令ollama -v查看是否安装成功,输入完命令出现了版本号的话就说明安装成功。

2.2 -> 部署deepseek-r1模型

  • 回到ollama官网点击左上角的Models进入如下界面。并选择第一个deepseek-r1,点击进入
  • 选择适合自己电脑配置的版本
  • 选择好后,复制对应版本后的命令
  • win+R输入cmd调出命令行进入到命令模式,输入命令

如果觉得下载速度慢,可以Ctrl+C先退出这个命令,然后再输入命令重新进行下载,还是会接着上次的下载进度继续下载,速度会稍微快一些。

  • 下载完成后会出现success,接下来就可以进行对话了
  • 问一个AI经常会出错的问题:9.11和9.9哪个大

可以看到,会给出思考过程以及最终结论。

  • 输入命令/bye可以退出对话
  • 输入命令ollama list可以查看下载好的模型
  • 输入ollama run + 对应的模型就可以进入对话

这里输入ollama run deepseek-r1:latest可以发现再一次进入对话。

这样本地部署deepseek就算完成啦


感谢各位大佬支持!!!

互三啦!!!

相关推荐
urkay-几秒前
Android Cursor AI代码编辑器
android·人工智能·编辑器·iphone·androidx
政安晨22 分钟前
政安晨【零基础玩转开源AI项目】video-subtitle-remover 去除视频字幕水印(图像也可以)(基于Ubuntu Linux系统)
人工智能·语言模型·自然语言处理·图片去水印·视频去水印·开源ai·video-xx-remove
爱看科技23 分钟前
百度AI眼镜Pro预售启幕,Snap/微美全息AR眼镜技术领跑掌握市场主动权
人工智能·百度·ar
wwlsm_zql25 分钟前
DeepSeek-OCR:无损压缩新突破,解码精度高达97%
人工智能·ocr
道可云28 分钟前
AI+产业革命:人工智能如何成为新质生产力的“第一加速器”
人工智能·百度
hg011831 分钟前
非洲人工智能稳步发展
人工智能·百度
Xiaoxiaoxiao020937 分钟前
迎接情感 AI 的新时代 —— 加入 GAEA 社区!
人工智能
花月C1 小时前
算法 - 差分
人工智能·算法·机器学习
拆房老料1 小时前
深入解析提示语言模型校准:从理论算法到任务导向实践
人工智能·算法·语言模型
rengang661 小时前
352-Spring AI Alibaba OpenAI DashScope 多模态示例
java·人工智能·spring·多模态·spring ai·ai应用编程