目录
[1 -> 概述](#1 -> 概述)
[1.1 -> 技术特点](#1.1 -> 技术特点)
[1.2 -> 模型发布](#1.2 -> 模型发布)
[1.3 -> 应用领域](#1.3 -> 应用领域)
[1.4 -> 优势与影响](#1.4 -> 优势与影响)
[2 -> 本地部署](#2 -> 本地部署)
[2.1 -> 安装ollama](#2.1 -> 安装ollama)
[2.2 -> 部署deepseek-r1模型](#2.2 -> 部署deepseek-r1模型)
1 -> 概述
DeepSeek是由中国的深度求索公司开发的一系列人工智能模型,以其高效的性能和低成本的训练而受到关注。以下是其主要介绍:
1.1 -> 技术特点
- 混合专家架构(MoE):DeepSeek-V3采用MoE架构,总参数达6710亿,但每个输入只激活370亿参数,通过动态冗余策略,在推理和训练过程中保持最佳的负载平衡,大大降低了计算成本,同时保持高性能。
- 多头潜在注意力(MLA):引入多头潜在注意力机制,通过低秩联合压缩机制,将Key-Value矩阵压缩为低维潜在向量,显著减少内存占用。
- 无辅助损失负载均衡:采用无辅助损失负载均衡策略,最小化因鼓励负载均衡而导致的性能下降。
- 多Token预测(MTP):采用多Token预测目标,证明其对模型性能有益,并可用于推理加速。
- FP8混合精度训练:设计了FP8混合精度训练框架,首次验证了在极大规模模型上进行FP8训练的可行性和有效性。
- 知识蒸馏:DeepSeek-R1通过知识蒸馏,将长链推理(CoT)模型的推理能力蒸馏到标准LLM中,显著提升了推理性能。
1.2 -> 模型发布
- DeepSeek-V3:2024年12月发布,总参数达6710亿,采用创新的MoE架构和FP8混合精度训练,训练成本仅为557.6万美元,在聊天机器人竞技场(Chatbot Arena)上排名第七,在开源模型中排名第一,是全球前十中性价比最高的模型。
- DeepSeek-R1:2025年1月发布,性能与OpenAI的o1正式版持平,并开源,在Chatbot Arena综合榜单上排名第三,与OpenAI的o1并列,在高难度任务上表现出色。
- Janus-Pro:2025年1月28日发布,分为7B(70亿)和1.5B(15亿)两个参数量版本,且均为开源,在多模态理解和文本到图像的指令跟踪功能方面取得重大进步,同时增强了文本到图像生成的稳定性,在多项基准测试中表现出色,甚至强于OpenAI旗下的DALL-E 3,以及Stable Diffusion。
1.3 -> 应用领域
- 自然语言处理:能够理解并回答用户的问题,进行文本生成、翻译、摘要等任务,可用于智能客服、内容创作、信息检索等领域。
- 代码生成与调试:支持多种编程语言的代码生成、调试和数据分析任务,帮助程序员提高工作效率。
- 多模态任务:如Janus-Pro模型可进行文生图、图生文等多模态任务,在图像生成、图像理解等方面有应用潜力。
1.4 -> 优势与影响
- 成本效益高:通过算法优化和架构创新,在保证性能的前提下,大幅降低了训练和推理成本,使AI技术更易于普及和应用。
- 开源策略:采用完全开源策略,吸引了大量开发者和研究人员的关注,促进了AI社区的协作和技术的快速发展。
- 推动行业变革:DeepSeek的成功挑战了传统的"大力出奇迹"的AI发展模式,为行业提供了新的发展思路和方向,激发了更多的创新和探索。
2 -> 本地部署deepseek
2.1 -> 安装ollama
- 点击Download下载
- 选择对应的操作系统,本次以Windows操作系统为例
点击Download for Windows下载。
- 下载完成后,打开文件开始安装OllamaSetup
- 点击Install开始下载,等待下载完成
- 检查是否安装成功
win+R输入cmd调出命令行进入到命令模式,输入命令ollama -v查看是否安装成功,输入完命令出现了版本号的话就说明安装成功。
2.2 -> 部署deepseek-r1模型
- 回到ollama官网点击左上角的Models进入如下界面。并选择第一个deepseek-r1,点击进入
- 选择适合自己电脑配置的版本
- 选择好后,复制对应版本后的命令
- win+R输入cmd调出命令行进入到命令模式,输入命令
如果觉得下载速度慢,可以Ctrl+C先退出这个命令,然后再输入命令重新进行下载,还是会接着上次的下载进度继续下载,速度会稍微快一些。
- 下载完成后会出现success,接下来就可以进行对话了
- 问一个AI经常会出错的问题:9.11和9.9哪个大
可以看到,会给出思考过程以及最终结论。
- 输入命令/bye可以退出对话
- 输入命令ollama list可以查看下载好的模型
- 输入ollama run + 对应的模型就可以进入对话
这里输入ollama run deepseek-r1:latest可以发现再一次进入对话。
这样本地部署deepseek就算完成啦
感谢各位大佬支持!!!
互三啦!!!