使用Ollama 在Ubuntu运行deepseek大模型:以DeepSeek-coder为例

DeepSeek大模型这几天冲上热搜啦!

咱们来亲身感受下DeepSeek模型的魅力吧!

整个操作流程非常简单方便,只需要2步,先安装Ollama,然后执行大模型即可。

安装Ollama

在Ubuntu下安装Ollama非常简单,直接snap安装即可:

复制代码
 sudo snap install ollama

运行DeepSeek大模型

直接用ollama run后面跟模型名字即可,比如执行deepseek-coder

复制代码
ollama run deepseek-coder

支持的deepseek-coder模型

参见:deepseek-coder

Models available

1.3 billion parameter model

复制代码
ollama run deepseek-coder

6.7 billion parameter model

复制代码
ollama run deepseek-coder:6.7b

33 billion parameter model

复制代码
ollama run deepseek-coder:33b

deepseek-r1模型

deepseek-r1

DeepSeek-R1-Distill-Qwen-1.5B

复制代码
ollama run deepseek-r1:1.5b

DeepSeek-R1-Distill-Qwen-7B

复制代码
ollama run deepseek-r1:7b

DeepSeek-R1-Distill-Llama-8B

复制代码
ollama run deepseek-r1:8b

DeepSeek-R1-Distill-Qwen-14B

复制代码
ollama run deepseek-r1:14b

DeepSeek-R1-Distill-Qwen-32B

复制代码
ollama run deepseek-r1:32b

DeepSeek-R1-Distill-Llama-70B

复制代码
ollama run deepseek-r1:70b

API调用

Example using curl:

复制代码
curl -X POST http://localhost:11434/api/generate -d '{
  "model": "deepseek-coder",
  "prompt":"Why is the sky blue?"
 }'

实践

安装ollama

复制代码
 sudo snap install ollama
[sudo] password for skywalk:
2025-01-27T22:08:35+08:00 INFO Waiting for automatic snapd restart...
2025-01-27T22:11:27+08:00 INFO task ignored
2025-01-27T22:11:28+08:00 INFO Waiting for "snap.ollama.listener.service" to stop.
2025-01-27T22:11:36+08:00 INFO task ignored
ollama 0.3.13 from Matias Piipari (mz2) installed

运行deepseek-coder

复制代码
ollama run deepseek-coder

显示:

复制代码
 ollama run deepseek-coder
pulling manifest
pulling d040cc185215... 100% ▕████████████████████████████████████████████████████████▏ 776 MB
pulling a3a0e9449cb6... 100% ▕████████████████████████████████████████████████████████▏  13 KB
pulling 8893e08fa9f9... 100% ▕████████████████████████████████████████████████████████▏   59 B
pulling 8972a96b8ff1... 100% ▕████████████████████████████████████████████████████████▏  297 B
pulling d55c9eb1669a... 100% ▕████████████████████████████████████████████████████████▏  483 B
verifying sha256 digest
writing manifest
success

问它两个问题:

复制代码
>>> 天为什么是蓝色的?
作为一个AI编程助手,我主要专注于回答计算机科学相关的问题。关于大气现象和我们的地球的颜色等物理学问题超出了我的知识范
围(虽然理论上可能通过某种方式进行解释或模拟以实现可视化显示结果)也无法提供对天体观察者的正确答案,因为这些需要更复
杂的方法来处理与宇宙观测技术有关的问题。如果你有任何关于编程、计算机科学或者AI相关的具体问题,我会很乐意帮助你解答!



>>> 请给出lisp语言的汉诺塔实现例子
以下是一个在Lisp中实现三阶汉诺塔问题的示例: 3个柱子的移动步骤如下(A, B,C)。我们将使用递归方法来解决这个问题 -
"n"代表需要移除的盘子数量;如果'a', 'b'和'c'是我们的目标位置的话:
```lisp
; Recursive solution for the Tower of Hanoi problem.  n is number of rings, A and C are source pegs (1-based
indexing), B(target) as auxiliary storage rod in this case we won't use it but can be used to track moves made by
smaller disks
; Pseudo code:   TowerOfHanoiR('n', 'A' , 'C','B') -> print sequence of movements such that we start with only one
disk and then call the recursive function for n-1, B & C as auxiliary pegs. The larger move (move more disks from
source to target) will be done by moving smaller ones first
(defun TowerOfHanoiR (n A B C)  ; Defining a procedure named "Tower of Han

太震撼了,你们知道为什么吗? 因为它速度太快了!

感觉它这个速度,大约跟ChatGLM等相比要提高了10-50倍! 太牛了!(后来发现没有那么快,因为我用了1.7b模型,所以速度快,7b和8b模型,速度就要慢很多了。)

下次咱们再实践deepseek-r1模型。

相关推荐
何双新13 分钟前
第21讲、Odoo 18 配置机制详解
linux·python·开源
21号 114 分钟前
9.进程间通信
linux·运维·服务器
一切皆有可能!!3 小时前
实践篇:利用ragas在自己RAG上实现LLM评估②
人工智能·语言模型
月白风清江有声4 小时前
爆炸仿真的学习日志
人工智能
藥瓿亭5 小时前
K8S认证|CKS题库+答案| 3. 默认网络策略
运维·ubuntu·docker·云原生·容器·kubernetes·cks
华奥系科技6 小时前
智慧水务发展迅猛:从物联网架构到AIoT系统的跨越式升级
人工智能·物联网·智慧城市
Gaoithe6 小时前
ubuntu 端口复用
linux·运维·ubuntu
R²AIN SUITE6 小时前
MCP协议重构AI Agent生态:万能插槽如何终结工具孤岛?
人工智能
b***25116 小时前
动力电池点焊机:驱动电池焊接高效与可靠的核心力量|比斯特自动化
人工智能·科技·自动化
Gyoku Mint6 小时前
机器学习×第二卷:概念下篇——她不再只是模仿,而是开始决定怎么靠近你
人工智能·python·算法·机器学习·pandas·ai编程·matplotlib