使用Node.js从零搭建DeepSeek本地部署（Express框架、Ollama）

目录

• 1.安装Node.js和npm
• 2.初始化项目
• 3.安装Ollama
• 4.下载DeepSeek模型
• 5.创建Node.js服务器
• 6.运行服务器
• [7.Web UI对话-Chrome插件-Page Assist](#7.Web UI对话-Chrome插件-Page Assist)

1.安装Node.js和npm

• 首先确保我们机器上已经安装了Node.js和npm。如果未安装，可以通过以下链接下载并安装适合我们操作系统的版本：
  Node.js官方下载页面
• 关于Node.js的安装可以参考该篇文章：
  Node.js的安装及环境配置【超详细】
• 安装完成后，可以通过以下命令检查是否安装成功：

node -v
npm -v

• 安装成功界面：
  
  

2.初始化项目

• 使用以下命令，创建一个新的文件夹作为项目目录，并初始化一个Node.js项目：

mkdir deepseek-nodejs
cd deepseek-nodejs
npm init -y

• 如下图：
  
• 以上命令会在当前目录下生成一个package.json文件，用于管理项目的依赖关系和其他配置信息。

3.安装Ollama

• 访问Ollama官网下载适合我们电脑操作系统的安装包，并按照提示进行安装：
  Ollama官方下载页面
• 对于Linux用户，可以通过以下命令直接安装：

curl -fsSL https://ollama.com/install.sh | sh

• 安装完成后，验证是否成功安装：

ollama -v

• 如下图：

4.下载DeepSeek模型

• 安装完Ollama后，我们可以通过其界面选择并下载DeepSeek-R1模型。以下是下载并运行DeepSeek-R1 1.5B版本的示例命令：

ollama run deepseek-r1:1.5b

根据我们机器的硬件配置，可以选择不同规模的模型版本，如7B、14B等

• 不同模型创建命令：
  创建命令
• 不同规模的模型版本参数核心区别：

参数规模	特点和应用场景	部署需求和资源消耗	应用场景
1.5B	适合简单的文本生成任务，如客服话术和短文案生成，但逻辑推理能力较弱‌	适合本地部署，资源消耗低，可以在消费级显卡上运行‌	生成食谱步骤和基础问答‌
7B-8B	适合多轮对话和中等复杂度的任务，如代码补全和基础科研工作‌	适合本地部署，资源消耗低，可以在消费级显卡上运行‌	ChatGPT级对话和中等复杂度代码生成‌
14B	适合多轮对话和中等复杂度的任务，如代码补全和基础科研工作‌	需要在高性能GPU上运行，如A100/H100/H800等‌	科研论文辅助撰写和跨领域知识推理‌
32B	具备接近人类水平的复杂任务处理能力，如法律文档分析和数学证明‌	需要在高性能GPU上运行，如A100/H100/H800等‌	科研论文辅助撰写和跨领域知识推理‌
70B	适用于前沿研究和超高性能计算场景‌	需要多卡并行和云服务支持，适用于全球高并发场景‌	多模态融合和超长文本生成（如小说/剧本）‌
671B	顶尖多任务能力，接近通用人工智能（AGI），适合科研和超大规模企业‌	需要多卡并行和云服务支持，适用于全球高并发场景‌	多模态融合和超长文本生成（如小说/剧本）‌

• 如下图：

注意：下载过程中，最开始下载速度可能要快一些，下载到后面可能就几十KB/s了，此时我们可以按Ctrl+C停止下载，然后再重新执行下载命令，此时的下载速度又恢复到了几MB/s了，如此循环往复操作，很快下载好

• 执行成功，可以问答：
  
• 使用 /bye 命令进行退出：
  

5.创建Node.js服务器

• 为了使DeepSeek可以通过API接口访问，我们可以使用Express框架创建一个简单的Node.js服务器。首先，安装Express：

npm install express

• 关于Express可以参考该篇文章：
  当面试官问你关于Node.js的开发框架Express时，你怎么回答？
• 然后，在项目根目录下创建一个名为server.js的文件，并添加以下示例代码：

const express = require('express');
const { exec } = require('child_process');

const app = express();
const PORT = process.env.PORT || 3000;

app.use(express.json());

app.post('/query', (req, res) => {
    const query = req.body.query;
    if (!query) {
        return res.status(400).send({ error: 'query必填'});
    }

    // 使用提供的查询执行ollama命令
    exec(`ollama run deepseek-r1:1.5b -- ${query}`, (error, stdout, stderr) => {
        if (error) {
            return res.status(500).send({ error: '请求出错' });
        }
        res.send({ response: stdout });
    });
});

app.listen(PORT, () => {
    console.log(`服务运行在${PORT}端口`);
});

• 这段代码设置了一个简单的HTTP服务器，监听/query端点上的POST请求，并将接收到的查询传递给Ollama执行的DeepSeek模型。响应结果将以JSON格式返回给客户端。

6.运行服务器

• 完成上述步骤后，可以在终端中通过以下命令启动服务器：

node server.js

• 在postman或者apifox中访问http://localhost:3000/query，并通过发送POST请求来与DeepSeek模型进行交互：
  

7.Web UI对话-Chrome插件-Page Assist

• 通过终端窗口进行对话不够直观，所以通过第三方Web UI来实现对话效果
• 通过谷歌浏览器官方插件地址搜索Page Assist，点击Page Assist - 本地 AI 模型的 Web UI：
  谷歌应用商店

• 安装完成后，将该插件固定到浏览器顶部，方便使用：
  
• 使用时，点击图标，会跳转到使用界面，可以看到画面中间的"Ollama is running"，因为我们的Ollama软件已启动，只有启动才可正常使用：
  
• 设置为中文：
  
• 选择模型，因为我们只配置了1.5B，所以只能选择1.5B：
  
• 此时，即可正常使用，觉得1.5B不够，可以根据机器条件，下载其他更高版本的模型使用：
  

---