本地部署DeepSeek Nodejs版

目录

[1.下载 Ollama](#1.下载 Ollama)

2.下载DeepSeek模型

[3.下载 ollama.js](#3.下载 ollama.js)


1.下载 Ollama

https://ollama.com/

下载之后点击安装,等待安装成功后,打开cmd窗口,输入以下指令:

复制代码
ollama -v

如果显示了版本号,则代表已经下载成功了。

2.下载DeepSeek模型

然后选择自己对应配置的模型,在复制右侧指令到cmd窗口,就可以把模型下载到本地了。

3.下载 ollama.js

npm下载方式:

bash 复制代码
npm i ollama

yarn下载方式:

bash 复制代码
yarn add ollama

pnpm下载方式:

bash 复制代码
pnpm i ollama

下载完成后,按照ollama.js 官方文档指示则可使用,下面是一个最简单的案例:

javascript 复制代码
import { Ollama } from 'ollama'

const ollama = new Ollama({
    host: 'http://127.0.0.1:11434'
})

const response = await ollama.chat({
    model: 'deepseek-r1:1.5b',
    messages: [{ role: 'user', content: '你好' }],
})

console.log(response.message.content)

输出结果:

最后,如果大家不熟悉 Ollama 的指令,可以看上一篇博客:ollama 基本使用教程

相关推荐
陶然同学32 分钟前
基于千帆大模型的AI体检报告解读系统实战:使用OSS与PDFBox实现PDF内容识别
java·ai·大模型·ai体检报告解读
xd000025 小时前
2.从0开始搭建vue项目(node.js,vue3,Ts,ES6)
vue.js·node.js
smart19989 小时前
制造企业搭建AI智能生产线怎么部署?
ai·制造·存储
陈阳羽13 小时前
将 node.js 项目作为后台进程持续运行
node.js
赵庆明老师13 小时前
webpack打包基本配置
前端·webpack·node.js
不穿铠甲的穿山甲18 小时前
大模型-modelscope下载和使用chatglm3-6b模型
ai·大模型
我怎么能这么帅气19 小时前
Node.js 多核战争:child_process vs cluster vs worker_threads 终极对决
前端·后端·node.js
yzx9921 小时前
npm error Cannot find module ‘negotiator‘ 的处理
前端·npm·node.js
西洼工作室21 小时前
【手搓一个原生全局loading组件解决页面闪烁问题】
前端·css·js
soldierluo1 天前
WindowServer2022下docker方式安装dify步骤
ai