本地部署DeepSeek Nodejs版

目录

[1.下载 Ollama](#1.下载 Ollama)

2.下载DeepSeek模型

[3.下载 ollama.js](#3.下载 ollama.js)


1.下载 Ollama

https://ollama.com/

下载之后点击安装,等待安装成功后,打开cmd窗口,输入以下指令:

复制代码
ollama -v

如果显示了版本号,则代表已经下载成功了。

2.下载DeepSeek模型

然后选择自己对应配置的模型,在复制右侧指令到cmd窗口,就可以把模型下载到本地了。

3.下载 ollama.js

npm下载方式:

bash 复制代码
npm i ollama

yarn下载方式:

bash 复制代码
yarn add ollama

pnpm下载方式:

bash 复制代码
pnpm i ollama

下载完成后,按照ollama.js 官方文档指示则可使用,下面是一个最简单的案例:

javascript 复制代码
import { Ollama } from 'ollama'

const ollama = new Ollama({
    host: 'http://127.0.0.1:11434'
})

const response = await ollama.chat({
    model: 'deepseek-r1:1.5b',
    messages: [{ role: 'user', content: '你好' }],
})

console.log(response.message.content)

输出结果:

最后,如果大家不熟悉 Ollama 的指令,可以看上一篇博客:ollama 基本使用教程

相关推荐
sukioe15 分钟前
一张图、两把锁:AI 物流履约平台的确定性边界设计
人工智能·python·ai·langchain
JaydenAI16 分钟前
[DeepSeek Harness插件内核-06]Context全面解析[自由扩展篇]
ai·agent·deepseek·harness·cordis
TechEdu20260631 分钟前
[人工智能]Gemini(Google DeepMind):多模态模型、智能体与工程实践
人工智能·ai
FIT2CLOUD飞致云42 分钟前
1Panel AI一体机(GB10版)推出MiniMax H3本地视频生成方案
运维·ai·开源·1panel·ai视频·运维面板
tachibana244 分钟前
AI Agent 的记忆机制
人工智能·ai·大模型·llm·agent
ai小陈2 小时前
大模型推理显存不够怎么办?量化、KV Cache与CPU Offload优化实战
大数据·人工智能·ai·云计算·gpu算力
slacker-kian2 小时前
[笔记]-什么是相似性搜索?
python·ai·向量·相似性搜索·点积·l2 距离·余弦相似度和距离
sukioe2 小时前
城智连响:基于 LangGraph 与四库分层架构的城市公共设施智能报修与派单系统
人工智能·python·ai·架构·langchain
5233AI开发笔记2 小时前
Node.js 调用 API:为什么秘密型 Key 不能放前端
node.js
2601_962076252 小时前
Node.js 完全教程:从入门到精通
node.js