DeerFlow本地部署!调用本地大模型

前提

  1. 一台mac电脑
  2. 本地已安装ollama,此处以qwen3.5:4b模型为例(如果使用的是LM Studio或者其他模型,可以自测)
    在ollama设置中打开一个设置。
  3. 已安装homebrew。

需安装的环境

  1. git。安装命令如下:
bash 复制代码
brew install git
# 检查命令
git --version
  1. Node.js。
bash 复制代码
brew install node@22
# 检查命令
node --version
  1. pnpm
bash 复制代码
npm install -g pnpm
# 检查命令
pnpm --version
  1. uv
bash 复制代码
brew install uv
# 检查命令
uv --version
  1. nginx
bash 复制代码
brew install nginx
# 检查命令
nginx -v

安装(一行一行执行就可以)

bash 复制代码
# 1下载项目
git clone https://github.com/bytedance/deer-flow.git
# 2进入项目路径
cd deer-flow
# 3检查依赖,出现OK All dependencies are installed!才算完成。有失败就装下失败的,再重新检查
make check
# 4生成配置文件
make config
# 5配置模型
vi config.yaml
  1. 将下面内容粘贴进config.yaml中,替代models里注释掉的东西。
    其中base_url中的ip写本机ip,可以通过ifconfig命令直接在终端查询。
bash 复制代码
  - name: qwen3.5
    display_name: Qwen3.5 4B (Ollama)
    use: langchain_ollama:ChatOllama
    model: qwen3.5:4b
    base_url: http://192.168.1.224:11434   # No /v1 suffix --- uses native /api/chat
    num_predict: 8192
    temperature: 0.7
    reasoning: true                    # Passes think:true to Ollama native API
    supports_thinking: true
    supports_vision: false

也可以用在线大模型,文件中有例子,可以直接改一下api key。

可以启动执行:

bash 复制代码
# 7安装项目依赖
make install
# 8启动。
make dev

日志显示如下:

如果有端口被占用情况,直接改下端口号。

结果呈现

访问http://localhost:2026

参考:https://www.toutiao.com/article/7625892456562770472/?wid=1776316957469

相关推荐
用户548178459095026 分钟前
Java 与 Python 在大模型与智能体领域的选型
java·python
yiangL_1 小时前
1、Python 输入输出实验|print 与 input 人机交互实践
开发语言·python·人机交互
高洁011 小时前
世界模型的因果内核:从预测表象到理解机制
人工智能·python·深度学习·transformer·迁移学习
数字融合2 小时前
透明化视频动态三维重建空间数据零核心技术
人工智能·python·virtualenv
AI创界者2 小时前
Python 进阶实战(五十四章):大模型推理网关终极架构——分布式全局前缀 Trie 缓存同步与多网关高可用协同调度
人工智能·python·aigc
萧子琦2 小时前
零第三方依赖能做到什么程度?开源两个纯标准库安全小工具:StarShield Forensics 与澄镜 ClearLens
python
用户91294046848423 小时前
Codex 从零到能交付(19):让 Codex 做代码审查:发现问题后怎样验证
python
分布式存储与RustFS3 小时前
Zeppelin 笔记本重启就丢:三个环境变量把 .zpln 存进 RustFS 桶
运维·云原生·开源·对象存储·分布式存储·s3·性能基准
小白勇闯网安圈3 小时前
day_2
python
叮当小飞鱼3 小时前
RAG幻觉
python