DeerFlow本地部署!调用本地大模型

前提

  1. 一台mac电脑
  2. 本地已安装ollama,此处以qwen3.5:4b模型为例(如果使用的是LM Studio或者其他模型,可以自测)
    在ollama设置中打开一个设置。
  3. 已安装homebrew。

需安装的环境

  1. git。安装命令如下:
bash 复制代码
brew install git
# 检查命令
git --version
  1. Node.js。
bash 复制代码
brew install node@22
# 检查命令
node --version
  1. pnpm
bash 复制代码
npm install -g pnpm
# 检查命令
pnpm --version
  1. uv
bash 复制代码
brew install uv
# 检查命令
uv --version
  1. nginx
bash 复制代码
brew install nginx
# 检查命令
nginx -v

安装(一行一行执行就可以)

bash 复制代码
# 1下载项目
git clone https://github.com/bytedance/deer-flow.git
# 2进入项目路径
cd deer-flow
# 3检查依赖,出现OK All dependencies are installed!才算完成。有失败就装下失败的,再重新检查
make check
# 4生成配置文件
make config
# 5配置模型
vi config.yaml
  1. 将下面内容粘贴进config.yaml中,替代models里注释掉的东西。
    其中base_url中的ip写本机ip,可以通过ifconfig命令直接在终端查询。
bash 复制代码
  - name: qwen3.5
    display_name: Qwen3.5 4B (Ollama)
    use: langchain_ollama:ChatOllama
    model: qwen3.5:4b
    base_url: http://192.168.1.224:11434   # No /v1 suffix --- uses native /api/chat
    num_predict: 8192
    temperature: 0.7
    reasoning: true                    # Passes think:true to Ollama native API
    supports_thinking: true
    supports_vision: false

也可以用在线大模型,文件中有例子,可以直接改一下api key。

可以启动执行:

bash 复制代码
# 7安装项目依赖
make install
# 8启动。
make dev

日志显示如下:

如果有端口被占用情况,直接改下端口号。

结果呈现

访问http://localhost:2026

参考:https://www.toutiao.com/article/7625892456562770472/?wid=1776316957469

相关推荐
满怀冰雪5 小时前
06-自动微分入门:用 Paddle 计算梯度
人工智能·python·深度学习·paddle
xlrqx11 小时前
家电清洗培训课程类别、培训方式及费用情况究竟有哪些
大数据·python
lbb 小魔仙11 小时前
VS Code Python 高级调试技巧:从入门到精通
开发语言·python
lzqrzpt11 小时前
LED驱动电源行业品牌格局与技术差异深度总结
python·单片机·嵌入式硬件
李可以量化11 小时前
PTrade 策略入门:before_trading_start 函数详解(上)—— 盘前准备逻辑全指南
python
大海变好AI12 小时前
AIGC分层推理落地能否串联多工具完成自动化闭环
人工智能·python·自动化·aigc
ClouGence12 小时前
CloudDM 数据库管理平台,全新 UI,更清晰、更高效!
数据库·开源
二宝哥12 小时前
14.Python模块与包完全指南:从定义到实战
python
三声三视13 小时前
交互式用够了?用 Agent SDK 把 Claude 塞进 Python Web 服务
人工智能·python·ai·aigc·ai编程
zhanghaha131413 小时前
Python语言基础:4_数据类型转换
java·前端·python