Coza 本地搭建 + Ollama支持

前言

我这边是 window11 系统,安装 coza 系统 需要一起安装很多 配套周边软件。 所以这边 选取 docker 的方式安装。docker 按照的好处是 通过配置文件 可以一件帮助我们把周边软件一起安装了。不必自己手动配置。 然后 wls2 我这边之前就已经安装好了。wls2 云运行 在 windos 上的 ubuntu 系统。Ubuntu 运行 跑 docker 更加的方便

windos11 wls2的安装:

我这是已经安装好了。所以无法展示操作。同学们自己解决

docker 的安装:

docker 的安装,https://www.docker.com/get-started/

我们选择 windos 64 位,

安装过程中我们有一个需要注意的地方

这里要选择 使用 WSL2 ,这样才能使用我们安装的 WSL2. 还有就是 因为 docker 后面要拉取 配套软件的镜像 请确保你的网络能访问 外部网络

coze 安装:

获取 Coza 官方文件:https://github.com/coze-dev/coze-studio。 解压之后 主要有两个文件需要修改:

  1. 大模型的链接:从 template 文件夹中复制一个 model_template_ollama.yaml 到当前 文件夹中, 也就是配置 Ollama 本地模型 还有对应的模型

    复制代码
    id: 68010
    name: Ollama
    icon_uri: default_icon/ollama.png
    icon_url: ""
    description:
        zh: ollama 模型简介
        en: ollama model description
    default_parameters:
        - name: temperature
          label:
            zh: 生成随机性
            en: Temperature
          desc:
            zh: '- **temperature**: 调高温度会使得模型的输出更多样性和创新性,反之,降低温度会使输出内容更加遵循指令要求但减少多样性。建议不要与"Top p"同时调整。'
            en: '**Temperature**:\n\n- When you increase this value, the model outputs more diverse and innovative content; when you decrease it, the model outputs less diverse content that strictly follows the given instructions.\n- It is recommended not to adjust this value with \"Top p\" at the same time.'
          type: float
          min: "0"
          max: "1"
          default_val:
            balance: "0.8"
            creative: "1"
            default_val: "1.0"
            precise: "0.3"
          precision: 1
          options: []
          style:
            widget: slider
            label:
                zh: 生成多样性
                en: Generation diversity
        - name: max_tokens
          label:
            zh: 最大回复长度
            en: Response max length
          desc:
            zh: 控制模型输出的Tokens 长度上限。通常 100 Tokens 约等于 150 个中文汉字。
            en: You can specify the maximum length of the tokens output through this value. Typically, 100 tokens are approximately equal to 150 Chinese characters.
          type: int
          min: "1"
          max: "4096"
          default_val:
            default_val: "4096"
          options: []
          style:
            widget: slider
            label:
                zh: 输入及输出设置
                en: Input and output settings
    meta:
        protocol: ollama
        capability:
            function_call: true
            input_modal:
                - text
            input_tokens: 128000
            json_mode: false
            max_tokens: 128000
            output_modal:
                - text
            output_tokens: 16384
            prefix_caching: false
            reasoning: false
            prefill_response: false
        conn_config:
            base_url: "http://192.168.100.9:11434"
            api_key: ""
            timeout: 0s
            model: "qwen3-coder:30b"
            temperature: 0.6
            frequency_penalty: 0
            presence_penalty: 0
            max_tokens: 4096
            enable_base64_url: false
            top_p: 0.95
            top_k: 20
            stop: []
            custom: {}
        status: 0

    其中Id 很关键,如果你有多个模型的支持,务必要保证ID的唯一

  2. docker 配置文件的修改:我们复制一份 .env.example 重命名为 .env 目前我们展示不需要修改。

Docker 拉取镜像 启动 coze:

进入源码的 docker 目录: cmd 运行

复制代码
docker compose --profile "*" up -d 

Coze 本地访问:http://127.0.0.1:8888

我们创建一个 智能体,通过对话测试 本地 Ollama 已经可以链接:

相关推荐
福大大架构师每日一题12 天前
ollama v0.30.8 最新更新解读:修复启动提供方选择错误,提示词缓存更稳,MLX 推理与递归模型全面增强
ollama
大佐不会说日语~13 天前
在 Windows 本地用 Docker 部署向量模型(bge-m3)
windows·docker·容器·llm·ollama
腾飞开源14 天前
05_Dify接入Ollama本地大模型
人工智能·项目实战·dify·ai智能体·ollama·企业级应用·接入模型
逻极14 天前
Windows 平台 Ollama AMD GPU 一键编译指南:基于 ROCm 7.1 的自动化实战
人工智能·windows·stm32·自动化·gpu·amd·ollama
yuanzhengme16 天前
Ollama【部署 07】搭建本地智能体的简单说明(局域网离线部署Ollama+模型迁移+Docker部署AnythingLLM)
运维·docker·容器·大模型·ollama·本地智能体
hdsoft_huge17 天前
部署 Nacos + Ollama + vLLM + MCP 完整图文教程(1Panel 面板,命令行安装两种方式)
python·vllm·ollama·mcp
小七-七牛开发者19 天前
本地模型为什么能跑起来?从 llama.cpp 量化说起
agent·llama·模型部署·ollama·本地模型
xyz_CDragon19 天前
OpenClaw 局域网调用 Ollama 本地大模型:完整配置与踩坑指南
python·ai编程·集成学习·ollama·deepseek·openclaw
程序员阿卢19 天前
01-基于springboot框架调用ollama下的模型完成基本功能
spring boot·后端·ollama·通义千问模型qwen