ai 部署Ollama Coze Pilotdeck Dify

Ollama(运行本地模型)

install:

docker stop ollama

docker run -d -p 11434:11434 -v /path/to/local/models:/root/.ollama/models --name ollama ollama/ollama

docker exec -it ollama ollama stop dengcao/Qwen3-Embedding-0.6B:F16

docker exec -it ollama ollama run dengcao/Qwen3-Embedding-0.6B:F16

docker exec -it ollama ollama run nomic-embed-text

PilotDeck(清华大学THUNLP实验室、面壁智能、OpenBMB与AI9stars联合研发的智能体操作系统)

install:

CentOS 8.5 64位(腾讯云服务器)

yum update

yum install git

git clone https://github.com/OpenBMB/PilotDeck.git(git clone https://gitcode.com/gh_mirrors/pi/PilotDeck.git)

wget https://raw.githubusercontent.com/OpenBMB/PilotDeck/main/install.sh

sh install.sh

yum install git

git clone https://github.com/OpenBMB/PilotDeck.git(git clone https://gitee.com/mstitop/PilotDeck.git)

安装docker:

yum install -y yum-utils device-mapper-persistent-data lvm2

yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo

yum install docker-ce-20.10.10 docker-ce-cli-20.10.10 containerd.io docker-compose-plugin

systemctl start docker(systemctl enable docker)(修改镜像为国内镜像)

cd PilotDeck

docker compose up -d

访问 http://IP:3001

Coze(字节跳动)

install:

CentOS 8.5 64位(腾讯云服务器)

yum update

yum install git

git clone https://github.com/coze-dev/coze-studio.git(git clone https://gitcode.com/GitHub_Trending/co/coze-studio.git)

安装docker:

yum install -y yum-utils device-mapper-persistent-data lvm2

yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo

yum install docker-ce-20.10.10 docker-ce-cli-20.10.10 containerd.io docker-compose-plugin

systemctl start docker(systemctl enable docker)(修改镜像为国内镜像)

cd coze-studio/docker

cp .env.example .env

EMbedding模型需要在.env中配置,以及默认模型

设置模型api

cp backend/conf/model/template/model_template_ark_doubao-seed-1.6.yaml backend/conf/model/doubao-seed-2.0-lite.yaml

编辑backend/conf/model/doubao-seed-2.0-lite.yaml

base_url: "https://api.deepseek.com/v1"

api_key: "sk-xxxxxxxx"(https://platform.deepseek.com/申请)

model: "deepseek-reasoner"

docker compose up -d

Dify

install:

CentOS 8.5 64位(腾讯云服务器)

yum update

git clone https://gitcode.com/GitHub_Trending/di/dify.git

cd dify/docker

cp .env.example .env

docker compose up -d

相关推荐
白萝卜弟弟6 小时前
【大模型Qwen3.8 27B】llama.cpp 本地大模型部署与使用
ai·大模型·agent·llama·qwen3.8
李航19837 小时前
给自己的图形引擎,配上了AI渲染,做设计真是太方便了
人工智能·python·计算机视觉·ai·ai编程
玫瑰互动GEO8 小时前
开发者学GEO优化:从算法基础到CoT推理链
大数据·人工智能·ai·geo·ai搜索·geo优化
voipmaker8 小时前
AI 赋能安防系统演进:从硬件单品到场景化融合调度架构
人工智能·ai·架构
玫瑰互动GEO9 小时前
GEM优化的三层量化维度:答案层·交互层·交易意图层
ai·ai助手·gem·gem优化·生成式引擎营销
运维开发王义杰10 小时前
大模型 API 配额防透支:Redis Lua 原子预扣与多租户治理实战
ai
XLYcmy11 小时前
AI 时代,MOM(制造运营管理系统)该如何演进? 中
ai·llm·agent·工作流·rag·harness·工业系统
TTc_12 小时前
Agent长上下文压缩为什么会反复失败
ai·ai编程
武雄(小星Ai)13 小时前
Opus 5.5 降价40%、GPT-6 API腰斩:2026年9月AI编程模型选购指南(附成本计算器)
人工智能·ai·编程语言
一切皆是因缘际会14 小时前
掌控信息论:同源星际通信零延迟架构
人工智能·深度学习·ai·系统架构·信息与通信·星际通信·同源通信