ai 部署Ollama Coze Pilotdeck Dify

Ollama(运行本地模型)

install:

docker stop ollama

docker run -d -p 11434:11434 -v /path/to/local/models:/root/.ollama/models --name ollama ollama/ollama

docker exec -it ollama ollama stop dengcao/Qwen3-Embedding-0.6B:F16

docker exec -it ollama ollama run dengcao/Qwen3-Embedding-0.6B:F16

docker exec -it ollama ollama run nomic-embed-text

PilotDeck(清华大学THUNLP实验室、面壁智能、OpenBMB与AI9stars联合研发的智能体操作系统)

install:

CentOS 8.5 64位(腾讯云服务器)

yum update

yum install git

git clone https://github.com/OpenBMB/PilotDeck.git(git clone https://gitcode.com/gh_mirrors/pi/PilotDeck.git)

wget https://raw.githubusercontent.com/OpenBMB/PilotDeck/main/install.sh

sh install.sh

yum install git

git clone https://github.com/OpenBMB/PilotDeck.git(git clone https://gitee.com/mstitop/PilotDeck.git)

安装docker:

yum install -y yum-utils device-mapper-persistent-data lvm2

yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo

yum install docker-ce-20.10.10 docker-ce-cli-20.10.10 containerd.io docker-compose-plugin

systemctl start docker(systemctl enable docker)(修改镜像为国内镜像)

cd PilotDeck

docker compose up -d

访问 http://IP:3001

Coze(字节跳动)

install:

CentOS 8.5 64位(腾讯云服务器)

yum update

yum install git

git clone https://github.com/coze-dev/coze-studio.git(git clone https://gitcode.com/GitHub_Trending/co/coze-studio.git)

安装docker:

yum install -y yum-utils device-mapper-persistent-data lvm2

yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo

yum install docker-ce-20.10.10 docker-ce-cli-20.10.10 containerd.io docker-compose-plugin

systemctl start docker(systemctl enable docker)(修改镜像为国内镜像)

cd coze-studio/docker

cp .env.example .env

EMbedding模型需要在.env中配置,以及默认模型

设置模型api

cp backend/conf/model/template/model_template_ark_doubao-seed-1.6.yaml backend/conf/model/doubao-seed-2.0-lite.yaml

编辑backend/conf/model/doubao-seed-2.0-lite.yaml

base_url: "https://api.deepseek.com/v1"

api_key: "sk-xxxxxxxx"(https://platform.deepseek.com/申请)

model: "deepseek-reasoner"

docker compose up -d

Dify

install:

CentOS 8.5 64位(腾讯云服务器)

yum update

git clone https://gitcode.com/GitHub_Trending/di/dify.git

cd dify/docker

cp .env.example .env

docker compose up -d

相关推荐
weigangwin6 小时前
LlamaIndex 第一次试用:别先写 RAG Demo,先验上下文合同
python·ai·agent·rag·检索·llamaindex·观测性
Ricky_Theseus7 小时前
路由模式:智能分发 + 垂直 Agent
ai
XLYcmy8 小时前
核内调度问题的分层优化:缓存管理与性能均衡策略 模型评价 模型缺点与改进方向
缓存·ai·启发式算法·图神经网络·遗传算法·数模·模拟退火
wumingxiaoyao10 小时前
从 0 开始学 AI:第 4 课,CPU、GPU、显存和算力基础
人工智能·ai·cpu·gpu·显存
Dragon Wu11 小时前
ComfyUI ReActor需要下载检测模型的解决方案
人工智能·ai
雨辰AI11 小时前
【零基础实战】大模型入门面试 100 问:基础概念 + 环境实操(一问一答版,直接背诵)
人工智能·ai·面试·职场和发展·ai编程
Sam092711 小时前
【AI 算法精讲 16】BPE 分词:从字节对到子词
人工智能·python·算法·ai
站在墙头上11 小时前
Windows下安装 龙虾-Openclaw
windows·ai·openclaw
赵榕12 小时前
SDD vs Vibe Coding:AI 编程时代的"自由派"与"规范派",如何兼得?
ai·vibe coding·sdd
Sam092713 小时前
【AI 算法精讲 15】余弦相似度:向量检索与归一化内积
人工智能·python·算法·ai