ai 部署Ollama Coze Pilotdeck Dify

Ollama(运行本地模型)

install:

docker stop ollama

docker run -d -p 11434:11434 -v /path/to/local/models:/root/.ollama/models --name ollama ollama/ollama

docker exec -it ollama ollama stop dengcao/Qwen3-Embedding-0.6B:F16

docker exec -it ollama ollama run dengcao/Qwen3-Embedding-0.6B:F16

docker exec -it ollama ollama run nomic-embed-text

PilotDeck(清华大学THUNLP实验室、面壁智能、OpenBMB与AI9stars联合研发的智能体操作系统)

install:

CentOS 8.5 64位(腾讯云服务器)

yum update

yum install git

git clone https://github.com/OpenBMB/PilotDeck.git(git clone https://gitcode.com/gh_mirrors/pi/PilotDeck.git)

wget https://raw.githubusercontent.com/OpenBMB/PilotDeck/main/install.sh

sh install.sh

yum install git

git clone https://github.com/OpenBMB/PilotDeck.git(git clone https://gitee.com/mstitop/PilotDeck.git)

安装docker:

yum install -y yum-utils device-mapper-persistent-data lvm2

yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo

yum install docker-ce-20.10.10 docker-ce-cli-20.10.10 containerd.io docker-compose-plugin

systemctl start docker(systemctl enable docker)(修改镜像为国内镜像)

cd PilotDeck

docker compose up -d

访问 http://IP:3001

Coze(字节跳动)

install:

CentOS 8.5 64位(腾讯云服务器)

yum update

yum install git

git clone https://github.com/coze-dev/coze-studio.git(git clone https://gitcode.com/GitHub_Trending/co/coze-studio.git)

安装docker:

yum install -y yum-utils device-mapper-persistent-data lvm2

yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo

yum install docker-ce-20.10.10 docker-ce-cli-20.10.10 containerd.io docker-compose-plugin

systemctl start docker(systemctl enable docker)(修改镜像为国内镜像)

cd coze-studio/docker

cp .env.example .env

EMbedding模型需要在.env中配置,以及默认模型

设置模型api

cp backend/conf/model/template/model_template_ark_doubao-seed-1.6.yaml backend/conf/model/doubao-seed-2.0-lite.yaml

编辑backend/conf/model/doubao-seed-2.0-lite.yaml

base_url: "https://api.deepseek.com/v1"

api_key: "sk-xxxxxxxx"(https://platform.deepseek.com/申请)

model: "deepseek-reasoner"

docker compose up -d

Dify

install:

CentOS 8.5 64位(腾讯云服务器)

yum update

git clone https://gitcode.com/GitHub_Trending/di/dify.git

cd dify/docker

cp .env.example .env

docker compose up -d

相关推荐
番茄不是西红柿kk1 小时前
什么是Token?
人工智能·ai·chatgpt·agent·token·codex·deepseek
乐之者v3 小时前
AI人工智能--DeepSeek Harness 选择哪种模式?
人工智能·ai
NPE~4 小时前
[图挖掘]GCN模型训练——从0到1
人工智能·ai·数据挖掘·教程·风控·图挖掘
xqqxqxxq4 小时前
AI Agent学习:打通真实世界:Agent 工具分类与设计原则(李博杰《深入理解 AI Agent》4.1 4.2观后总结)
学习·ai
GISer_Jing6 小时前
全栈AI实战:基于 TypeScript + LangChain + MCP 的企业级智能研发助手
前端·后端·ai·langchain·前端框架
VIP_CQCRE6 小时前
Ace Data Cloud 两条变现路径:推广平台,还是做自己的白标 AI 平台?
ai·aigc·api·开发者·云服务
Ai-_Man7 小时前
豆包智能体把对话批量导出为Word或PDF的正确顺序
人工智能·ai·小程序·pdf·word
安逸sgr7 小时前
视觉 Token 是什么?图片是怎么送进大模型的?
人工智能·ai·大模型·agent·智能体
前沿在线7 小时前
视频模型卷向第二个维度,生数科技 Vidu S1 打响第一枪
人工智能·ai·大模型
Sammyyyyy7 小时前
AI Gateway 与直连 LLM API 的应该怎么选,一篇文章说明白
人工智能·ai·gateway·ai编程·ai-native·servbay