Dify内网项目解决tiktoken连接问题

问题:

在使用Dify内网环境项目中,出现:当对话正常开始后,系统尝试连接openaipublic.blob.core.windows.net的443端口失败,出现名称解析错误的问题。

原因:

在Dify项目中使用的tiktoken库默认会尝试从OpenAI的公共存储服务下载必要的词汇表文件。在内网环境下无法正常访问。tiktoken库需要两个关键文件来正常工作:1、vocab.bpe - 字节对编码词汇表文件 2、encoder.json - 编码器映射文件

解决方式:

(1)创建本地缓存目录:

bash 复制代码
mkdir tiktoken
cd tiktoken

(2)下载并重命名文件:

bash 复制代码
wget https://openaipublic.blob.core.windows.net/gpt-2/encodings/main/vocab.bpe
cp vocab.bpe 6d1cbeee0f20b3d9449abfede4726ed8212e3aee

wget https://openaipublic.blob.core.windows.net/gpt-2/encodings/main/encoder.json
cp encoder.json 6c7ea1a7e38e3a7f062df639a5b80947f075ffe6

(3)配置Docker环境

修改Docker Compose文件,添加api-service环境变量:

bash 复制代码
environment:
  TIKTOKEN_CACHE_DIR: /app/api/.tiktoken/

添加卷映射,将本地缓存目录挂载到容器中:

bash 复制代码
volumes:
  - ./volumes/plugin_daemon:/app/storage
  - ./tiktoken:/app/api/.tiktoken

(3)修改库文件路径

对于特定模型插件(如Ollama),可能需要直接修改相关Python库文件中的路径设置:

定位到相关库文件:

Ollama: /App/storage/cwd/langgenius/ollama.../.venv/lib/site-packages/tiktoken_ext/openai_public.py

修改文件中的资源路径,指向本地缓存位置,修改以下位置:

bash 复制代码
def gpt2():
    mergeable_ranks = data_gym_to_mergeable_bpe_ranks(
        vocab_bpe_file="/app/api/tiktoken_cache/vocab.bpe",
        encoder_json_file="/app/api/tiktoken_cache/encoder.json",
        vocab_bpe_hash="1ce1664773c50f3e0cc8842619a93edc4624525b728b188a9e0be33b7726adc5",
        encoder_json_hash="196139668be63f3b5d6574427317ae82f612a97c5d1cdaf36ed2256dbf636783",
    )
相关推荐
一起_java2 天前
技术文章-基于Dify-Agent的智能问答系统设计与实现
java·spring boot·后端·agent·dify
Blockbuater_drug17 天前
Dify 1.18 本地部署实战:Windows + WSL2 + Docker,从零跑到本地可用
windows·docker·容器·dify·大模型应用平台
一木 之林19 天前
Dify学习笔记 03 · RAG检索增强生成:三代范式、评估与落地(第40-45、55-56集)
笔记·小程序·交互·dify
噜哥带你玩转 AI 大模型19 天前
从 “if-else“ 到 Agent:Dify 进阶实战,让 AI 自己判断、自己调工具
agent·工作流·dify·多轮对话·httpapi
一木 之林20 天前
Dify学习笔记 04 · 检索底座:Embedding、Rerank与向量数据库(第46-54集)
笔记·学习·embedding·dify
毒爪的小新20 天前
最新 Dify 1.14.0+ 内网离线插件打包、部署完整踩坑方案(解决 uv.lock 依赖校验失败)
运维·ai·uv·dify
死磕音视频22 天前
Dify 入门:用 Docker 自部署并搭建知识库问答助手
docker·知识库·dify·大模型应用
情 九23 天前
Dify 任务提交幂等实战:避免重复点击与网络重试创建重复任务
dify
一级新生25 天前
提示词工程:跟 AI 打交道的手艺
人工智能·大模型·dify·1024程序员节·提示词工程
情 九1 个月前
Dify SSE 流式调用实战:执行进度、运行 ID 与断线核实
dify