MerchantOps-KBQA 实践(十四):本地运行、性能限制与可验证的交付边界

知识库项目的最后一环不是"进程启动了",而是明确哪些能力已经验证、哪些依赖外部条件、出现故障时怎样恢复。MerchantOps-KBQA 将这些限制写进运行说明和诊断接口。

一、本地运行结构

项目复用 Docker 提供 MySQL、Redis、Milvus、etcd 和 MinIO;应用使用独立 .venv,通过 Junction 复用本地 embedding 与 reranker 模型目录,避免重复复制约 6.2 GB 模型文件。

首次执行 init_data.py 会准备独立 FAQ 和向量集合,之后可幂等跳过。应用入口为 run_app.cmd,默认访问 http://localhost:8080

二、已验证的内容

项目已完成 Python 编译、数据格式、Prompt 格式、来源过滤、前端领域、FAQ 标点路由和评估覆盖检查。首页、/health/ready/api/sources/api/knowledge-documents/api/diagnostics/api/assessment 已完成本地验证。

三、外部模型限制

生成阶段使用 MaaS OpenAI-compatible endpoint。当前机器在网络受限时可能收到 WinError 10013,此时系统保留检索来源并返回模型服务不可用兜底。没有在网络与轮换后的 Key 可用时完成真实生成验证,就不把生成质量写成完成结论。

四、性能与进程边界

MX450 2GB 显存加载检索模型后,部分 RAG 请求约需 40 秒。端口 8080 已被一个应用实例占用时,再启动第二个实例可能在模型初始化阶段异常退出。因此运行时只保留一个应用实例,并先检查端口和依赖状态。

五、交付原则

项目不公开真实商户数据、内部代码、密码、API Key 和生产模型。公开内容只陈述已验证的本地流程、脱敏合成数据边界和剩余限制,这样项目才可复现、可解释、可维护。

相关推荐
艾莉丝努力练剑1 小时前
【AI大模型接入SDK】ChatGPT API
网络·c++·人工智能·websocket·网络协议·学习·chatgpt
枫叶林FYL2 小时前
【群体智能集群控制工程实践】第8章 无人机蜂群测试与部署
人工智能·无人机
2601_949950635 小时前
练题簿,把培训从“走过场”变成“真落地”
人工智能·学习·小程序·刷题·小程序推荐
诸神缄默不语7 小时前
备战 AI 出海 DAY 0:海外数据采集
大数据·人工智能
Ysn07198 小时前
YOLO-Master工程:experts.py 专家结构详解与目标检测专家设计启发
人工智能·yolo·目标检测
BingoGo8 小时前
使用 GPT-6 Astra 模型 请立刻更新你的 Skill 与提示词
人工智能
香菜+8 小时前
端侧视频分析 · 架构笔记
人工智能
s1ckrain8 小时前
【论文阅读】A Survey on Vision–Language–Action Models for Embodied AI
论文阅读·人工智能·多模态·具身智能
深圳雨林凯AI8 小时前
图案裂变的“风格归一化“设计思路:主体保得住,画风才拉得齐|雨林凯AI技术笔记
人工智能·笔记
DevNo8 小时前
英文会议转中文纪要,三款AI工具实测体验
人工智能