MerchantOps-KBQA 实践(十四):本地运行、性能限制与可验证的交付边界

知识库项目的最后一环不是"进程启动了",而是明确哪些能力已经验证、哪些依赖外部条件、出现故障时怎样恢复。MerchantOps-KBQA 将这些限制写进运行说明和诊断接口。

一、本地运行结构

项目复用 Docker 提供 MySQL、Redis、Milvus、etcd 和 MinIO;应用使用独立 .venv,通过 Junction 复用本地 embedding 与 reranker 模型目录,避免重复复制约 6.2 GB 模型文件。

首次执行 init_data.py 会准备独立 FAQ 和向量集合,之后可幂等跳过。应用入口为 run_app.cmd,默认访问 http://localhost:8080

二、已验证的内容

项目已完成 Python 编译、数据格式、Prompt 格式、来源过滤、前端领域、FAQ 标点路由和评估覆盖检查。首页、/health/ready/api/sources/api/knowledge-documents/api/diagnostics/api/assessment 已完成本地验证。

三、外部模型限制

生成阶段使用 MaaS OpenAI-compatible endpoint。当前机器在网络受限时可能收到 WinError 10013,此时系统保留检索来源并返回模型服务不可用兜底。没有在网络与轮换后的 Key 可用时完成真实生成验证,就不把生成质量写成完成结论。

四、性能与进程边界

MX450 2GB 显存加载检索模型后,部分 RAG 请求约需 40 秒。端口 8080 已被一个应用实例占用时,再启动第二个实例可能在模型初始化阶段异常退出。因此运行时只保留一个应用实例,并先检查端口和依赖状态。

五、交付原则

项目不公开真实商户数据、内部代码、密码、API Key 和生产模型。公开内容只陈述已验证的本地流程、脱敏合成数据边界和剩余限制,这样项目才可复现、可解释、可维护。

相关推荐
AlienZHOU1 小时前
AI Coding 时代下,我的技术面试实践分享
前端·后端·面试
科技苑1 小时前
Python简单网络爬虫教程
爬虫·python
小和尚同志1 小时前
小黑插图 Skill:从 11.7k star 的 Codex 专属,到 Claude Code 能用的平替
人工智能·aigc
高洁011 小时前
孪生不止在工厂:能源、医疗与农业
人工智能·深度学习·transformer·知识图谱·tornado
典典分享指南1 小时前
用飞书 Wiki 搭内容作战室:从零搭建团队内容协作中枢
django·flask·numpy·pyqt
外域速览1 小时前
智谱50亿美元押注AI自训练
大数据·人工智能
人工智能培训1 小时前
孪生不止在工厂:能源、医疗与农业
大数据·人工智能
米小虾2 小时前
让模型说"我不知道",比让它答对更难:放弃文本生成能换来什么
人工智能
新新学长搞科研2 小时前
【SPIE出版】2026年人工智能、新材料与新能源国际学术会议(AINMNE 2026)
人工智能·新能源·新材料
野生技术架构师2 小时前
2026 Java 面试全套总结,八股 + 场景 + AI 相关面试考点
java·人工智能·面试