图1：本地部署大模型知识问答系统完整架构
一、为什么要在FAB本地部署大模型？
去年我们试过直接用ChatGPT查工艺问题，被IT部门叫停------原因是：
-
工艺参数（温度/压力/气体流量）属于敏感数据，不能外传
-
设备报警代码、良率数据涉及公司机密
-
外网API在FAB内网环境无法访问（物理隔离）
结论：必须本地部署，数据不出FAB。
二、硬件要求（真实配置）
我们实际用的配置（跑Llama3-8B，4bit量化后）：
-
CPU：Intel i7-12700K（12核20线程）
-
内存：32GB DDR4
-
显卡：NVIDIA RTX 3060 12GB（✅ 关键：显存≥8GB即可）
-
硬盘：1TB NVMe SSD（存模型+向量库）
-
总成本：约8000元（一台普通工程师工作站就能跑）
三、完整部署步骤（一步步操作）
Step 1：安装Ollama
winget install Ollama.Ollama # Windows
curl -fsSL https://ollama.com/install.sh | sh # Linux
Step 2：下载模型（选Qwen2.5-7B，中文效果最好）
ollama pull qwen2.5:7b # 约4.4GB，中文效果最好（推荐）
ollama pull llama3:8b # 约4.7GB，英文强
ollama pull deepseek-coder:6.7b # 代码理解强
Step 3：验证运行
ollama run qwen2.5:7b "解释半导体CVD工艺中LPCVD和APCVD的区别"
图2：不同模型在FAB知识问答任务上的准确率（Qwen2.5-7B性价比最高）
四、3个实用场景
场景1：新人快速查手册 → 直接问「ETCH-03更换电极的流程是什么？」
场景2：工程师写日报 → 让AI根据今日报警记录生成结构化日报
场景3：跨部门沟通 → 让AI把工艺参数翻译成通俗易懂的解释（给非技术部门看）
五、完整部署脚本获取
knowledge_base_builder.py + gradio_app.py 完整代码已整理。
关注后私信「本地部署」获取。
你在FAB遇到过什么奇葩故障？评论区聊聊，一起避坑！
关注我，每周3篇半导体AI实战干货，一起把AI用起来。