我把一台7B参数的本地大模型接入了10-12岁课堂的美术史问答环节。本文记录了硬件选型、提示词约束和三轮迭代后形成的用法。
关键词： LLM, 本地部署, 美术史, 教育技术, 小机构IT
一、为什么用本地模型而不是在线接口
2025年初，我尝试在课堂里加入美术史问答。第一次用的是在线大模型，响应快，但有两个问题：教室网络不稳定，偶尔中断；部分家长对数据出门有顾虑。三个月后，我把模型迁到本地。
本地部署的硬件成本不高：一台带12G显存的旧工作站，加装一块二手RTX 3060 12G，总花费不到两千元。模型选用7B参数的Qwen2.5-Instruct-GPTQ-Int4，显存占用约6G，推理延迟在3到5秒之间。这个速度对课堂问答够用，不适合实时绘画生成，但适合文字问答。
二、把开放问题变成结构化问答
低龄学员的问题很发散："梵高为什么割耳朵？""齐白石画虾用了几种墨色？"在线模型会给出很长的背景故事，本地模型则容易跑题。我做了两个约束。
第一，预置知识边界。我把中小学美术教材里提到的30位画家、50幅作品整理成JSON，作为上下文注入提示词。模型回答时只能从这份清单里选，避免提到课堂没涉及的内容。
第二，输出格式固定。提示词要求模型按"一句话结论 + 两个关键事实 + 一个可延伸的问题"三段回复。这样老师在课堂上好控制节奏，学员也容易记住。
三、实际课堂里的三轮调整
第一轮：直接让学员向模型提问。结果很热闹，但问题偏离教学主题。我加了"当前课程主题"前缀，模型只回答与本节课相关的内容。
第二轮：模型回答后没有反馈闭环。我让学员在听完回答后，用一句话复述给同桌。老师随机抽三位学员复述，记录到课堂笔记里。
第三轮：部分学员开始依赖模型，自己不动脑。我把使用时机限定在"老师讲完知识点后的10分钟"，并且要求学员先口头回答，再让模型补充。这个顺序调整后，主动举手的人反而变多。
四、成本与边界
本地模型不需要按token付费，但电费和时间成本要算进去。那台工作站功耗约150瓦，每周使用6小时，一个月电费不到三十块。更大的成本是维护：模型文件、LoRA适配器、提示词模板需要定期备份。
这个方案不适合所有场景。创作类问题、技法演示、个性化作品点评，仍然由老师完成。本地LLM目前只做"事实性知识问答"这一件事。
我所在的少儿美术机构叫画绛集美术，做美术教育快十年。本文案例基于本人所在机构内部实践，仅供同业参考，不构成具体教学方案推荐。