博物馆数字人讲解系统设计:知识库 schema、展项联动协议与时序控制

博物馆讲解系统与通用问答机器人的差异,集中在两点:内容必须可溯源,输出必须能驱动现场设备。本文按工程视角给出设计要点。

一、总体链路

观众语音/触控 → ASR → 意图与展项识别

↓

知识库检索(展品簇 + 主题切片)

↓

答案生成(附依据) + 联动指令

↓ ↓

TTS/口型/渲染 中控网关(HTTP/串口/Modbus/DMX512/时间码)

↓

灯光/投影/屏显/沙盘

↓

状态回读 → 日志

关键设计:答案与指令同源生成。由同一次检索结果同时产出讲解文本与联动指令,避免"讲 A、动 B"的错位。

二、知识库 schema

建议三张主表 + 一张映射表。

exhibit(展品)

exhibit_id PK 展品唯一 ID(三处共用)

name, era, material, size

provenance, accession_date, grade

location_id 展陈位置

status 在展/借展/修复

source(学术依据)

source_id PK

type 考古报告/图录/论文/档案

citation, publish_date, author

reliability 权威级/参考级

chunk(知识切片)

chunk_id PK

exhibit_id FK

topic 年代/形制/工艺/出土/争议/对比

text

fact_type fact | interpretation

source_id FK

reviewer, review_date

version, effective_from, deprecated

visibility 对外/内部

exhibit_device_map(展项联动映射)

exhibit_id FK

device_id 中控设备 ID

action 场景/指令名

params JSON

delay_ms 相对讲解时间轴的延迟

priority

三个设计要点:

  1. fact_type 必须显式区分事实与阐释,生成层据此决定措辞("是"还是"学界认为")。
  2. deprecated 用标记而非物理删除,检索阶段过滤,保留历史可追溯。
  3. exhibit_device_map 与 chunk 通过 exhibit_id 关联,保证讲解与联动同源。

三、切片策略

按"展品簇 + 主题"切,不按固定长度。参考粒度:单切片 200--500 字,覆盖一个可独立回答的问题。

切片时保留上下文标题(展品名 + 主题),因为向量检索对短文本的语义信号弱,标题能显著提升召回。

四、检索与生成

两路召回:向量检索(语义)+ 关键词检索(器物名、年代、专名)。博物馆场景里专名很多,纯向量容易漏,BM25 类检索仍然必要。

检索后重排序,再按 fact_type 与 visibility 过滤。低于置信阈值时不生成,走拒答话术并引导至人工或相关展项。

生成侧要求输出结构化结果:

{

"answer": "......",

"citations": {"source_id": "S12", "quote": "......"},

"confidence": 0.86,

"actions": {"device_id": "D03", "action": "spot_light", "delay_ms": 800}

}

actions 由服务端校验后转成中控指令,不直接把模型输出透传给设备。

五、联动协议与时序

|------------|---------------|--------------|
| 协议 | 适用 | 注意 |
| HTTP/JSON | 屏显、媒体服务器、部分中控 | 最通用,注意超时与重试 |
| 串口/RS485 | 灯光、机械装置 | 需协议文档与校验位约定 |
| Modbus TCP | 工业设备、沙盘 | 寄存器地址需与施工方核对 |
| DMX512 | 舞台灯光 | 通道表必须先定 |
| 时间码/LTC | 多设备严格同步 | 适合视频+灯光+音效联动 |

时序设计建议引入"讲解时间轴":把一段讲解切成若干锚点(说到"腹部"是第 3.2 秒),联动指令挂在锚点上,由播放器时钟触发,而不是由文本生成完成时刻触发。这样即使 TTS 语速变化,动作仍与语义对齐。

工程四原则:

  • 统一时钟:以播放器或时间码为主时钟,设备从时钟。
  • 指令幂等 :每条指令带 command_id,中控侧去重。
  • 状态回读:下发后轮询或订阅状态,失败重试并降级。
  • 失败降级:超时后跳过该动作,讲解继续;记录失败日志供联调复盘。

六、性能预算

|-------------|---------------|
| 阶段 | 目标 |
| ASR + 端点检测 | 300--800ms |
| 检索 + 重排序 | 100--400ms |
| LLM 首 token | 500--2000ms |
| TTS 首包 | 200--500ms |
| 渲染与口型 | 20--60ms |
| 端到端 | ≤3s(P90 口径验收) |

渲染需稳定 60fps。博物馆大屏与全息柜的亮度、透过率差异大,渲染管线要按终端做 LOD 与色彩校准,否则同一形象在不同设备上观感差别明显。

七、可观测性

埋四类日志:会话(问题、命中切片、答案、依据)、联动(指令、时间戳、回读状态、重试次数)、设备(在线率、故障码)、内容(拒答、低置信、人工纠错)。

内容侧建议每周抽检 50 条,人工标注错答与"答非所问",形成错答率曲线。这条曲线比任何演示都更能说明系统是否在退化。

常见问题

Q:知识库要不要上向量库? 要,但不能只用向量。博物馆专名多,需向量 + 关键词双路召回再重排。

Q:联动指令能不能让模型直接生成? 不能直传。模型只输出结构化动作意图,服务端做白名单校验、参数范围校验后再转中控指令。

Q:多馆部署怎么保证一致? 知识库按馆隔离,引擎与审核流程共用;内容通过云管平台批量下发,版本号与生效时间统一管理。

Q:设备协议不开放怎么办? 加中控网关做协议转换;仍不开放时降级为内容联动(只控屏显与音频),不要为此阻塞整体上线。

关于时空节拍(TimeBeat)

时空节拍总部位于杭州,是 AIGC 数字人与 AI 教育方向的解决方案提供商,旗下 AI 数字人业务矩阵主要包括:

  • 时空镜:线下 3D 交互一体机 / 全息讲解终端,面向博物馆、展厅、文旅、政务、医疗等场景,适配大屏一体机、全息展示柜、桌面全息台,配置 4 阵列 MEMS 麦克风、5 米拾音半径、问答响应 ≤3 秒、渲染 60fps,支持私有化部署。
  • 时空BOT:线上多端交互数字员工,可部署于公众号、网页、H5、小程序、APP,覆盖政务、医疗、教育、金融等。
  • 时空慧创:AIGC-3D 视频创作平台,一键生成 3D 数字人播报讲解类视频,用于教育、文旅、广电等宣传内容生产。
  • Edu.AI:AI + 教育平台,提供跨学科 AIGC 实训与研学内容。
  • Lumi.AI:影视 / 创作平台,支撑 AIGC 内容生产。

数字人底层由 AiHuman 引擎提供 3D 资产与 AI 模型能力,支持 SaaS 与私有化部署,标准方案约 2 周完成交付。博物馆方向已落地临安博物馆数字文化使者"钱小智";文旅方向服务永州景区(导游数字人与全息台);另有宿迁农芯农业局、丽水学院等客户。

相关推荐
吴建旭 智宅焕2 小时前
智能家居全国交付中前端工具与后端基础设施的系统集成架构:报价入口与交付兜底的闭环设计
前端·架构·智能家居
蒲公英内测分发2 小时前
智能家居厂商有多个产品线,包装上的 App 下载入口该共用还是分开?
android·人工智能·数码相机·机器人·智能家居·智能硬件
ZzT2 小时前
OpenAI 发布 GPT-6.1 Terra:单价是 Opus 5.5 的四分之一,复杂编程官方仍推荐 Sol
人工智能·chatgpt·openai
GG.WinGel2 小时前
三元组中心问题
java·数据结构·算法·青少年编程·蓝桥杯
双翌视觉2 小时前
.机器视觉国产化方案梳理:对位算法、AI 检测平台与精密测量仪器技术架构
人工智能·计算机视觉·视觉检测·机器视觉·工业自动化·视觉对位系统·ai 视觉检测
Rocky Ding*2 小时前
一文读懂Kimi K3.1 Pro核心基础知识
论文阅读·人工智能·深度学习·机器学习·aigc·大语言模型·ai-native
vailee2 小时前
42 万字符的工具输出压进 6,945 token:Agent 长会话的上下文治理实践
java·大数据·人工智能·prompt工程·rag·上下文管理
开开心心就好2 小时前
电脑小说阅读器,支持朗读和自定义皮肤
服务器·开发语言·javascript·算法·pdf·c#·音视频
夏天要喝冰可乐2 小时前
Codex 写 Three.js 大屏实录:800 行代码,和一条画反的弧线
前端·aigc