人机协同确认 - 人机协同确认技术,学习,经验文章

xrlfreedom

2 小时前

MCP 面试高频考点：把知识库 RAG 封装成 Tool 时，提示注入防护与人机协同确认怎么答？一家做企业内部知识助手的团队，希望把现有 RAG 检索能力通过 MCP 暴露给 Host 中的模型，让模型在回答“报销标准”“合同模板在哪里”这类问题时自行决定是否检索。团队同时担心两件事：知识库文档可能夹带恶意指令；某些检索会触达受限文档。面试官围绕“如何设计这个 Tool、如何防注入、何时需要用户确认”连续追问。