大模型常见面试题与生产实践

文章目录

  • [1 面试题](#1 面试题)
    • [1 如何确认检索结果是否可靠\](#1 如何确认检索结果是否可靠)
    • [2 如何保证大模型输出json可靠](#2 如何保证大模型输出json可靠)
    • [3 单agent 和 multi-agent系统有什么区别,分别适合什么场景](#3 单agent 和 multi-agent系统有什么区别,分别适合什么场景)

1 面试题

1 如何确认检索结果是否可靠\

不可靠分为: 1 召回不相关。2 关键信息漏掉 top-k没命中 3 来源过时 4 多源矛盾

1 离线评估

2 多来源一致性 交叉验证,不符合就降权

3 来源信任度

4 不可靠怎么救:1 rerank重盘 ,cross-encoder重新打分 ,2 query改写+二次检索, LLM改写query 再查一次,3 兜底,让模型说不会,转人工

5 用户透明: 把命中来源,置信度,是否多元交叉都暴露在前端,再加反馈按钮收点踩做闭环

2 如何保证大模型输出json可靠

  1. Tool Calling 协议(主力)------bind_tools 把 Pydantic schema 转成 function schema,API 层强制 LLM 只能产合规 tool_calls,框架返回已解析对象,根本不经过"写字符串再 parse"
  2. Pydantic schema 校验------参数灌进 BaseModel,类型/必填/长度/enum 不符即 ValidationError
  3. schema 适配 + 入参清洗------_GeminiToolSchemaFixer 补 Gemini array items;_coerce_json_string 自动还原字符串化 JSON
  4. 校验失败 → ReAct 回环------VALIDATION_FAILED 回给 LLM 自我修正,不致命终止
  5. 文本场景多级降级------分析报告 XML 主 + JSON 兜底(正则抠 {...});轻量分词固定行格式 + 失败 fallback

3 单agent 和 multi-agent系统有什么区别,分别适合什么场景

单agent 是一个大模型挂一套工具,自己规划自己执行;multi-agnet是多个角色分工,外加一个协调者。

通信是关键差异,单agent不存在通信问题lmulit-agent必须设计共享memory,消息总线,还有调度中 心。

还有状态问题,单agent自己一条线写;mult-agent多个角色同时改,必须做版本隔离,冲突合并。

任务分配也分两套,单agent时react串行循环;multi-agentyaoyou planner拆任务,router决定派给谁,aggregator收结果

任务垂直,链路清晰,上下文补偿,延迟敏感的场景,用单agent。

任务可拆,需要跨域专家,能容忍更高延迟,比如代码生成里,写测试和改代码 分两个agent跑

可观测也是分水岭:单agent顺一条trace就能排查清楚;multi-agent要追每个agent,加上他们质检所有通信日志才行。

相关推荐
武昌库里写JAVA12 小时前
SpringBoot+Vue 项目介绍
java·javascript·git·sql·ai
VIP_CQCRE12 小时前
GPT Image 2.6 商品图换背景后悬浮?接触阴影、透明区域与反射验收
图像处理·人工智能·ai·电商
七夜zippoe16 小时前
Agent 告警设计:分级告警、智能降噪与值班排班
开发语言·ai·agent·告警·智能降噪·值班排班
wflynn21 小时前
AI 产品 ChatPRD 遭遇 token 欺诈,滥用者用免费试用构建游戏地图
ai·技术
万里侯1 天前
日志聚类之后别把 noise 扔掉:降噪应该改变视图,不抹掉证据
人工智能·微服务·ai·容器·k8s
澹锦汐1 天前
纯前端秋日银杏与枫叶落叶色板智能聚类器:基于 K-Means 色彩量化与直方图自动配方提取
前端·人工智能·ai·语言模型·vue·react·k-means
最强小杰2 天前
某 OpenAI 兼容网关上的 `kimi-k3.1-pro`:Cline、Zed 接入与 SSE 排错示例
java·服务器·网络·ai
Maynor9962 天前
Trymodel 使用介绍:一个平台同时用 Claude、GPT、Gemini 和 Grok
人工智能·gpt·ai·程序员·教程·claude·语音
七夜zippoe2 天前
多 Agent 通信灾难:状态不一致导致雪崩故障的排查与防护
ai·agent·通信灾难·雪崩故障·排查与防护
Forget the Dream2 天前
Spring AI 2.0 系列(二):第一个 ChatClient——从注入到一次完整调用
java·人工智能·spring boot·ai·springai