大模型+知识库学习

参考:基于知识库和 LLM 的问答系统经验分享 - 知乎 (zhihu.com)

一、基于LLM的问答系统架构

比较常见的开源 LLM 的问答系统都会遵循下图这种结构去进行设计:

加载文件 -> 读取文本 -> 文本分割 -> 文本向量化 -> 问句向量化 -> 在文本向量中匹配出与问句向量最相似的 top k个 -> 匹配出的文本作为上下文和问题一起添加到 prompt中 -> 提交给 LLM生成回答。

相关推荐
zdr尽职尽责16 小时前
终端工具凭空消失:Codex + GPT-6 的一次完整排障复盘
数据库·gpt·学习·ai
蒸蒸yyyyzwd17 小时前
计算机网络后端面试错题
笔记·学习
艾莉丝努力练剑19 小时前
【AI大模型接入SDK】C++的SessionManager 线程安全
java·开发语言·前端·c++·人工智能·学习·安全
蒸蒸yyyyzwd19 小时前
数据库相关错题笔记
笔记·学习
蒸蒸yyyyzwd21 小时前
后端学习笔记,设计模式相关以及微服务相关
笔记·学习
Hhy_110721 小时前
《C++深度解构07》手撕 vector —— 从底层三指针架构到迭代器失效彻底吃透
c语言·开发语言·c++·学习·visual studio
艾莉丝努力练剑1 天前
【QT】系统相关:TCP的API介绍
开发语言·前端·c++·人工智能·qt·学习·tcp/ip
yiangL_1 天前
Python 学习笔记:递归、turtle绘图、字符串与函数
笔记·python·学习
优化Henry2 天前
LTE 站点 S1 链路反复闪断导致小区频闪退服故障排查
运维·网络·学习·信息与通信·tdd
β添砖java2 天前
Transformer大白话学习笔记
笔记·学习·transformer