RAG(检索增强生成)是目前解决大模型幻觉最有效的手段。但网上的教程大多是 Python + LangChain 的 Demo,一到生产环境就各种问题。
本文将基于 字节跳动 Eino 框架和 Milvus 向量数据库,手把手带你用 Go 语言实现一个支持混合检索、文档切分、向量化的企业级 RAG 系统。
一、 为什么你的 RAG 效果很差?
很多同学照着网上的教程写了个 RAG,结果发现效果惨不忍睹:
- 切分太粗:把整段文本直接向量化,导致检索时丢失细节。
- 检索不准:只用向量搜索(Dense Search),搜"Java 高级"却出来"Java 入门"。
- 数据陈旧:知识库更新慢,甚至不支持实时插入。
企业级 RAG 的核心在于:精细化的 ETL + 混合检索策略。
二、 架构设计:Eino RAG 链路
在 Eino 中,RAG 不再是简单的 Function Call,而是一套标准的流水线:
graph LR
Doc[Markdown/PDF文档] --> Splitter[文档切分器]
Splitter --> Embedding[向量化模型]
Embedding --> Milvus[Milvus 向量库]
User[用户提问] --> Filter[意图识别/Filter构建]
Filter --> Retriever[混合检索器]
Retriever --> LLM[大模型生成]
三、 实战:从文档到检索
3.1 步骤一:文档切分(Chunking)
我们不能把一整本书丢给大模型。 在项目中,我实现了一个基于 Markdown 语义 的切分器。
go
// backend/internal/eino/milvus/splitter/markdown.go
// 核心逻辑:按 H1/H2 标题进行切分,保留上下文
func SplitMarkdown(content string) []string {
chunks := make([]string, 0)
// ... 正则匹配 # 标题
// ... 递归切分
return chunks
}
经验 :不要用固定字符数(如 500字)切分!一定要按 语义(段落/标题) 切分,否则会把完整的逻辑打断。
3.2 步骤二:向量化与入库
我们使用 text-embedding-3-small 模型进行向量化,存入 Milvus。
go
// backend/internal/eino/milvus/importer.go
func ImportKnowledge(ctx context.Context, files []string) error {
for _, file := range files {
// 1. 读取并切分
chunks := splitter.Split(file)
// 2. 批量向量化 (Batch Embedding)
vectors, _ := embeddingModel.EmbedStrings(ctx, chunks)
// 3. 存入 Milvus
// 注意:我们同时存储了 Metadata(如语言、难度、分类)
milvusClient.Insert(ctx, collectionName, "", columns...)
}
return nil
}
3.3 步骤三:混合检索(Hybrid Search)
这是 RAG 效果好坏的关键! 我们不能只查向量,必须结合标量过滤。
场景 :用户问"给我出一道 Redis 的 高级 面试题"。 如果只查向量,可能会搜出"Redis 基础命令"。 必须加上过滤条件:category == 'Redis' && difficulty == 'Hard'。
go
// backend/internal/eino/milvus/retrieval/retriever.go
func (s *RetrieverService) Retrieve(ctx context.Context, query string) ([]*schema.Document, error) {
// 1. 动态构建 Filter
// 这里其实可以用一个小模型先做意图识别,提取 Filter 条件
expr := "category == 'Redis' && difficulty == 'Hard'"
// 2. 调用 Milvus 进行混合检索
// Eino 的 Retriever 接口完美支持这种高级操作
docs, err := s.client.Search(ctx, s.collection, expr, queryVector)
return docs, nil
}
四、 效果对比
| 指标 | 传统 RAG (LangChain 默认) | Eino 企业级 RAG (本项目) |
|---|---|---|
| 检索准确率 | 约 60% | > 95% (含混合检索) |
| 响应速度 | 慢 (Python 串行处理) | 快 (Go 并发处理) |
| 代码可维护性 | 差 (黑盒) | 好 (强类型接口) |
五、 源码送给你
为了让大家少走弯路,我把这套 Go + Eino + Milvus 的 RAG 系统源码开源出来了。 它包含:
- Markdown/PDF 解析器
- Milvus 客户端封装
- Hybrid Search 实现逻辑
- 知识库导入脚本
👉 获取方式:
关注掘金专栏,或关注公众号【王中阳 】,回复"面试吧",即可获取完整源码和部署文档。
私信我的绿泡泡:wangzhongyang1993,备注"掘金",拉你进技术交流群,手把手教你搭建自己的企业知识库!