基于大模型和RAG技术实现的开源项目

基于大模型和RAG技术实现的开源项目

为解决大模型的不足,使用RAG技术增强大模型生成内容的针对性和可读性能力,有很多不错的开源项目。例如下面的项目。

1 ragflow

优点:可以对文档和知识库进行管理,构建不同的知识库,支持Ollama和API-key。

数据库使用的是ElasticSearch、MySQL和minio。

复制代码
# 官网
https://ragflow.io/

# Github
https://github.com/infiniflow/ragflow

2 AnythingLLM

优点:具有客户端便于本地管理数据,支持Ollama和API-key;缺点:对本地的电脑配置要求较高。

数据库默认使用的是lancedb。

复制代码
# 官网
https://useanything.com/

# Github
https://github.com/Mintplex-Labs/anything-llm

3 fastgpt

优点:定位知识库搜索和生成,可以快速构建平台,提供了一键部署。安装过程可能较为费劲。

数据库使用的是MongoDB。

复制代码
# 官网
https://fastgpt.in/

# Github
https://github.com/labring/FastGPT

4 QAnything

优点:使用BGE向量引擎完成文本向量化,提供可视化和API,中文支持较好。

数据库使用的是milvus、MySQL和minio。

复制代码
# 官网
https://qanything.ai/

# Github
https://github.com/netease-youdao/QAnything

5 MaxKB

优点:支持Ollama和API-key,支持用户管理等,使用浏览器完成项目;安装最简单的项目。

数据库使用的是PostgreSQL和PGVector(PGVector 是一个基于 PostgreSQL 的扩展插件,为用户提供了一套强大的向量存储和查询的功能)

复制代码
# Github
https://github.com/1Panel-dev/MaxKB
相关推荐
DFT计算杂谈10 小时前
可DIY布里渊区图像绘制编辑器
人工智能·机器学习·语言模型·矩阵·编辑器
硅谷秋水21 小时前
从VLM规划器到机器人智能体:面向依赖历史信息的操控任务自演化框架
人工智能·机器学习·语言模型·机器人
Dawson Zhu2 天前
从空间 Scaling 到时间 Scaling
人工智能·语言模型·架构·aigc·agi
xiaoye-duck2 天前
《C++ 项目:手写大模型接入 SDK》Ollama接口设计(上):初始化、全量响应实现和测试
开发语言·网络·c++·语言模型
xiaoye-duck2 天前
《C++ 项目:手写大模型接入 SDK》LLMManager架构设计与实现
开发语言·网络·c++·语言模型
Dawson Zhu2 天前
【LLM推理与Serving⑧】多机多卡Serving:TP/PP/负载均衡与弹性扩缩容全攻略
人工智能·语言模型·架构·aigc·agi
硅谷秋水2 天前
OpenRUA 方法分析
人工智能·机器学习·语言模型·机器人
Bode_20022 天前
大语言模型与运筹规划双闭环共生(LLM-OR):体系架构、理论机理与落地实践
人工智能·语言模型·架构
Dawson Zhu3 天前
【LLM推理与Serving⑤】Prefix Cache前缀缓存:让重复prompt不再重复计算
人工智能·语言模型·架构·aigc·agi
lisw054 天前
理解推理大语言模型的可监控性!
人工智能·语言模型·自然语言处理