llamaindex

练习两年半的攻城狮3 天前
python·llamaindex
LlamaIndex ResponseMode 深度解析摘要:LlamaIndex 提供了 8 种 ResponseMode(响应合成模式),但官方文档语焉不详。本文从源码级别深度解析每种模式的实现原理、适用场景、性能差异和隐藏坑点,帮助开发者在 RAG 项目中做出正确选择。涵盖 REFINE、COMPACT、SIMPLE_SUMMARIZE、TREE_SUMMARIZE、ACCUMULATE、COMPACT_ACCUMULATE、GENERATION、NO_TEXT、CONTEXT_ONLY 等全部模式。
染指11105 天前
markdown·rag·llama_index·llamaindex
79.高级RAG-md文档元素分割器内容参考于:图灵AI大模型全栈Markdown元素处理器元素处理器它把文档看做成元素的集合,会抽取表格、代码这种特殊内容,然后进行分割,也只把这种特殊内容进行索引生成
染指11105 天前
人工智能·rag·llama_index·llamaindex
80.高级RAG-LLamaIndex实际应用-金融助手内容参考于:图灵AI大模型全栈LLamaIndex做RAG的步骤如下图是LLamaIndex做RAG的步骤
染指11107 天前
人工智能·python·llama_index·llamaindex
76.高级RAG-后检索器(时间排序)内容参考于:图灵AI大模型全栈时间排序比如新闻,今天的新闻和昨天的新闻,我们肯定是要今天的新闻,昨天新闻的分数就要比今天的新闻分数低,就是确保以最新的数据为准,让大模型获得最新最有时效性的信息
染指11109 天前
llamaindex·高级rag
73.高级RAG-后检索器(文档过滤)内容参考于:图灵AI大模型全栈过滤它的作用是处理检索出来的数据,比如说之前通过BM25词频率检索出来的文档由于我们非要让它返回多个文档数据,导致有些都是0分,那么这些0分的就没必要拼接到提示词中给大模型了,或者说低于多少分,比如低于0.7、0.5这个分数很低的相关性可能就不会很大,所以就不要给大模型了,所以过滤的功能是把检索出来的一些相关性不高的文档删掉
染指111012 天前
python·sql·mysql·llama·llamaindex·高级rag
72.高级RAG-sql检索器内容参考于:图灵AI大模型全栈sql检索器它没办法做到跟向量检索一样进行语意匹配,它只能做到把自然语言转成sql语法
染指111014 天前
rag·llama_index·llamaindex
70.高级RAG-混合检索器(BM25和向量检索,RRF、归一化分数、DBSF公式详解,融合排序)内容参考于:图灵AI大模型全栈检索器是用来从知识库或向量数据库中查找相关文本的东西,然后再交给大语言模型生成答案
染指111021 天前
人工智能·llama_index·llamaindex·摄取管道
64.高级RAG-摄取管道内容参考于:图灵AI大模型全栈摄取管道现在有这样的一件事情,有一个文档A用户上传了一次,B用户上传了一次,一个文档上传了两次这种情况要做两次RAG的知识库吗?这里就有两个概念 全量更新和增量更新
染指111025 天前
人工智能·llama·rag·llama_index·llamaindex
61.RAG-RAG存在的问题内容参考于:图灵AI大模型全栈RAG它实际上存在一些问题,需要考虑这些问题该怎样解决RAG的流程1.加载文件
染指11101 个月前
llamaindex
60.llama_index-记忆(记忆存储到Redis)内容参考于:图灵AI大模型全栈常用的数据库组件Radis存储安装Radis库使用Radis代码,如果想使用Redis只需要把下图红框位置改成RedisChatStore就可以了
染指11101 个月前
人工智能·llama·rag·llama_index·llamaindex
56.llama_index-查询引擎内容参考于:图灵AI大模型全栈查询引擎Query Engine(查询引擎)它在llamaindex中是最常用的一个抽象接口,用来接收问题,自动完成检索相关文档片段(Node)然后调用llm大模型生成最终答案,只需要一行代码就可以实现
染指11101 个月前
数据库·redis·llama_index·llamaindex
53.llama_index-向量存储、索引存储内容参考于:图灵AI大模型全栈向量存储是VectorStore官网地址:https://developers.llamaindex.ai/python/framework-api-reference/storage/vector_store/
染指11101 个月前
llama·rag·llamaindex
50.llama_index-文档分割器(文本)内容参考于:图灵AI大模型全栈分割(分割也叫分片)器的作用1.限制LLM上下文窗口的数据,问题内容和大模型输出的内容被看作为一次上下文大小,现在的模型都有上下文的限制,没办法传递给大模型一个很大的文档
染指11101 个月前
llama·rag·llamaindex
46.llama_index-提示词模板(富提示词模板、jinja2静态和动态模板)内容参考于:图灵AI大模型全栈LLamaIndex提供了三个提示词模板PromptTemplate:普通提示词模板,出现的最早,纯字符串,可以用来做文本补齐,但真正的场景都是要跟聊天一样,这种纯字符串的不会用,现代最基本的AI就要支持聊天,这个只需要做了解就可以
weigangwin1 个月前
python·ai·agent·rag·检索·llamaindex·观测性
LlamaIndex 第一次试用:别先写 RAG Demo,先验上下文合同LlamaIndex 不适合用“5 行代码做一个 RAG demo”来判断好坏。那个 demo 只能证明框架能跑通一次,不证明你的数据进入系统后仍然可追踪,不证明检索结果能解释,不证明 Agent 的记忆边界正确,也不证明生产环境里能审计每一次工具调用。
染指11101 个月前
llama·llamaindex
45.llama_index-全局配置(Settings)内容参考于:图灵AI大模型全栈llamaIndex中有一个全局配置,当我们没有指定模型的时候它会使用全局配置中设置的模型
li星野3 个月前
大模型·llamaindex·学习记录
LlamaIndex 核心模块详解:从数据连接到智能代理,构建生产级 RAG 系统LlamaIndex 是当前最流行的 RAG(检索增强生成)框架之一。本文系统梳理了它的四大核心模块:数据连接器、数据索引、查询引擎、数据代理,并提供了大量代码示例、策略对比和实战经验。读完这篇,你就能独立搭建一套完整的 RAG 应用。
木子七3 个月前
ai·rag·llamaindex
Llamaindex框架所有开发框架(SDK)的核心价值,都是降低开发、维护成本。大语言模型开发框架的价值,是让开发者可以更方便地开发基于大语言模型的应用:
.唉3 个月前
大模型·rag·llamaindex
05. 从入门到实践: LlamaIndex与 RAG 应用构建摘要:本文聚焦LlamaIndex,作为LLM应用的核心数据框架,它搭建起通用大模型与私有数据的桥梁。文章系统拆解其四大核心流程:Loading完成文档加载与节点分割,Indexing构建向量索引实现语义检索,Storing借助StorageContext实现数据持久化,Querying提供自然语言查询接口。同时深入解析Workflows模块,涵盖事件驱动的控制流、状态管理与可视化调试能力。全文帮助开发者掌握从数据接入到复杂AI代理编排的完整路径,助力构建高效RAG应用。