技术栈

llama_index

leo0308
10 个月前
llm·llama·ollama·llama_index
解决llama_index中使用Ollama出现timed out 问题现象:代码:解决办法是增加timeout时长
luxinfeng666
1 年前
embedding·embedding微调·大模型微调·llama_index·自定义微调
基于llama-index对embedding模型进行微调QA对话目前是大语言模型的一大应用场景,在QA对话中,由于大语言模型信息的滞后性以及不包含业务知识的特点,我们经常需要外挂知识库来协助大模型解决一些问题。在外挂知识库的过程中,embedding模型的召回效果直接影响到大模型的回答效果,因此,在许多场景下,我们都需要微调我们的embedding模型来提高我们的召回效果。下面,我们就基于llama-index对BAAI/bge-base-zh-v1.5模型进行微调,关于该模型的介绍,可以参考https://huggingface.co/BAAI/bge-ba