通过embeddings轻松实现搜索功能

前言

随着人工智能和深度学习的进步,智能模型嵌入(embeddings)的引入使得搜索引擎能够通过计算空间维度来发现更为相似的对象。这种方法不仅提升了搜索结果的精确度和个性化程度,还为搜索引擎的进一步优化和创新提供了新的可能性。

embeddings

在计算机科学和机器学习领域,"embeddings"(嵌入)通常指的是将高维空间中的对象(如文本、图像、音频等)映射到低维空间的向量表示。这种向量表示能够捕捉对象的语义和特征,使得它们可以更有效地被计算机处理和理解。具体来说,嵌入是指将对象映射到一个连续的向量空间中,使得相似的对象在这个空间中距离较近。

使用embeddings将文本转换为语义向量

step1:导入所需包

首先,你需要导入必要的Python包。在这个例子中,openai用于与OpenAI的API交互,而.envdotenv用于读取环境变量,这通常用来存储敏感信息如API密钥。

step2:创建OpenAI客户端对象

创建一个连接到OpenAI API的客户端,使得你可以使用该客户端来进行与OpenAI API相关的操作。

step3:调用embeddings接口

通过指定的OpenAI文本嵌入模型,将"如何创建vue组件"这个问题转换为一个向量化的表示,以便后续进行语义相似性比较、文本聚类。

向量化结果:

搜索匹配实现

通过上述操作,一旦数据库中的文档或项目被编码为向量形式并存储于数据库内,当用户发起查询时,其输入的查询文本同样会经过相同的向量化过程,转化为对应的语义向量。随后,系统会对查询向量与数据库中存储的所有向量进行相似度计算,以识别那些在语义上最接近查询意图的条目。

相似度计算常用的方法之一是余弦相似度(cosine similarity),这是一种衡量两个非零向量之间的角度余弦值的度量方式。余弦相似度能够有效地反映两个向量在高维空间中的方向相似性,而不受它们的模长影响,因此非常适合于文本相似性分析。

具体步骤如下:

  1. 向量化:使用预训练的语言模型或专门设计的嵌入算法将文本转化为向量表示。

  2. 存储:将所有文本的向量表示存储在数据库中,优化存储结构以提高检索效率。

  3. 查询向量化:对用户的查询文本进行同样的向量化处理。

  4. 相似度计算:通过计算查询向量与数据库中每个向量的余弦相似度,找到最接近的匹配项。

  5. 排序与输出:根据相似度得分对结果进行排序,并返回得分最高的若干条目作为推荐结果。

demo实例

准备的数据

将这个JSON文件中的数据(每个帖子(post)的标题和分类进行文本嵌入),并将带有嵌入向量的帖子信息保存至另一个文件中,便于后续计算查询向量与数据库中每个向量的余弦相似度。

根据搜索文本 "vue组件开发",找出与其语义最接近的帖子,并按照相似度高低输出相关的帖子标题和分类信息。

结果输出:

最后

最后,我们轻松实现了一个搜索推荐功能,这一机制不仅提升了信息检索的精度和效率,还能够支持基于内容的推荐系统,为用户提供个性化且语义相关的信息或产品建议。

相关推荐
Suryxin.2 分钟前
从0开始复现nano-vllm「ModelRunner.capture_cudagraph()」
人工智能·pytorch·深度学习·vllm
武汉唯众智创12 分钟前
云边端协同落地:唯众AI实训平台技术架构实操解析
人工智能·人工智能实训·ai 实训平台·职教 ai 实训·职教院校实训方案·高校职校实训方案
大猫子的技术日记15 分钟前
Playwright 自动化测试入门指南:Python 开发者的端到端实战
开发语言·人工智能·python
数琨创享TQMS质量数智化16 分钟前
数琨创享:以数智化质量目标管理闭环赋能可量化、可追溯、可驱动的质量运营
大数据·人工智能·qms质量管理系统
laplace012328 分钟前
Kv cache
人工智能·agent·claude·rag·skills
Maynor99628 分钟前
OpenClaw 中转站配置完全指南
linux·运维·服务器·人工智能·飞书
Eric22335 分钟前
CLI-Agent-Manager:面向 Vibe Coding 的多 Agent 统一管理面板
人工智能·后端·开源
如若12340 分钟前
SoftGroup训练FORinstance森林点云数据集——从零到AP=0.506完整复现
人工智能·python·深度学习·神经网络·计算机视觉
InternLM41 分钟前
LMDeploy重磅更新:从支撑模型到被模型反哺,推理引擎迈入协同进化时代!
人工智能·大模型·多模态大模型·大模型推理·书生大模型
AI周红伟42 分钟前
周红伟老师《企业级 RAG+Agent+Skills+OpenClaw 智能体实战内训》的完整课程大纲(5 天 / 40 小时)
人工智能