亚马逊云科技Bedrock知识库自定义语义搜索配置教程

借助亚马逊云科技的Amazon Bedrock知识库功能,我们可以安全地将Amazon Bedrock中的基础模型连接到我们的私有数据,实现检索增强生成(RAG)。给知识库挂载额外的数据有助于模型生成更相关、基于上下文的准确响应,而无需重新训练AI模型。

在本文中我们将介绍Amazon Bedrock知识库在用于生成响应的RetrieveAndGenerate API中的两项新功能:配置最大检索结果数量和使用知识库提示词模板创建自定义提示词。现在大家可以将这些选项作为查询参数,在知识库搜索中使用。

新功能概述及优势

Bedrock知识库的最大检索结果数量选项,允许大家调整从向量存储中检索并传递给AI模型生成答案的搜索结果数量。这使AI模型在回答用户问题时,能够根据复杂问题提供更多背景信息,或者对于简单问题减少不必要的信息量。大家利用知识库最多可以检索100条结果,这个选项可以提供更多的相关上下文的搜索结果,从而提高准确性,并减少模型生成幻觉的情况。

自定义知识库提示模板允许大家替换默认的提示模板,以自定义发送给模型的提示词。这使大家可以自定义模型的语气、输出格式和行为,以适应不同的用户需求。有了这个选项大家可以调整术语,使其更符合特定行业或领域(如医疗或法律)。此外还可以添加自定义指令和示例,以更好地匹配特定的工作流程。在接下来的部分,我们将介绍如何通过亚马逊云科技管理控制台或SDK来实现这些功能。

通过控制台配置最大检索结果数量

要跟随本文示例操作,大家需要一个已创建的知识库。在建好知识库后,如果要在控制台上使用最大检索结果数量选项,请按照以下步骤操作:

  1. 在亚马逊云科技Bedrock控制台左侧导航栏中,选择知识库(Knowledge bases)。

  2. 选择已创建的知识库。

  3. 选择测试知识库(Test knowledge base)。

  4. 选择配置图标(Configuration)。

  5. 在开始测试知识库之前,选择同步数据源(Sync data source)。

  6. 在配置(Configurations)部分中的搜索类型(Search Type)下,根据业务需求选择搜索类型。本文为了简化安利的演示,使用了默认搜索(Default Search)。大家还可以根据业务需求使用语义搜索(Semantic Search)或混合搜索(Hybrid Search)。要了解更多关于混合搜索的信息,请参阅亚马逊云科技 Bedrock 知识库现在支持混合搜索。

  7. 展开最大源搜索数据源块数量(Maximum number of source chunks) 选项,并设置最大检索结果数量。

为了展示Bedrock这一功能的价值,我们提供了一些案例展示,以说明如何提高知识库生成响应的准确性。我们使用了亚马逊的年度财报和股东信(包括2023年亚马逊10-K文档、2022年股东信、2021年股东信、2020年股东信、2019年股东信)作为知识库的数据源。然后我们使用以下查询进行实验:"亚马逊的年收入是在哪一年从2450亿美元增长到4340亿美元?"

对于这个查询,正确的答案应该是"亚马逊的年收入从2019年的2450亿美元增长到2022年的4340 亿美元",这一结论是基于知识库中的文档得出的。我们使用Claude v3作为AI 模型来生成最终的响应,该响应基于知识库检索到的上下文信息。此外Claude 3 Sonnet和Claude 3 Haiku也支持作为知识库AI模型。

下面我们开始进行另一项查询实验,以比较不同配置下的检索情况。我们使用相同的查询输入("亚马逊的年收入是在哪一年从2450亿美元增长到4340亿美元?"),并将最大检索结果数量设置为5。如下图所示生成的响应是:"对不起,我无法帮助处理您的请求。"

然后我们将最大检索结果数量设置为12,并再次提出相同的问题。这次生成的响应是:"亚马逊的年收入从2019年的2450亿美元增长到2022年的4340亿美元。"

如本示例所示,通过调整最大检索结果数量,我们才能够正确检索到答案。如果大家想要了解生成答案所依据的来源信息,可以选择显示来源详情(Show source details) 以验证知识库的检索结果。

在本篇中,我们介绍了如何在亚马逊云科技上为Bedrock知识库功能,并通过调整知识库进行内容搜索时的最大检索结果数量,更精准地检索到我们希望得到的结果。在本系列下篇中,我们将继续介绍如何配置自定义的知识库提示词模板,使知识库按大家的业务需求进行更定制化的回复。欢迎大家继续关注小李哥的亚马逊云科技前沿AI解决方案介绍系列,关注我不要错过未来更多高质量内容。

相关推荐
计算机编程-吉哥7 分钟前
YOLO26 vs YOLO11 vs YOLOv8:深度学习咖啡果实成熟度分割系统【计算机毕业设计选题推荐】
人工智能·python·深度学习·yolo·django·毕业设计
冬奇Lab18 分钟前
一年前没启动 AI 提效的团队,今年在付什么钱?
人工智能
NeoGressAI外贸数字化1 小时前
IOR新规9月18日生效:Form 5106六项资料自查清单
人工智能
根目录下的猫1 小时前
RK3588适配的轻量级AI模型推荐
人工智能·后端·python·目标检测
weixin_6682 小时前
Cursor 插件使用说明:Linear 与 Figma
人工智能·cursor
wshzd2 小时前
LLM之Agent(六十八)|PI(七)构建测试与开发流程
人工智能
H0311169852 小时前
App竞品数据平台功能梳理:月狐数据、七麦数据、点点数据
人工智能
YOLO数据集集合2 小时前
高铁轨道紧固件损坏检测数据集 | 高铁巡检 紧固件缺陷 轨道安全9093期
人工智能·目标检测·计算机视觉·目标跟踪·轨道·铁轨紧固件·铁轨
冬奇Lab2 小时前
一天一个开源项目(第223篇):TeamAI-CLI —— 腾讯开源的团队级 AI Agent 中间层,让每个人的 AI 能力变成团队共享能力
人工智能·开源·资讯
ShineWinsu3 小时前
对于Coze—AI:SDK的解析
人工智能·python·ai·sdk·项目·coze·字节跳动