31_Spring AI 干货笔记之嵌入模型 Amazon Bedrock

一、Amazon Bedrock

根据 Bedrock 的建议,Spring AI 已过渡到使用 Amazon Bedrock 的 Converse API 来实现 Spring AI 中的所有聊天对话功能。Bedrock Converse API 具有以下主要优势:

  • 统一接口: 编写一次代码,即可用于任何受支持的 Amazon Bedrock 模型

  • 模型灵活性: 无需更改代码即可在不同对话模型之间无缝切换

  • 扩展功能: 通过专用结构支持特定于模型的参数

  • 工具支持: 原生集成函数调用和工具使用能力

  • 多模态能力: 内置支持视觉和其他多模态功能

  • 面向未来: 符合 Amazon Bedrock 推荐的最佳实践

Converse API 不支持嵌入操作,因此这些操作将保留在当前 API 中,并且现有 InvokeModel API 中的嵌入模型功能将保持不变。

Amazon Bedrock 是一项托管服务,它通过统一的 API 提供来自多个 AI 提供商的基础模型。

Spring AI 通过实现 Spring EmbeddingModel 接口,支持可通过 Amazon Bedrock 使用的 嵌入 AI 模型。

此外,Spring AI 为所有客户端提供 Spring 自动配置和 Boot Starter,使得为 Bedrock 模型进行引导和配置变得简单。

二、开始使用

开始使用有几个步骤:

  • 将适用于 Bedrock 的 Spring Boot starter 添加到您的项目中。

  • 获取 AWS 凭证:如果您还没有 AWS 账户和配置好的 AWS CLI,此视频指南 可以帮助您配置:在 4 分钟内完成 AWS CLI 和 SDK 设置!。您应该能够获取您的访问密钥和安全密钥。

  • 启用要使用的模型:转到 Amazon Bedrock,从左侧的 模型访问 菜单中,配置对您将使用的模型的访问权限。

2.1 项目依赖项

然后,将 Spring Boot Starter 依赖项添加到项目的 Maven pom.xml 构建文件中:

xml 复制代码
<dependency>
    <artifactId>spring-ai-starter-model-bedrock</artifactId>
    <groupId>org.springframework.ai</groupId>
</dependency>

或添加到您的 Gradle build.gradle 构建文件中:

groovy 复制代码
dependencies {
    implementation 'org.springframework.ai:spring-ai-starter-model-bedrock'
}

请参阅 依赖管理 部分,将 Spring AI BOM 添加到您的构建文件中。

2.2 连接到 AWS Bedrock

使用 BedrockAwsConnectionProperties 来配置 AWS 凭证和区域:

yaml 复制代码
spring.ai.bedrock.aws.region=us-east-1

spring.ai.bedrock.aws.access-key=YOUR_ACCESS_KEY
spring.ai.bedrock.aws.secret-key=YOUR_SECRET_KEY

spring.ai.bedrock.aws.timeout=10m

region 属性是必需的。

AWS 凭证按以下顺序解析:

  • Spring-AI Bedrock 的 spring.ai.bedrock.aws.access-key 和 spring.ai.bedrock.aws.secret-key 属性。

  • Java 系统属性 - aws.accessKeyId 和 aws.secretAccessKey。

  • 环境变量 - AWS_ACCESS_KEY_ID 和 AWS_SECRET_ACCESS_KEY。

  • 来自系统属性或环境变量的 Web 身份令牌凭证。

  • 所有 AWS SDK 和 AWS CLI 共享的默认位置(~/.aws/credentials)的凭证配置文件。

  • 如果设置了 AWS_CONTAINER_CREDENTIALS_RELATIVE_URI 环境变量并且安全管理器有权访问该变量,则通过 Amazon EC2 容器服务传递的凭证。

  • 通过 Amazon EC2 元数据服务传递的实例配置文件凭证或设置 AWS_ACCESS_KEY_ID 和 AWS_SECRET_ACCESS_KEY 环境变量。

AWS 区域按以下顺序解析:

  • Spring-AI Bedrock 的 spring.ai.bedrock.aws.region 属性。

  • Java 系统属性 - aws.region。

  • 环境变量 - AWS_REGION。

  • 所有 AWS SDK 和 AWS CLI 共享的默认位置(~/.aws/credentials)的凭证配置文件。

  • 通过 Amazon EC2 元数据服务传递的实例配置文件区域。

除了标准的 Spring-AI Bedrock 凭证和区域属性配置外,Spring-AI 还支持自定义的 AwsCredentialsProvider 和 AwsRegionProvider bean。

例如,同时使用 Spring-AI 和 Spring Cloud for Amazon Web Services。Spring-AI 与 Spring Cloud for Amazon Web Services 的凭证配置兼容。

2.3 启用选定的 Bedrock 模型

默认情况下,所有模型都是禁用的。您必须使用 spring.ai.bedrock..embedding.enabled=true 属性显式启用所选的 Bedrock 模型。

以下是支持的 值:

例如,要启用 Bedrock Cohere 嵌入模型,您需要设置 spring.ai.bedrock.cohere.embedding.enabled=true。

接下来,您可以使用 spring.ai.bedrock..embedding.* 属性来配置每个模型,如下所述。

更多信息,请参阅下面每个受支持模型的文档。

  • Spring AI Bedrock Cohere 嵌入:spring.ai.bedrock.cohere.embedding.enabled=true

  • Spring AI Bedrock Titan 嵌入:spring.ai.bedrock.titan.embedding.enabled=true

相关推荐
吴佳浩4 小时前
我把 HAMi 摆回一台双卡机器上跑了一遍:GPU 编排的性能账,到底记在谁头上
人工智能·gpu
forest_097 小时前
《AI 编程 Harness 实战手册》04|审批这道门:点了一百次“允许”,还剩多少作用?
人工智能·算法·prompt·agi
火山引擎开发者社区8 小时前
当 RPA 遇上 Agent:MUA 混合执行 Workflow 深度拆解
人工智能
严肃小白兔9 小时前
第 10/24 期:深度神经网络的自动求导机制与梯度验证
人工智能·神经网络·dnn
火山引擎开发者社区9 小时前
定档12.16-12.18!FORCE原动力大会上海见!
人工智能
努力的MM1239 小时前
CAIE 二级和阿里云大模型 ACP 怎么选?企业 AI 工程与云平台开发能力对比
人工智能
老金带你玩AI9 小时前
Kling Image 4.0来了!8K和组图直出,电商人的提效神器?
人工智能
孟健10 小时前
用 unslop 拯救 AI 生成网页的塑料感,7 分钟重构落地实测
前端·人工智能·ai编程
stormzhangV10 小时前
Google 重返第一梯队
人工智能·google·aigc