【SpringAI 09】SpringAI入门

了解SpringAI？

Spring AI 是 Spring 官方推出的 Java AI 应用框架，它将 Spring 生态的成熟设计原则引入AI工程领域，专门用于简化Java开发者集成人工智能能力的流程。

一、核心基础信息

‌版本进展‌：2026年6月已发布 ‌Spring AI 2.0 GA版本‌，基于Spring Boot 4.1和Spring Framework 7构建。

‌核心定位‌：面向Java生态开发者，无需切换技术栈即可快速搭建企业级AI应用。

二、核心功能

‌统一大模型接入‌：提供统一API接入OpenAI、Azure、AWS、DeepSeek等主流大模型，支持聊天、图像、语音等多模态任务。

‌全链路AI能力封装‌：覆盖数据预处理、模型集成、微服务部署等环节，兼容TensorFlow、PyTorch等主流AI框架。

‌生态无缝适配‌：可直接复用Spring Boot、Spring Cloud等现有生态组件，快速将AI能力嵌入原有Spring业务系统。

三、典型应用场景

适用于构建RAG检索增强生成、智能客服、AI Agent代理等各类企业级Java AI应用。

了解Langchanin4j？

LangChain4j 是一个专为 Java 生态系统设计的大语言模型（LLM）应用开发框架。它并非 Python LangChain 的简单移植，而是基于 Java 语言特性（如类型安全、POJO、注解、依赖注入等）从头构建的原生库，旨在帮助 Java 开发者利用现有的企业级开发经验（如 Spring Boot、Quarkus、Jakarta EE），快速构建安全、可扩展且易于维护的 AI 应用程序。

以下是 LangChain4j 的核心特点、架构组件及开发指南：

1. 核心定位与优势

Java 原生设计‌：遵循 Java 开发习惯，提供流畅的 API（Fluent API）、Builder 模式以及与其他 Java 框架（Spring Boot, Quarkus, Micronaut, Helidon）的一流集成。

统一抽象层‌：通过标准化的接口屏蔽不同 LLM 提供商（如 OpenAI, Azure OpenAI, Google Vertex AI, Hugging Face, Ollama 等）和向量数据库的差异，实现模型和存储的低成本切换。

模块化与灵活性‌：采用松耦合设计，开发者可以按需组合模型、记忆、工具和检索组件，适合从简单问答到复杂 Agent 工作流的各类场景。

企业级安全性‌：内置支持 API 密钥保护、内容过滤、提示词防御设计（防止注入攻击）、结构化输出验证以及审计日志，适合构建生产环境可用的可信 AI 应用。

2. 核心功能组件

LangChain4j 将 LLM 应用拆解为以下几个关键模块：

A. 模型集成 (Models)

聊天模型 (Chat Language Models)‌：支持多轮对话交互。

嵌入模型 (Embedding Models)‌：将文本转换为向量，用于语义搜索。

图像模型 (Image Models)‌：支持文生图等能力。

音频模型 (Audio Models)‌：支持语音转文本或文本转语音。

B. 记忆管理 (Memory)

短期记忆‌：如 InMemoryMemory，用于保存当前会话的上下文历史。

长期记忆‌：结合向量数据库（Vector Stores），实现跨会话的知识持久化和检索增强生成（RAG）。

C. 工具与代理 (Tools & Agents)

工具 (Tools)‌：允许 LLM 调用外部功能，如计算器、网页搜索、自定义 API 接口等。通过 @Tool 注解即可将 Java 方法暴露给模型。

代理 (Agents)‌：支持多种 Agent 模式，如 ReAct、Reflection 等，能够根据任务自动规划步骤、调用工具并处理结果。支持多代理系统（Multi-Agent Systems），包括链式代理、并行专家意见、监督者代理等高级模式。

D. 检索增强生成 (RAG)

文档加载与分割‌：内置多种文本分割器（如 RecursiveCharacterTextSplitter），支持按字符、句子或段落分割。

向量存储集成‌：支持主流向量数据库，如 Chroma, Milvus, Pinecone, Weaviate, Elasticsearch, PostgreSQL (pgvector) 等。

检索器‌：提供语义搜索能力，将相关上下文注入提示词中，提高回答准确性。

E. 链式处理 (Chains)

通过组合多个原子操作（如提示词模板 -> 模型调用 -> 输出解析）形成执行链，简化复杂业务流程编排。

3. 快速入门示例

环境要求

JDK 11 或更高版本（推荐 LTS 版本）

Maven 3.8+ 或 Gradle 7.5+

Maven 依赖配置

java 复制代码

<dependencies>
    <!-- 核心库 -->
    <dependency>
        <groupId>dev.langchain4j</groupId>
        <artifactId>langchain4j</artifactId>
        <version>0.36.0</version> <!-- 请使用最新稳定版 -->
    </dependency>
    
    <!-- OpenAI 集成示例 -->
    <dependency>
        <groupId>dev.langchain4j</groupId>
        <artifactId>langchain4j-open-ai</artifactId>
        <version>0.36.0</version>
    </dependency>
</dependencies>

代码示例：简单聊天与工具调用

java 复制代码

import dev.langchain4j.model.chat.ChatLanguageModel;
import dev.langchain4j.model.openai.OpenAiChatModel;
import dev.langchain4j.service.AiServices;
import dev.langchain4j.service.Tool;

public class LangChain4jDemo {

    // 定义一个工具类
    static class Calculator {
        @Tool("计算两个数的和")
        public double add(double a, double b) {
            return a + b;
        }
    }

    // 定义一个服务接口
    interface Assistant {
        String chat(String userMessage);
    }

    public static void main(String[] args) {
        // 1. 初始化模型
        ChatLanguageModel model = OpenAiChatModel.builder()
                .apiKey("your-api-key")
                .modelName("gpt-4o-mini")
                .build();

        // 2. 构建 AI 服务，绑定模型和工具
        Assistant assistant = AiServices.builder(Assistant.class)
                .chatLanguageModel(model)
                .tools(new Calculator())
                .build();

        // 3. 调用
        String response = assistant.chat("123 加上 456 等于多少？");
        System.out.println(response); 
        // 模型会自动调用 Calculator.add 方法并返回结果
    }
}

LangChain4j‌ 与 Spring AI 的对比

LangChain4j‌：社区驱动，起源较早，功能丰富且灵活，对非 Spring 生态（如 Quarkus, Micronaut）支持良好，适合需要高度定制化或使用多种非标准组件的场景。

Spring AI‌：Spring 官方项目，与 Spring 生态无缝集成，配置标准化程度高，适合已经深度使用 Spring Boot/Cloud 的企业级项目，追求开发规范性和长期维护便利性。

这张图是Java生态下两大主流AI开发框架 ‌Spring AI‌ 和 ‌LangChain4j‌ 的核心能力横向对比表，直观展示了两者在功能覆盖、生态适配等维度的差异，我们可以从以下几个维度拆解分析：

一、基础共性能力

两者在核心AI基础能力上完全对齐，都能满足常规大模型应用开发的刚需：

都原生支持Chat大模型对话交互、Function函数调用能力

都内置了完整的RAG检索增强生成能力，可快速搭建知识库问答类应用

对主流对话大模型的适配数量持平，均覆盖15款以上不同厂商的模型产品

二、LangChain4j的差异化优势

从对比数据能明显看出它在生态兼容性和适配广度上更突出：

对向量模型的支持数量达到15+，比Spring AI多出5款，能适配更多小众、垂直领域的向量计算场景

向量数据库的适配数量高达20+，覆盖几乎所有主流和小众的向量存储产品，选型自由度极高

最低仅需JDK 8即可运行，对老旧Java项目的兼容性极强，不需要强制升级项目的JDK版本，适合存量老系统快速接入AI能力

三、Spring AI的差异化优势

它的核心优势集中在多模态能力和生态适配上：

多模态模型支持数量达到5+，远高于LangChain4j的1款，更适合需要处理图文混合输入、图像理解的多模态AI应用场景

作为Spring官方推出的AI扩展框架，它要求JDK 17及以上版本，完全贴合Spring Boot 3.x之后的技术栈，能和现有Spring生态的依赖注入、自动配置、监控体系无缝打通，对于已经深度使用Spring技术栈的企业项目来说，学习成本更低、集成更顺滑。

四、选型参考建议

如果你的项目是基于JDK 8的存量老系统，需要对接小众向量数据库、追求最大的组件选型自由度，优先选择LangChain4j

如果你的项目本身就是Spring生态的微服务，需要开发多模态相关的AI功能，优先选择Spring AI，能获得更流畅的开发体验和更完善的企业级特性支持。

最佳实践建议

提示词工程‌：使用清晰的系统提示词（System Prompt）界定模型角色和边界，利用结构化输出（如 JSON Mode）确保程序可解析性。

内存优化‌：对于长对话，定期总结历史记录或滑动窗口截断，避免超出模型上下文限制并降低 Token 消耗。

错误处理‌：在工具调用和模型交互中加入重试机制和异常捕获，确保应用的健壮性。

安全合规‌：始终对用户输入进行清洗，对模型输出进行内容审核，避免敏感信息泄露或生成有害内容。

LangChain4j 使得 Java 开发者无需切换到 Python 生态即可充分利用大模型的能力，是构建企业级 AI 应用的有力工具。