LangChain4j HTTP 客户端定制:解锁 LLM API 交互的更多可能性

点击下方"JavaEdge",选择"设为星标"

第一时间关注技术干货!

免责声明~

任何文章不要过度深思!

万事万物都经不起审视,因为世上没有同样的成长环境,也没有同样的认知水平,更**「没有适用于所有人的解决方案」**;

不要急着评判文章列出的观点,只需代入其中,适度审视一番自己即可,能**「跳脱出来从外人的角度看看现在的自己处在什么样的阶段」才不为俗人**。

怎么想、怎么做,全在乎自己**「不断实践中寻找适合自己的大道」**

0 前言

一些 LangChain4j 模块(目前是 OpenAI 和 Ollama)支持自定义用于调用 LLM 提供程序 API 的 HTTP 客户端。

langchain4j-http-client 模块实现了一个 HttpClient SPI,这些模块用它来调用 LLM 提供程序的 REST API。即底层 HTTP 客户端可自定义,并通过实现 HttpClient SPI 来集成任何其他 HTTP 客户端。

1 实现方案

目前,有两种开箱即用的实现:

1.1 JdkHttpClient

langchain4j-http-client-jdk 模块中的 JdkHttpClient 。当使用受支持的模块(如 langchain4j-open-ai )时,默认使用它。

1.2 SpringRestClient

langchain4j-http-client-spring-restclient 中的 SpringRestClient 。当使用受支持的模块的 Spring Boot 启动器(例如 langchain4j-open-ai-spring-boot-starter )时,默认使用它。

2 自定义JDK的HttpClient

go 复制代码
HttpClient.Builder httpClientBuilder = HttpClient.newBuilder()
        .sslContext(...);

JdkHttpClientBuilder jdkHttpClientBuilder = JdkHttpClient.builder()
        .httpClientBuilder(httpClientBuilder);

OpenAiChatModel model = OpenAiChatModel.builder()
        .httpClientBuilder(jdkHttpClientBuilder)
        .apiKey(System.getenv("OPENAI_API_KEY"))
        .modelName("gpt-4o-mini")
        .build();

3 定制 Spring 的RestClient

go 复制代码
RestClient.Builder restClientBuilder = RestClient.builder()
        .requestFactory(new HttpComponentsClientHttpRequestFactory());

SpringRestClientBuilder springRestClientBuilder = SpringRestClient.builder()
        .restClientBuilder(restClientBuilder)
        .streamingRequestExecutor(new VirtualThreadTaskExecutor());

OpenAiChatModel model = OpenAiChatModel.builder()
        .httpClientBuilder(springRestClientBuilder)
        .apiKey(System.getenv("OPENAI_API_KEY"))
        .modelName("gpt-4o-mini")
        .build();

本文已收录在Github Java-Interview-Tutorial,关注我,紧跟本系列专栏文章,咱们下篇再续!

  • 🚀 魔都架构师 | 全网30W技术追随者

  • 🔧 大厂分布式系统/数据中台实战专家

  • 🏆 主导交易系统亿级流量调优 & 车联网平台架构

  • 🧠 AIGC应用开发先行者 | 区块链落地实践者

  • 🌍 以技术驱动创新,我们的征途是改变世界!

  • 👉 实战干货:编程严选网

关注我,紧跟本系列专栏文章,咱们下篇再续!

加我好友,一起AI探索交流:

写在最后

编程严选网http://www.javaedge.cn/

专注分享AI时代下软件开发全场景最新最佳实践,点击文末【阅读原文】即可直达~

相关推荐
渡我白衣6 分钟前
计算机组成原理(7):定点数的编码表示
汇编·人工智能·嵌入式硬件·网络协议·机器学习·硬件工程
颹蕭蕭15 分钟前
CRC的数学原理
网络
十五年专注C++开发39 分钟前
ZeroMQ: 一款高性能、异步、轻量级的消息传输库
网络·c++·分布式·zeroqm
晚风(●•σ )1 小时前
【华为 ICT & HCIA & eNSP 习题汇总】——题目集25
网络·计算机网络·交换机
乾元1 小时前
用 AI 做联动:当应用层出现问题,网络如何被“自动拉入决策回路”
运维·开发语言·网络·人工智能·ci/cd·自动化
金灰2 小时前
一带一路(金砖)--网络安全防护治理赛项
网络·计算机网络·安全·web安全·网络安全·网络攻击模型·安全威胁分析
Bruce_Liuxiaowei2 小时前
网站敏感文件_目录大全(分类记忆+风险标注)
运维·网络·网络协议·http·网络安全·https
脆皮瞎2 小时前
内网域渗透-信息收集
网络·网络安全
老猿讲编程2 小时前
【车载信息安全系列1】车载Linux系统常用的OpenSSL, HSE加密工作原理
linux·网络
猛喝威士忌2 小时前
【虚拟机】使用OpenWrt作为虚拟机集群的软路由(下)
linux·网络协议