技术栈

sse流式输出

智码看视界
3 天前
java·微服务·ai·架构·大模型·sse流式输出·ai中台
Day49-AI微服务化-将大模型能力封装为标准微服务把大模型当作一个普通的HTTP微服务来对待,是这一代Java工程师必须建立的工程思维。今天这篇,我会用我们项目组的真实改造过程为例,从架构分层、代码实现到模型路由,一步步把AI能力封装成「别的业务系统愿意调用」的微服务。
你好潘先生
3 个月前
spring boot·向量检索·next.js·pgvector·ai对话·多模型对比·sse流式输出
Next.js + Spring Boot 实现 AI 多模型并行对话系统(架构设计与关键实现)最近在做 AI 对话类项目,核心功能包括多模型并行对话、Git 式对话分支、知识自动沉淀、AI 语义搜索等。本文分享下整体架构设计和一些关键技术实现,供同样在做类似项目的同学参考。
我是有底线的