技术栈
sse流式输出
智码看视界
3 天前
java
·
微服务
·
ai
·
架构
·
大模型
·
sse流式输出
·
ai中台
Day49-AI微服务化-将大模型能力封装为标准微服务
把大模型当作一个普通的HTTP微服务来对待,是这一代Java工程师必须建立的工程思维。今天这篇,我会用我们项目组的真实改造过程为例,从架构分层、代码实现到模型路由,一步步把AI能力封装成「别的业务系统愿意调用」的微服务。
你好潘先生
3 个月前
spring boot
·
向量检索
·
next.js
·
pgvector
·
ai对话
·
多模型对比
·
sse流式输出
Next.js + Spring Boot 实现 AI 多模型并行对话系统(架构设计与关键实现)
最近在做 AI 对话类项目,核心功能包括多模型并行对话、Git 式对话分支、知识自动沉淀、AI 语义搜索等。本文分享下整体架构设计和一些关键技术实现,供同样在做类似项目的同学参考。
我是有底线的