应用交互层 (Application Interaction Layer)
-
**Web框架**:
-
`Spring Boot`
-
`Spring MVC`
-
**API网关**:
-
`Spring Cloud Gateway`
-
`Kong`
-
**前端框架**:
-
`React.js`
-
`Vue.js`
-
`Vue.js`
-
**消息队列客户端**:
-
`RabbitMQ Client`
-
`Apache Kafka Client`
-
**WebSocket支持**:
-
`SockJS`
-
`STOMP over WebSocket`
核心层 (Core Layer)
模型接入
-
`Spring AI Core`: 提供统一的模型接入接口和抽象
-
`LangChain4j`: 支持多种大语言模型的集成和调用
-
`Spring AI Alibaba`: 阿里巴巴生态模型接入支持
任务编排
-
`LangChain4j`: 提供Chain、Agent等编排能力
-
`LangGraph4j`: 复杂工作流和状态机管理
工具调用
-
`Function Calling Mechanism`: 外部函数调用能力
-
`Tool Integration Framework`: 自定义工具插件框架
-
`LangChain4j Tools`: 内置工具集支持
记忆管理
-
`Conversation Memory`: 对话历史管理
-
`Vector Store Integration`: 向量存储的记忆持久化
-
`Session Management`: 会话状态管理
RAG (Retrieval-Augmented Generation)
-
`Document Loaders`: 文档加载器
-
`Text Splitters`: 文本分割器
-
`Embedding Models`: 向量化模型集成
-
`Vector Stores`: 向量数据库连接器
-
`Retrievers`: 检索器实现
模型层 (Model Layer)
-
**大语言模型(LLMs)**:
-
`Qwen`(通义千问系列)
-
`LLaMA / Alpaca`
-
`ChatGpt`
-
**嵌入模型(Embedding Models)**:
-
`BGE-M3`
-
`Sentence Transformers`
-
**多模态模型(Multimodal Models)**:
-
`BLIP-2`
-
`MiniGPT-4`
-
**模型推理引擎**:
-
`TensorRT-LLM`
-
`vLLM`
-
`Triton Inference Server`
数据层 (Data Layer)
-
**向量数据库**:
-
`Pinecone`
-
`Weaviate`
-
`Milvus`
-
**关系型数据库**:
-
`PostgreSQL`
-
`MySQL`
-
**NoSQL数据库**:
-
`MongoDB`
-
`Redis`
-
**搜索引擎**:
-
`Elasticsearch`
-
`OpenSearch`
基础设施层 (Infrastructure Layer)
-
**计算资源**:
-
`GPU`: NVIDIA GPU集群支持
-
`CPU`: 多核CPU计算资源
-
**网络设施**:
-
`Load Balancer`: 负载均衡器
-
`CDN`: 内容分发网络
-
**容器化平台**:
-
`Docker`
-
`Podman`
-
**容器编排**:
-
`Kubernetes`
-
`Docker Swarm`
-
**监控与日志**:
-
`Prometheus + Grafana`
-
`ELK Stack (Elasticsearch, Logstash, Kibana)`
-
**CI/CD流水线**:
-
`Jenkins`
-
`GitLab CI/CD`
-
`GitHub Actions`