AI Agent 开发技术栈

AI Agent 开发技术栈

1. 核心分层

层	职责	常见选型
模型层	推理、多模态	OpenAI / Claude / Gemini / 本地 Llama、Qwen
编排层	规划、工具调用、多步推理	LangGraph、OpenAI Agents SDK、CrewAI、AutoGen、Semantic Kernel
记忆层	短期上下文 + 长期记忆	Redis、Postgres、向量库（pgvector / Milvus / Qdrant）
工具层	外部能力	HTTP API、DB、浏览器、代码执行、MCP Server
检索层 (RAG)	知识增强	LlamaIndex、LangChain Retriever、自建 Embedding 管道
观测层	Trace / 评测	LangSmith、Langfuse、Phoenix、OpenTelemetry
运行时	服务、队列、鉴权	FastAPI / Spring Boot、Celery / MQ、网关鉴权

2. 推荐组合（按场景）

快速原型

• Python + LangGraph / OpenAI Agents SDK
• OpenAI / Claude API
• 本地 SQLite + 简单向量检索

生产级单 Agent

• Python FastAPI 或 Java Spring Boot（网关/业务）
• LangGraph（状态机编排）或自研 ReAct loop
• Postgres + pgvector（记忆/知识）
• Redis（会话、TTL 缓存）
• Langfuse / OTel（链路与成本）

多 Agent 协作

• CrewAI / AutoGen / LangGraph Multi-Agent
• 消息总线（RabbitMQ / Kafka）做 Agent 间异步
• 共享记忆服务 + 权限隔离

IDE / 开发者 Agent

• Cursor SDK / Claude Code 类运行时
• MCP（工具标准化）
• 沙箱执行（Docker / 隔离进程）

3. 关键能力清单

做 Agent 通常不是「调一次 LLM」，而是具备：

1. Planning：任务拆解 / 状态机 / 人机确认
2. Tool Use：Function Calling / MCP
3. Memory：对话记忆、用户偏好、任务状态
4. RAG：企业知识、文档、结构化数据
5. Guardrails：权限、脱敏、输出校验、成本限流
6. Eval：离线用例 + 线上质量/延迟/费用监控

4. 语言选型建议

• Python：生态最强（LangChain/LangGraph/LlamaIndex），适合编排与实验
• TypeScript/Node：前后端一体、MCP/工具链友好
• Java (Spring Boot)：适合你们现有业务中台挂 Agent（鉴权、事务、MQ、配置），编排侧可调 Python/TS 微服务，或用 Semantic Kernel / 自研 tool-calling 循环

5. 一条务实落地路径

用户请求 → Gateway(鉴权/限流)
        → Agent Runtime(规划+循环)
        → Tools / MCP / RAG
        → Memory(Redis/Postgres)
        → LLM Provider
        → Trace + Eval 回写

---