LLM对话过程的DDD

终于抽出时间调整了一下DDD的结构,感觉这套设计虽然有些不是很原教旨,但已经能很好的支持至少一年的业务迭代了。直接给结论,直接抄也不会有什么错。

整体方案脱胎自openai的assistant api

Entity

  • Thread,对话过程。由Message构成。
  • Message,单个消息或者事件。由TypedContent构成。
  • TypedContent,一段特定格式的内容(e.g. 一次搜索,一个图片生成)。

VO

  • Run,一次推理过程。虽然是但有ID,在推理存活过程中可以使用ID进行控制。类似于一次性的下载任务。
  • Step,单次数据/操作,如果前后端都统一,每个step会带上TypedContent的id。(e.g. append text with text value)。
两个小备注
  • 在实践中,这个虽然TypedContent是entity反而不适合做为一个持久化实例,只是step整合后的临时数据,因为step是有时序的,TypedContent如果有时序会和step极为相似,如果没有会丢失信息量。
  • ChatGPT把这个也抽象成了Message,感觉并不合适,生命周期和真正的message并不一样。

生命周期

可以理解成Entity的状态机在事件风暴中事件的驱动下进行流转。对于后端来讲,是precondition;对于前端来讲,是VM做数据转换时非常重要的输入。生命周期很容易被以各种数据特征来判断,比如history为空的thread在初始态。这种方式很难统一理解,而且很容易出现各种bug。所以,我认为entity的生命周期是系统中几乎最重要的设计。

Thread

UserMessage

AssistantMessage

相关推荐
无心水1 小时前
【全域智能营销实战】2、Spring AI 模块化架构深度解读:从 1.0 到 2.0 的演进与最佳实践
人工智能·spring·架构·harness·顶尖架构师·全域智能营销·harmess
HavenlonLabs1 小时前
Havenlon 对抗性完整(十七):安全不是“防住攻击”,而是控制失败方式
网络·人工智能·架构·安全威胁分析·安全架构·havenlon
doiito(Do It Together)1 小时前
media_agent 进化之路:把 Gliding Horse 的 Agent 超能力注入 ComfyUI,让图片生成自己“学会”优化
人工智能·架构·rust·knowledge graph
触底反弹2 小时前
🔥 从点积到 Transformer:我终于搞懂大模型是怎么"猜"出下一个词的了
人工智能·机器学习·架构
2601_962502902 小时前
服装点胶点钻设备的算法架构与工艺适配分析
架构
凡泰AI4 小时前
从个人用AI到企业用AI,如何为企业部署一套私有化Agent智能体运行时,将AI变成企业的基础设施
人工智能·ai·架构·agent·cio
柒和远方5 小时前
Phase 7.4 学习博客:为什么多 API 项目需要 Swagger / OpenAPI
前端·后端·架构
mONESY5 小时前
AI Loop 自动化工程实践,放弃手工调 Prompt,循环才是标准答案!
架构
Kel5 小时前
Pregel 为什么会成为LangGraph编排的心脏
人工智能·设计模式·架构
柒和远方5 小时前
Phase 7.3 复盘:后台任务不只是“扔进队列”,还要能被看见
前端·后端·架构