LLM对话过程的DDD

终于抽出时间调整了一下DDD的结构,感觉这套设计虽然有些不是很原教旨,但已经能很好的支持至少一年的业务迭代了。直接给结论,直接抄也不会有什么错。

整体方案脱胎自openai的assistant api

Entity

  • Thread,对话过程。由Message构成。
  • Message,单个消息或者事件。由TypedContent构成。
  • TypedContent,一段特定格式的内容(e.g. 一次搜索,一个图片生成)。

VO

  • Run,一次推理过程。虽然是但有ID,在推理存活过程中可以使用ID进行控制。类似于一次性的下载任务。
  • Step,单次数据/操作,如果前后端都统一,每个step会带上TypedContent的id。(e.g. append text with text value)。
两个小备注
  • 在实践中,这个虽然TypedContent是entity反而不适合做为一个持久化实例,只是step整合后的临时数据,因为step是有时序的,TypedContent如果有时序会和step极为相似,如果没有会丢失信息量。
  • ChatGPT把这个也抽象成了Message,感觉并不合适,生命周期和真正的message并不一样。

生命周期

可以理解成Entity的状态机在事件风暴中事件的驱动下进行流转。对于后端来讲,是precondition;对于前端来讲,是VM做数据转换时非常重要的输入。生命周期很容易被以各种数据特征来判断,比如history为空的thread在初始态。这种方式很难统一理解,而且很容易出现各种bug。所以,我认为entity的生命周期是系统中几乎最重要的设计。

Thread

UserMessage

AssistantMessage

相关推荐
志栋智能2 小时前
运维超自动化:构建弹性IT架构的关键支撑
运维·服务器·网络·人工智能·架构·自动化
ai产品老杨2 小时前
GB28181与RTSP全协议兼容之道:基于Docker与微服务架构的AI视频中台架构解析(附源码交付方案)
docker·微服务·架构
池央2 小时前
基于腾讯云架构部署OpenClaw并实现与Telegram终端集成的全链路技术解析与实践指南
架构·云计算·腾讯云·腾讯云openclaw玩虾大赛
薛定猫AI2 小时前
【深度解析】Open Design:用本地优先架构重塑 AI UI 生成工作流
人工智能·ui·架构
candyTong8 小时前
一觉醒来,大模型就帮我排查完页面性能问题
前端·javascript·架构
空中海10 小时前
Kubernetes 入门基础与核心架构
贪心算法·架构·kubernetes
米高梅狮子12 小时前
08.CronJob和Service
云原生·容器·架构·kubernetes·自动化
SamDeepThinking13 小时前
中小团队需要一个资源微服务
后端·微服务·架构
两万五千个小时13 小时前
为什么你的 Agent 读了文件,却好像什么都没读到?
人工智能·程序员·架构
非优秀程序员14 小时前
智能体的构成--深入探讨Anthropic、OpenAI、Perplexity和LangChain究竟在构建什么。
人工智能·架构·开源