LLM对话过程的DDD

终于抽出时间调整了一下DDD的结构,感觉这套设计虽然有些不是很原教旨,但已经能很好的支持至少一年的业务迭代了。直接给结论,直接抄也不会有什么错。

整体方案脱胎自openai的assistant api

Entity

  • Thread,对话过程。由Message构成。
  • Message,单个消息或者事件。由TypedContent构成。
  • TypedContent,一段特定格式的内容(e.g. 一次搜索,一个图片生成)。

VO

  • Run,一次推理过程。虽然是但有ID,在推理存活过程中可以使用ID进行控制。类似于一次性的下载任务。
  • Step,单次数据/操作,如果前后端都统一,每个step会带上TypedContent的id。(e.g. append text with text value)。
两个小备注
  • 在实践中,这个虽然TypedContent是entity反而不适合做为一个持久化实例,只是step整合后的临时数据,因为step是有时序的,TypedContent如果有时序会和step极为相似,如果没有会丢失信息量。
  • ChatGPT把这个也抽象成了Message,感觉并不合适,生命周期和真正的message并不一样。

生命周期

可以理解成Entity的状态机在事件风暴中事件的驱动下进行流转。对于后端来讲,是precondition;对于前端来讲,是VM做数据转换时非常重要的输入。生命周期很容易被以各种数据特征来判断,比如history为空的thread在初始态。这种方式很难统一理解,而且很容易出现各种bug。所以,我认为entity的生命周期是系统中几乎最重要的设计。

Thread

UserMessage

AssistantMessage

相关推荐
byoass4 小时前
企业云盘文件预览技术深度剖析:从10种常见格式到渲染架构实战
网络·安全·架构·云计算
kanhao1005 小时前
DPU 架构扩展与 DPU-only 测评操作指南
架构
SmartBrain8 小时前
基于 Spring AI + Skill 工程 + MCP 技术方案研究
人工智能·spring·架构·aigc
亚马逊云开发者9 小时前
【Bedrock AgentCore】AI Agent 回答不一致怎么办?双 Memory 架构实现服务标准化(附完整代码)
大数据·人工智能·架构
拾薪9 小时前
[SuperPower] Brainingstorm - 流程控制架构分析
网络·人工智能·ai·架构·superpower·brainstorming
黄俊懿11 小时前
【架构师从入门到进阶】第五章:DNS&CDN&网关优化思路——第一节:DNS优化
网络·计算机网络·架构·系统架构·cdn·dns·架构设计
eSsO KERF12 小时前
湖仓一体架构解析:数仓架构选择(第48天)
架构
程序员小胖胖14 小时前
来聊聊我为什么放弃了三层架构
架构
Jiude14 小时前
当给飞书里的 OpenClaw 机器人发一条消息后,到底发生了什么?
架构
淡定o15 小时前
Redis List 换成 Streams,以为能睡安稳觉了——结果消息还是在丢
架构