书接上文,结合卡片功能,我成功搭建出一个可以输出图片以及视频的bot,正当我沾沾自喜的时候,我发现两个问题。
第一个,这个工作流回答用的时间很长,而且中途没有任何输出,就让用户在那里干等,等的我很心累。
第二个,我设定的这个旅行大师工作流是从一个大语言模型开始的,用于分析用户究竟想要知道的信息是什么,但是这个设定在回答没有明确信息的问题的时候,如"推荐一个地点",效果不好。
第一个问题的解决方案:
为此我准备在两个方面进行调整,首先调整的是输出墨迹的问题,毕竟干等着太心累。 这个时候就需要工作流中的另一个功能:消息
这个功能可以让工作流的信息提前输出,因此初步的改进想法是将之前工作流的三个输出内容:图片、视频和文字本旅行推荐,从一块输出,变成一步一步输出,具体而言就是在这两个插件之后加入两个消息功能,让其能够中途输出。
重新编辑工作流之后我们的输出节点卡片就多了两个可以绑定的选项,这两个就是我们中途输出的消息
依次将他们绑定好后,我们再运行bot时的输出就成功的让其从一口气憋个大的变成了一步一步进行输出,另外我还发现最慢的其实是大语言模型生成的答案,如果可以,尽量不要让大语言模型生成的答案和其他的东西一起输出。
先写到这里
对于第二个问题的解决方案请期待下一篇文章
BotID: 7363669033633693733