前端如何处理AI模型返回的流数据

1.首先,使用什么请求方式

这里采用的是fetch请求方式获取流数据。 Fetch 支持可读流,适用于大文件下载。

代码示例:

javascript 复制代码
fetch(import.meta.env.VITE_AI_API + "/ai/task/stream", {
    method: 'post',
    body: JSON.stringify(params),
    headers: {
      "Content-Type": "application/json",
    },
  }).then(respose => {
    if (respose.status === 200) {
      return respose.body
    }
  })
    .then(rb => {
      return promiseHandleReader(rb!.getReader())
    })
    .catch(error => {
      console.log("error is ", error)
      btnLoading.value =  false
      spinning.value = false
      message.error('生成失败!')
    })

2.流数据

ai模型返回的流数据如下:

3.如何从流数据里获取最后完整的json数据

需要注意的是,ai模型每次返回的流数据,里面有个text字段,正如上图中的text属性。然后是将不断输出的text字段,拼接出一个完整的json数据。那么如何拼接出一个完整的json呢?代码如下

javascript 复制代码
const topicJson = ref('')
const topicInfoObj = ref({})
let streamString = '' // 所有流式输出的拼接

function promiseHandleReader(reader) {
  return new Promise((resolve, reject) => {
    loopRead(reader, resolve, reject)
  }).then(() => {// 读取完所有流数据后,开始处理
    const resArr = extractDataBetween(streamString)
    const resArrNoEmpty = resArr.filter(item => !!item)
    resArrNoEmpty.forEach(item => {
      const obj = JSON.parse(item)
      topicJson.value += obj.result.output.text
    })
    topicInfoObj.value = JSON.parse(topicJson.value)

  })
    .catch(err => {
      console.log(err);
    })
}

// 递归读取流数据
function loopRead(reader, resolve, reject) {
  return reader.read().then(({ done, value }) => {
    if (done) {
      resolve(true)
      return
    }
    const decodeString = new TextDecoder().decode(value)
    streamString += decodeString
    return loopRead(reader, resolve, reject)
  })
}

// 处理所有流式数据拼接的完整数据,取出data:规则后的字符数据
function extractDataBetween(str: string) {
  const regex = /data:([\s\S]*?)(?=data:|$)/g;
  const result = [];
  let match;

  // 循环匹配所有符合条件的内容
  while ((match = regex.exec(str)) !== null) {
    // 将分组1的内容加入数组(即data:后面的分段内容)
    result.push(match[1]);
  }

  return result;
}

async function handleGenerateTopic() {
  topicJson.value = ''
  streamString = ''
  const params = {...} // 参数
  fetch(import.meta.env.VITE_AI_API + "/ai/task/stream", {
    method: 'post',
    body: JSON.stringify(params),
    headers: {
      "Content-Type": "application/json",
    },
  }).then(respose => {
    if (respose.status === 200) {
      return respose.body
    }
  })
    .then(rb => {
      return promiseHandleReader(rb!.getReader())
    })
    .catch(error => {
      console.log("error is ", error)
      message.error('生成失败!')
    })
}
相关推荐
冬奇Lab2 分钟前
每日一个开源项目(第146篇):openpilot - 开源自动驾驶辅助系统,曾在 Consumer Reports 评测中超过特斯拉 Autopilot
人工智能·开源·自动驾驶
吴佳浩1 小时前
AI 工程师知识地图:模型格式、框架、部署工具一次讲明白
人工智能·aigc·ai编程
kyriewen2 小时前
我手写了一个 EventEmitter,面试官追问了 6 个问题——第 4 个我没答上来
前端·javascript·面试
IT_陈寒2 小时前
Java的Date类又坑了我一次,改用时间戳真香
前端·人工智能·后端
码农胖大海2 小时前
AI额度不够用的解决方案
人工智能
后端小肥肠2 小时前
小红书虚拟商品怎么做?我先用 Skill 跑通了壁纸品类
人工智能·aigc·agent
feiyu_gao2 小时前
从零搭建个人 AI 工作台:一个管理者的 3 个月实验
人工智能·aigc·团队管理
山河木马2 小时前
矩阵专题2-怎么创建视图矩阵(uViewMatrix)
javascript·webgl·计算机图形学
小林攻城狮2 小时前
使用 Transport 节流解决 Vercel AI SDK 流式渲染卡死问题
前端·react.js