微信小程序接入DeepSeek模型(火山方舟),并在视图中流式输出

引言:

DeepSeek,作为一款先进的自然语言处理模型,以其强大的文本理解和生成能力著称。它能够处理复杂的文本信息,进行深度推理,并快速给出准确的回应。DeepSeek模型支持流式处理,这意味着它可以边计算边输出,而不必等待整个生成过程结束后再输出结果,大大缩短了用户的等待时间。通过流式输出,DeepSeek模型可以在处理过程中实时地将结果发送给小程序,小程序前端则能够立即接收到这些数据,并在视图中动态展示出来。这样,用户就可以边等待边看到已经接收到的结果,大大提升了用户体验。

本文中的DeepSeek模型为火山方舟(字节跳动火山引擎)中的DeepSeek大模型,当前可以免费使用。

一、注册火山引擎账号,创建API Key和model(接入点ID)

请参考之前的文章:微信小程序调用火山方舟(字节跳动火山引擎)中的DeepSeek大模型

二、小程序调用API,并流式输出

复制代码
const requestTask=wx.request({
	method: 'POST',
	url: 'https://ark.cn-beijing.volces.com/api/v3/chat/completions',
	header: {
		'Content-Type': 'application/json', 
		'Authorization': 'Bearer API Key'  //Authorization值为"Bearer API Key"
	},
	data: {
		"model": "xxx",	//model值为接入点ID(model)
		"messages": [{
			"role": "user",
			"content": "你是DeepSeek模型吗?",
		}],
        stream: true,   //是否以流的形式输出生成的内容
	},
    enableChunked: true    //开启transfer-encoding chunked
});

requestTask.onChunkReceived(res => {
    //在微信开发者工具和真机上接收到的对象格式是不同的,以下代码是针对不同格式进行解码处理
	let type=Object.prototype.toString.call(res.data);
	let text;
	if(type ==="[object Uint8Array]")
		text=decodeURIComponent(escape(String.fromCharCode(...res.data)))
	if(type ==="[object ArrayBuffer]"){
		let uint8Array = new Uint8Array(res.data);
		text=decodeURIComponent(escape(String.fromCharCode(...uint8Array)))
	}
    //将解码后的文本分割成字符串数组,数组中的每个元素就是即时接收到的流式文本
	let list = text.split('\n');
	for (var i = 0; i < list.length; i++) {
		if (list[i]) {
			if (list[i].trim().search(/^data.*\}$/) > -1) {    //过滤掉空行和其他不规则数据行
				let delta = JSON.parse(list[i].substring(6)).choices[0].delta;
                //如果开启了"深度思考",返回的对象中delta.reasoning_content为深度思考内容,
                //delta.content为主体应答内容
				let content = delta.reasoning_content ? delta.reasoning_content : delta.content;
				console.log(content);
			}
			if (list[i] == 'data: [DONE]') {
				requestTask.abort();
			}
		}
	}
});
相关推荐
simplify2014 小时前
【译】Anthropic:推理模型的思维链并非总是忠实
llm·deepseek
@PHARAOH16 小时前
WHAT - uni-app 条件编译技术
小程序·uni-app·条件编译
Liudef0616 小时前
deepseek v3-0324实现SVG 编辑器
开发语言·javascript·编辑器·deepseek
hunzi_118 小时前
选择网上购物系统要看几方面?
java·微信小程序·小程序·uni-app·php
芭拉拉小魔仙20 小时前
Uniapp Vue3 小程序接入实时音视频TUICallKit遇到的问题
小程序·uni-app·实时音视频
2305_7978820920 小时前
AI识图小程序的功能框架设计
人工智能·微信小程序·小程序
浪淘沙jkp21 小时前
大模型学习三:DeepSeek R1蒸馏模型组ollama调用流程
学习·ollama·deepseek
暮雨哀尘1 天前
微信小程序开发:开发实践
开发语言·算法·微信小程序·小程序·notepad++·性能·技术选型
幽络源小助理1 天前
微信小程序实验室管理SSM系统设计与实现
微信小程序·小程序
缘友一世1 天前
开源的 LLM 应用开发平台Dify的安装和使用
开源·llm·ollama·deepseek