DeepSeek-V3.2 模型在 OpenJiuWen 中的部署实践

目录

  • [DeepSeek-V3.2 模型在 OpenJiuWen 中的部署实践](#DeepSeek-V3.2 模型在 OpenJiuWen 中的部署实践)

DeepSeek-V3.2 模型在 OpenJiuWen 中的部署实践

引言:OpenJiuWen 简介

OpenJiuWen 是一个开源的大模型管理与推理平台,支持多种主流大语言模型(LLM)的快速接入、部署与调用。其核心目标是为开发者提供统一、高效、可扩展的模型服务接口,降低大模型落地门槛。通过 OpenJiuWen,用户可以轻松将如 DeepSeek、Qwen、Llama 等模型集成到自己的应用中,并实现可视化管理、API 调用、性能监控等功能。

本文将详细介绍如何在 OpenJiuWen 平台中部署 DeepSeek-V3.2 模型,借助华为云 ModelArts 提供的 API 服务完成配置与测试。

一、获取 API Key

首先,我们需要在华为云 ModelArts 控制台中申请用于调用 DeepSeek-V3.2 模型的 API 密钥。

1.访问 ModelArts 控制台 - 授权管理页面

2.在"新增授权"界面中,填写任意合法的授权名称和描述(仅用于标识,不影响功能)。

3.创建成功后,系统会生成一组 API KeySecret,请妥善保存。后续在 OpenJiuWen 中配置模型时将用到该密钥。

二、在 OpenJiuWen 中创建模型

进入 OpenJiuWen 的模型管理界面,点击"新建模型"以添加 DeepSeek-V3.2。

参数说明

参数名 说明
模型名称 用于界面显示的友好名称,例如 DeepSeek-V3.2
API 协议 选择 OpenAI 或 Custom(根据 DeepSeek 是否兼容 OpenAI 协议;若使用华为云标准 API,则选 Custom)
模型 ID 华为云提供的模型唯一标识符(如 deepseek-v3-2)
API 密钥 上一步获取的 API Key
基础服务地址 华为云 ModelArts 提供的 API 根路径
标签 可选,用于分类,如 deepseek, llm
描述 补充说明,如"基于华为云部署的 DeepSeek-V3.2 模型"
超时时间 建议设为 60 秒或更高,确保长文本生成不被中断

获取模型参数

1.在华为云 ModelArts 的"模型部署"或"在线服务"中,找到已部署的 DeepSeek-V3.2 服务。

2.进入服务详情页,查看"调用说明"。

3.从中提取两个关键信息:

  • Endpoint URL**(基础服务地址)**

  • Model ID(模型标识)

4.将上述参数填入 OpenJiuWen 的模型创建表单中:

三、测试模型

模型配置完成后,可在 OpenJiuWen 的模型详情页直接发起测试请求。

1.点击"测试"按钮,输入示例提示词(Prompt),如:"请介绍一下人工智能的发展历程。"

2.若配置正确,系统将返回模型生成的响应内容,表明部署成功。

总结

通过以上步骤,我们成功将 DeepSeek-V3.2 模型接入 OpenJiuWen 平台,并完成了端到端的调用验证。该方案充分利用了华为云 ModelArts 的托管推理能力与 OpenJiuWen 的统一调度优势,为多模型管理提供了标准化、低代码的解决方案。

提示:若后续需更换模型版本或调整超时策略,只需在 OpenJiuWen 中编辑对应模型配置,无需修改业务代码,极大提升了运维灵活性。

参考文档:

OpenJiuwen项目地址:https://atomgit.com/openJiuwen?utm_source=csdn

OpenJiuwen官网:https://www.openjiuwen.com?utm_source=csdn

相关推荐
Helen_cai6 分钟前
EntryAbility 全局初始化 + 网络请求 HttpUtil 完整源码
网络·华为·harmonyos
SuperHeroWu79 分钟前
【HarmonyOS AI】DevEco CLI、Skills、知识库运用AI Coding提效详解
人工智能·华为·harmonyos
熊猫钓鱼>_>35 分钟前
ArkUI 动画实战:从理论到交互,构建流畅的鸿蒙动效体验
华为·架构·交互·harmonyos·arkts·arkui·native
翰德恩咨询36 分钟前
华为DSTE咨询洞察:如何撬动文化与氛围以支撑战略落地
华为·文化与氛围
Catrice038 分钟前
HarmonyOS ArkTS 实战:实现一个校园宿舍电费查询与分摊应用
华为·harmonyos
劈星斩月42 分钟前
监督学习算法 之 决策树
学习·算法·决策树
AOwhisky1 小时前
Python 学习笔记(第五期)——组合数据类型:列表、元组、集合与字典精讲——核心知识点自测与详解
开发语言·笔记·python·学习·云计算
woshihuanglaoshi1 小时前
数据迁移与版本管理 - Flutter在鸿蒙平台实现数据库升级策略
数据库·学习·flutter·华为·harmonyos·鸿蒙·鸿蒙系统
爱写代码的阿木1 小时前
基于鸿蒙OS开发附近社交游戏平台(八)-聊天组件
华为·个人开发·harmonyos
爱写代码的森10 小时前
鸿蒙三方库 | harmony-utils之ImageUtil图片保存到本地详解
服务器·华为·harmonyos·鸿蒙·huawei