大模型Deepseek的使用_基于阿里云百炼和Chatbox

目录

  • 前言
  • [1. 云服务商](#1. 云服务商)
  • [2. ChatBox](#2. ChatBox)
  • 参考

前言

上篇博文中探索了(本地)部署大语言模型,适合微调、数据高隐私性等场景。随着Deepseek-R1的发布,大语言模型的可及性得到极大提升,应用场景不断增加,对高可用的方案的需求激增。目前Deepseek-R1的使用方案主要包括以下四种:

  • 官网:免费,网页可用;但近期流量大,访问不稳定;
  • 第三方产品,如纳米AI;
  • 云服务:收费,需要配置;但较稳定;
  • 本地部署:不适合个人日常使用;

下文介绍了云服务的使用方案。

1. 云服务商

阿里云、华为云、腾讯云等云服务商都提供了云端部署模型。以阿里云百炼大模型服务平台为例,展示了Deepseek API的获取过程。

1)登录阿里云百炼平台。

2)开通百炼的模型服务。开通百炼不会产生费用,仅调用、部署、调优模型会产生相应费用(超出免费额度后)。

3)鼠标悬停于页面右上角的image图标,在下拉菜单中单击API-KEY。

4)在左侧导航栏,选择全部API-KEY或我的API-KEY,然后创建(图中位置①)或查看(图中位置②)API Key。

注意:调用API会产生费用,请不要将API Key以任何方式公开,避免因未经授权的使用造成安全风险或资金损失。

表1. 百炼平台部署的Deepseek模型(2025/2/13)

模型 上下文长度(tokens) 最大输入(tokens) 最大输出(tokens) 输入成本(每千Token) 输出成本(每千Token)
deepseek-r1 65,792 57,344 32,768 0.002元 0.008元
deepseek-v3 65,792 57,344 8,192 0.001元 0.004元

2. ChatBox

‌Chatbox‌是一款支持多平台的AI客户端应用,主要用于与本地AI模型交互。它支持Windows、MacOS、Android、iOS、Linux和网页版,适用于各种设备和操作系统‌。

1)访问ChatBox官网,下载安装程序,然后按界面提示完成安装。

2)打开安装完成的ChatBox,按以下步骤进行配置。


ChatBox配置步骤。其中第三步需要填写的信息如下:
①名称输入:阿里云-DS-R1(自定义名称,不固定)
②API域名输入:https://dashscope.aliyuncs.com/compatible-mode/v1
③API路径输入:/chat/completions
④API密钥输入:API key,具体获取过程参考上节
⑤模型输入:需要使用的DeepSeek模型,此处以deepseek-r1为例;
最后单击保存,完成设置。

3)输入提示词,以下是一个输出示例,包括推理过程、补全和tokens消耗量。

参考

阿里云百炼平台API key获取

相关推荐
AI人工智能+2 天前
智能文档抽取系统通过“OCR+大模型”双引擎,实现从图像到结构化数据的精准转化,突破传统OCR仅识别文字的局限
自然语言处理·ocr·大语言模型·文档抽取
Rocky Ding*2 天前
一文读懂Kimi K3.1 Pro核心基础知识
论文阅读·人工智能·深度学习·机器学习·aigc·大语言模型·ai-native
艺杯羹2 天前
Android无障碍自动化死循环全解:从动态角标伪匹配到单向状态机防御实战
人工智能·自动化·大语言模型
孙琦Ray3 天前
比特币 Core 取消 AI 易发现漏洞的保密期
大语言模型·开源安全·比特币·漏洞披露·bitcoin core
王中阳Go4 天前
两个入口答案不一致先别调模型:6 行入口口径对账表(附脚本)
人工智能·后端·python·大语言模型·1024程序员节
爱听歌的周童鞋5 天前
MIT 6.5940 | TinyML 与高效 AI 计算 | Fall 2026 | 笔记 | Lecture 12:Transformer and LLM
transformer·大语言模型·tinyml·mit 6.5940·高效 ai 计算
EDPJ8 天前
MoE 与推测解码(Speculative Decoding)加速:为什么慢、什么时候慢、怎么让它不慢?
llm·负载均衡·大语言模型·moe·推测解码(sd)
孙琦Ray9 天前
西班牙团队开源 AI 评分平台 EvaluAI:加评分标准反而更不准,但更稳定
大语言模型·开源项目·gemini·教育科技·ai 评分·evaluai·apache-2.0
code2cat11 天前
【随笔】RAG重排怎样挑证据:先扩大候选,再把相关片段排到前面
人工智能·python·大语言模型·rag
我有酒两杯11 天前
从一条样本看懂 Kev:数据、模型、训练与推理
人工智能·深度学习·机器学习·lora·大语言模型