AI接入指南:从API到本地部署全解析

目录

AI发展历程

​编辑

为什么需要API接入大模型

API接入云端大模型

api测试


AI发展历程

在这个科技发达的时代,想必大家对AI工具肯定是十分熟悉的,但对AI的使用,却有着多种多样的途径,本篇旨在对AI大模型接入SDK项目

为什么需要API接入大模型

使用官方大模型服务就像开车,会操作就行,目的是到达终点;调用AP就像学习汽车原理、保养和改装,能让你造出更适合任务的专用车,甚至将发动机装到飞机、轮船上。前者是大模型产品的使用者,后者已经摇身成为大模型应用的创造者。

大语言模型接入有两种方式:

1.通过官方提供的API接入云端大模型-----deepseek:(1)提供了一个网页的产品,供普通大众使用;(2)deepseek提供一些操作模型的api,供程序员使用

优势:

  • 开箱即用,零门槛
  • 模型顶尖,能力强大
  • 成本可控
  • 持续更新

劣势:

  • 数据安全风险----企业用户
  • 持续成本
  • 网络延迟

2.通过第三方工具本地部署大模型,ollama工具

优势:

  • 绝对的安全数据
  • 无需持续付费
  • 网络延迟问题
  • 对模型是完全可控的

劣势:

  • 硬件成本
  • 模型性能
  • 运维和技术门槛
  • 模型需要手动更新

API接入云端大模型

1.运行官方大模型的服务器在哪里?

2.官方提供的API在哪里?

这里以deepseek为例

进入API开放平台

API Key是一种用于身份验证和授权的密钥(如身份证),本质就是⼀个通过特定算法生成的字符串,可用于:

身份验证:验证你的应用程序是否被授权,只有拥有API Key的用户才能调用大模型的API

授权:限制应用程序对特定功能或资源的访问权限。比如:某些高级功能需要特定API Key才能访

监控和限制:监控API的使用情况,比如统计请求次数、限制请求频率,以防滥用

计费:根据API的使用情况,向用户收取费用

所以我们需要申请自己的API key,身份的凭证

API key申请好之后,在自己的本地妥善保存一份,请勿分享给其他人,否则可能会被官方封掉

想知道这个API到底在哪里,可以查看API文档

此处为官方服务器的地址

该例子为非流式的,开头调用处为api的地址

model:deepseek-v4-pro为模型名称

我们在和模型聊天时的一个api,HTTP协议为post

api测试

这里我推荐大家使用apifox

创建好自己的团队之后,在团队中接入api链接

因为该链接使用到的HTTP协议为post,所以我们这里也需要选择post

这里所需要的路径为根路径,根路径为服务器名称之后,即红框

接下来就是设置参数,我们将post的请求参数放在body当中,以json的方式来进行组织,根据curl中进行填写

通过以上给的参数填写请求参数中的Body部分,并选择JSON进行填写

在Headers中填写所需的头部参数

还可以在右上角处,进行对自己apikey进行私密

还可以在此处对你的这个接口命名

然后这个接口就相当于开发完了

如果要给模型发消息的话,就需要将服务器的地址填进来

依旧是左上角这个位置中的测试环境,里面有个默认URL,将其改成你所要调用的大模型的api(如deepseek),之后保存即可

之后这个返回的响应就先不用管了,后续需要对响应来进行解析

接下来就需要对接口进行验证

运行就需要选择环境,环境选择在红框处

环境有开发环境,测试环境,线上环境

大模型即会回答你了

相关推荐
Black蜡笔小新8 小时前
企业AI算力工作站/深度学习推理工作站DLTM零代码私有化重塑智慧农业AI模型训练体系
人工智能·深度学习
轻刀快马8 小时前
个人体验:从零构建高可用 Multi-Agent 架构与实战避坑指南
人工智能·架构·agent
SelectDB技术团队8 小时前
PB 级自动驾驶数据秒级检索:Apache Doris 统一多模态数据平台实践
数据库·人工智能·自动驾驶·apache doris·selectdb
数智工坊8 小时前
【UniT论文阅读】:用统一物理语言打通人类与人形机器人的知识壁垒
论文阅读·人工智能·深度学习·算法·机器人
Lyon198505288 小时前
ChatGPT的最终总结分析-《文字定律》随笔
人工智能·ai·chatgpt
L、2188 小时前
CANN神经网络算子库`ops-nn`:昇腾NPU上Matmul与激活函数的底层逻辑
人工智能·深度学习·神经网络
程序员码歌8 小时前
OpenSpec 到 Superpowers:AI 编码从说清到做对
android·前端·人工智能
海兰8 小时前
【第21篇-续】graph-Stream-Node改造为适配openAI模型示例
java·人工智能·spring boot·spring·spring ai
MobotStone8 小时前
生成代码一分钟,填坑一小时?问题不在 AI,而在用法
人工智能