AI接入指南:从API到本地部署全解析

目录

AI发展历程

​编辑

为什么需要API接入大模型

API接入云端大模型

api测试


AI发展历程

在这个科技发达的时代,想必大家对AI工具肯定是十分熟悉的,但对AI的使用,却有着多种多样的途径,本篇旨在对AI大模型接入SDK项目

为什么需要API接入大模型

使用官方大模型服务就像开车,会操作就行,目的是到达终点;调用AP就像学习汽车原理、保养和改装,能让你造出更适合任务的专用车,甚至将发动机装到飞机、轮船上。前者是大模型产品的使用者,后者已经摇身成为大模型应用的创造者。

大语言模型接入有两种方式:

1.通过官方提供的API接入云端大模型-----deepseek:(1)提供了一个网页的产品,供普通大众使用;(2)deepseek提供一些操作模型的api,供程序员使用

优势:

  • 开箱即用,零门槛
  • 模型顶尖,能力强大
  • 成本可控
  • 持续更新

劣势:

  • 数据安全风险----企业用户
  • 持续成本
  • 网络延迟

2.通过第三方工具本地部署大模型,ollama工具

优势:

  • 绝对的安全数据
  • 无需持续付费
  • 网络延迟问题
  • 对模型是完全可控的

劣势:

  • 硬件成本
  • 模型性能
  • 运维和技术门槛
  • 模型需要手动更新

API接入云端大模型

1.运行官方大模型的服务器在哪里?

2.官方提供的API在哪里?

这里以deepseek为例

进入API开放平台

API Key是一种用于身份验证和授权的密钥(如身份证),本质就是⼀个通过特定算法生成的字符串,可用于:

身份验证:验证你的应用程序是否被授权,只有拥有API Key的用户才能调用大模型的API

授权:限制应用程序对特定功能或资源的访问权限。比如:某些高级功能需要特定API Key才能访

问

监控和限制:监控API的使用情况,比如统计请求次数、限制请求频率,以防滥用

计费:根据API的使用情况,向用户收取费用

所以我们需要申请自己的API key,身份的凭证

API key申请好之后,在自己的本地妥善保存一份,请勿分享给其他人,否则可能会被官方封掉

想知道这个API到底在哪里,可以查看API文档

此处为官方服务器的地址

该例子为非流式的,开头调用处为api的地址

model:deepseek-v4-pro为模型名称

我们在和模型聊天时的一个api,HTTP协议为post

api测试

这里我推荐大家使用apifox

创建好自己的团队之后,在团队中接入api链接

因为该链接使用到的HTTP协议为post,所以我们这里也需要选择post

这里所需要的路径为根路径,根路径为服务器名称之后,即红框

接下来就是设置参数,我们将post的请求参数放在body当中,以json的方式来进行组织,根据curl中进行填写

通过以上给的参数填写请求参数中的Body部分,并选择JSON进行填写

在Headers中填写所需的头部参数

还可以在右上角处,进行对自己apikey进行私密

还可以在此处对你的这个接口命名

然后这个接口就相当于开发完了

如果要给模型发消息的话,就需要将服务器的地址填进来

依旧是左上角这个位置中的测试环境,里面有个默认URL,将其改成你所要调用的大模型的api(如deepseek),之后保存即可

之后这个返回的响应就先不用管了,后续需要对响应来进行解析

接下来就需要对接口进行验证

运行就需要选择环境,环境选择在红框处

环境有开发环境,测试环境,线上环境

大模型即会回答你了

相关推荐
lzhdim4 小时前
AI的分类
人工智能·算法·机器学习·分类·数据挖掘
程序员海军6 小时前
用了两年多 GPT,我最近开始换模型了,还折腾了个求职避坑 Agent
前端·人工智能·后端
AIsoft_86896 小时前
人才评估中的关键信息如何沉淀?
人工智能·iphone
紧跟先前的步伐6 小时前
Go AI Agent 实战 06|JSON 结构化输出与 Go 后端校验
人工智能·ai·golang
vibecoding777 小时前
Codex 分层用模型完整教程:让 GPT-6.1 Sol 拍板、GPT-6 Luna 跑侦察
人工智能·gpt
新知图书8 小时前
1.3 启动第一个机器人
人工智能·机器人
明志数科8 小时前
自主探索范式下机器人示教数据的工程定位:少量示范为何对质量更敏感
人工智能·机器学习·机器人
Maynor9968 小时前
WorkBuddy 一键接通 gpt-6.1-sol:MomoAI / TryAllAPI 把最新模型接到桌面
人工智能·gpt·ai·大模型·编程工具
火山引擎开发者社区8 小时前
问得出、搜得准、信得过:ContextSearch 重构销售检索体验
人工智能
Raymond16888 小时前
AI配音工具长文本合成架构技术解析:全局音色锚定与声学状态跟踪
人工智能·架构·实时互动·视觉检测·音视频·语音识别