AI通识一文详解(大模型应用、大模型服务、大模型API)

一.大模型应用

1.定义

说白了,就是将"传统编程"、"AI大模型"结合起来,优缺互补。

即:利用大模型的推理、分析、生成能力,再结合传统编程的计算、控制能力来实现的混合式应用。

举例

  • GPT是大语言模型
  • ChatGpt是基于GPT的一个对话产品,是一种大模型应用

2.应用结构图

二.大模型服务

1.获取大模型服务的方式

①大模型API

②私有部署

优缺点对比

2.注册、使用DeepSeek的大模型API

官网地址:

https://platform.deepseek.com/

①登录

②实名认证

③充值(可选,但是花不了几块,不是很贵)

我们此时只充了3块钱,先试试水。

④创建API Key,保护账号安全

⑤首次调用API(重要)

第一步:先用apifox创建一个post请求

第二步:将下图CURL中的ip赋值到apifox

第三步:设置自己的API Key到Auth认证的Bear中

第四步:将下图CURL中的JSON复制到apifox中

最后,查看返回结果即可:

3.注册、使用阿里百炼的大模型API

官网地址:

https://bailian.console.aliyun.com
后续操作和上述DeepSeek大差不差,可自行前往探索,此处不做赘述。

三.大模型API

1.接口规范

主要包含三部分:

  • 平台的基础URL(DeepSeek、千问等平台各有自己的基础URL)
  • API Key要放到请求的Authorization认证下的Bearer中
  • 要发Post请求,请求体用Body/JSON来传输,JSON格式如下图所示

除了下面的这些字段,还有很多,我们可以自行去DeepSeek官方网站中查看。

rust 复制代码
{
    "model": "deepseek-v4-pro",          // 指定要使用的模型名称(如版本或变体)
    "messages": [                         // 对话消息列表,包含系统提示和用户输入
        {
            "role": "system",             // 消息角色:系统级指令,定义助手的行为方式
            "content": "You are a helpful assistant."  // 系统提示内容,让模型扮演一个乐于助人的助手
        },
        {
            "role": "user",               // 消息角色:用户提出的问题或请求
            "content": "一斤棉花和一斤铁哪个更重?"   // 用户实际输入的文字
        }
    ],
    "thinking": {                         // 控制模型内部"思考"过程的配置(非标准字段,可能是自定义扩展)
        "type": "enabled"                 // 开启显式的思考步骤(让模型生成推理过程后再输出答案)
    },
    "reasoning_effort": "high",           // 控制推理的深度或计算投入程度(例如 low/medium/high)
    "stream": true                        // 是否启用流式输出(true 表示逐字返回,false 表示一次性返回完整结果)
}

2.会话记忆

①先看一个问题

此时AI做出了评价。

下面我们反问AI我们喜欢吃什么

②结论:大模型本身没有记忆功能

③解决会话记忆问题

此时再调一下接口,看看大模型能否记住我们爱吃的食物

3.开发环境

4.编程调用大模型

相关推荐
m4Rk_9 分钟前
【论文阅读】Agent 记忆机制(83):Inside Out——用可演化 PersonaTree 构建 Agent 的核心长期记忆
论文阅读·人工智能·学习·开源·github
运行时异常12 分钟前
【WMS 仓储系统集成 AI Agent 实战】第 8 讲(终篇):生产部署与并发安全——Semaphore 放进 Flux.defer 的坑,压测抓了一晚上
人工智能·安全
杨杨杨大侠15 分钟前
Jev、Kev、Laya:决策模型怎么选,什么时候需要微调?
人工智能·python·agent
李福春18 分钟前
markdown表格标题渲染判定
agent·架构师同盟·腾讯云架构师同盟
代码方舟20 分钟前
零信任架构实战:基于天远人企关联构建自动化供应链金融网关
运维·人工智能·架构·自动化
虹科网络安全31 分钟前
“顶会”看安全(十八):超越越狱:揭示由能力边界模糊引发的 LLM 应用安全风险
人工智能·安全
Maiko Star1 小时前
* LangChain 提示词模板详解:ChatPromptTemplate 的使用与高级特性
java·人工智能·langchain
段一凡-华北理工大学1 小时前
大模型应用开发 100 天:Python + LLM 从入门到精通 day26~Prompt 调试与优化——A/B 测试与效果评估
windows·python·大模型·prompt·智能体·提示词工程·高炉智能化
鬓戈1 小时前
Rust 语言与 AI 应用生态调研及学习路径
人工智能·学习·rust
天远API1 小时前
零信任架构实战:基于天远人企关联构建自动化图谱网关
网络·人工智能·架构·自动化