AI通识一文详解(大模型应用、大模型服务、大模型API)

一.大模型应用

1.定义

说白了,就是将"传统编程"、"AI大模型"结合起来,优缺互补。

即:利用大模型的推理、分析、生成能力,再结合传统编程的计算、控制能力来实现的混合式应用。

举例

  • GPT是大语言模型
  • ChatGpt是基于GPT的一个对话产品,是一种大模型应用

2.应用结构图

二.大模型服务

1.获取大模型服务的方式

①大模型API

②私有部署

优缺点对比

2.注册、使用DeepSeek的大模型API

官网地址:

https://platform.deepseek.com/

①登录

②实名认证

③充值(可选,但是花不了几块,不是很贵)

我们此时只充了3块钱,先试试水。

④创建API Key,保护账号安全

⑤首次调用API(重要)

第一步:先用apifox创建一个post请求

第二步:将下图CURL中的ip赋值到apifox

第三步:设置自己的API Key到Auth认证的Bear中

第四步:将下图CURL中的JSON复制到apifox中

最后,查看返回结果即可:

3.注册、使用阿里百炼的大模型API

官网地址:

https://bailian.console.aliyun.com
后续操作和上述DeepSeek大差不差,可自行前往探索,此处不做赘述。

三.大模型API

1.接口规范

主要包含三部分:

  • 平台的基础URL(DeepSeek、千问等平台各有自己的基础URL)
  • API Key要放到请求的Authorization认证下的Bearer中
  • 要发Post请求,请求体用Body/JSON来传输,JSON格式如下图所示

除了下面的这些字段,还有很多,我们可以自行去DeepSeek官方网站中查看。

rust 复制代码
{
    "model": "deepseek-v4-pro",          // 指定要使用的模型名称(如版本或变体)
    "messages": [                         // 对话消息列表,包含系统提示和用户输入
        {
            "role": "system",             // 消息角色:系统级指令,定义助手的行为方式
            "content": "You are a helpful assistant."  // 系统提示内容,让模型扮演一个乐于助人的助手
        },
        {
            "role": "user",               // 消息角色:用户提出的问题或请求
            "content": "一斤棉花和一斤铁哪个更重?"   // 用户实际输入的文字
        }
    ],
    "thinking": {                         // 控制模型内部"思考"过程的配置(非标准字段,可能是自定义扩展)
        "type": "enabled"                 // 开启显式的思考步骤(让模型生成推理过程后再输出答案)
    },
    "reasoning_effort": "high",           // 控制推理的深度或计算投入程度(例如 low/medium/high)
    "stream": true                        // 是否启用流式输出(true 表示逐字返回,false 表示一次性返回完整结果)
}

2.会话记忆

①先看一个问题

此时AI做出了评价。

下面我们反问AI我们喜欢吃什么

②结论:大模型本身没有记忆功能

③解决会话记忆问题

此时再调一下接口,看看大模型能否记住我们爱吃的食物

3.开发环境

4.编程调用大模型

相关推荐
卷无止境22 分钟前
百万 token 时代的真相:主流大模型上下文窗口与最大输出的横向对比分析
人工智能·python
测试界的小码农24 分钟前
【 AI Agent 软件测试实战(05):任务规划与状态管理,让 Agent 学会拆解复杂测试任务】
人工智能·测试工具
泯泷33 分钟前
AI时代,中层还要替公司传多少次话?
人工智能·架构
装不满的克莱因瓶38 分钟前
【SpringAI Alibaba】ReactAgent记忆管理MessageTrimmingHook与MessageDeletionHook
java·人工智能·ai·ai编程·springai·springaialibaba
the局外人39 分钟前
LangChain ToolRuntime 入门:context、state 与 store 的实际用法
后端·langchain·agent
Dawson Zhu1 小时前
【LLM推理与Serving⑧】多机多卡Serving:TP/PP/负载均衡与弹性扩缩容全攻略
人工智能·语言模型·架构·aigc·agi
飞哥数智坊1 小时前
DSH+DeepSeek 实测 Anatomy Skill:让技术原理可视化
人工智能
长不大的杨瑞杰1 小时前
ChatGPT 广告技术栈架构拆解:多轮意图、LLM 工具编排、ANN 召回与拍卖闭环
人工智能·chatgpt·系统架构·推荐系统·广告
迪菲赫尔曼1 小时前
【基础篇 26】第一次在服务器完成训练:准备数据、断线继续、检查成果与备份
运维·服务器·人工智能·机器学习·计算机视觉