大模型学习day6

一、单轮对话 vs 多轮对话

  1. 单轮对话 一问一答,不记历史。每次请求都是独立的,大模型不知道上一句聊了啥。适合:简单一次性提问、查单个知识点。

  2. 多轮对话记住上下文 ,需要把所有历史聊天记录一起传给大模型。模型能连贯接话、顺着之前的话题聊。适合:AI 聊天助手、智能客服、连续写代码改需求。

二、什么是上下文窗口(Context Window)

一句话:大模型一次能装下、能记住的最大文字总量

  • 上下文窗口越大:能读长文档、记很多聊天记录
  • 上下文窗口越小:聊几句就忘、不能处理长文章常见规格:4K、8K、32K、128K(K 代表千 token)

三、输入 Token / 输出 Token

  • 输入 Token:你发给大模型的文字(提问 + 历史对话)
  • 输出 Token :大模型给你回复的文字在线 API 调用时,输入、输出两边都计费

四、流式输出 vs 一次性输出

  1. 一次性输出 等模型全部思考完,整段文字一次性发回来,要等待,像普通网页加载完才显示内容。

  2. 流式输出(SSE 流式) 一个字一个字实时往外蹦,像你用豆包打字那种逐字出现效果。前端对接用 SSE 协议,体验更丝滑,不用长时间等待。

五、Prompt 提示词 基础概念

Prompt 就是你发给大模型的指令、提问、要求 。同样的模型,Prompt 写得越好,答案越准。好提示词三要素:

  1. 给身份(你是资深前端工程师)
  2. 给要求(简洁、带注释、用 Vue3)
  3. 给任务(帮我写一个登录页面代码)

六、今日必背总结

  1. 单轮无记忆,多轮带历史上下文。
  2. 上下文窗口:模型能容纳的最大 token 容量。
  3. 输入、输出 Token 都要计费。
  4. 流式输出逐字展示,一次性输出整段返回。
  5. Prompt 就是给大模型的指令,写得好答案质量翻倍。
相关推荐
dear_bi_MyOnly1 小时前
【MyBatis 操作数据库】
java·数据库·学习·mybatis·学习方法
一只小菜鸡..2 小时前
南京大学 操作系统 (JYY) 学习笔记:从 UNIX 到 Linux 与庞大的应用生态
笔记·学习·unix
MartinYeung53 小时前
[论文学习]迈向自主医疗人工智能智能体:MIRA系统深度分析
人工智能·学习
码字的特恩4 小时前
AI Agent Skill 工程化 09:让 Skill 自己变好——走向自进化流水线
人工智能·计算机·ai·程序员·大模型·互联网·编程
熊猫钓鱼>_>5 小时前
ArkTS 装饰器总览:V1 / V2 / 通用装饰器完整学习笔记
笔记·学习·华为·交互·harmonyos·arkts·arkweb
抢囡囡糖未遂7 小时前
从 LINQPad 到 MCP:打造 CRM 智能助手的实战记录
ai·大模型·skill·mcp·linqpad·microsoft dynamics crm·mscrm·dynamic 365
茯苓gao8 小时前
嵌入式开发笔记:CAN与CAN FD完全指南——从帧格式差异到MCU选型实战
网络·笔记·stm32·嵌入式硬件·学习·汽车
木木_王8 小时前
嵌入式学习 | STM32 裸板驱动开发(Day06) | DHT11温湿度传感器超详解(单总线时序+全套驱动代码+智能温湿度报警项目)
驱动开发·stm32·学习
FellAveal9 小时前
【Go语言入门学习笔记】Part19.速率控制、原子计数器、互斥锁(Mutex)、状态协程
笔记·学习·golang
你怎么知道我是队长9 小时前
经典蓝牙(Bluetooth Classic / BR/EDR)学习计划
学习