大模型学习day5

一、大模型常见使用形态(前端必须懂)

  1. 在线 API 调用用第三方闭源模型接口(文心、通义千问等),前端发 HTTP 请求,拿返回结果。特点:不用部署、开箱即用、适合快速开发。

  2. 本地私有化部署 下载开源模型权重,在自己电脑 / 内网服务器跑,前端连本地接口。特点:数据不出内网、隐私安全、可自己微调。

  3. SaaS 在线平台直接用现成网页版 AI(ChatGPT、文心一言网页端),不用开发,纯日常使用。

二、前端对接大模型的两种常见形式

  1. 普通一次性问答一问一答,没有连续记忆,请求之间互不关联。

  2. 多轮对话 带上下文记忆,把历史聊天记录一起传给模型,模型能记住前面聊了什么,适合 AI 聊天助手、智能客服。

三、温度值 Temperature 通俗详解(高频考点)

  1. 温度值范围:一般 0~1
  2. 数值越低(接近 0)
  • 答案越严谨、固定、保守
  • 适合:写代码、查 bug、专业问答、公式、 Facts 事实类
  1. 数值越高(接近 1)
  • 答案越发散、创意、脑洞大
  • 适合:写文案、写诗、创意创作、闲聊

四、TopP 简单理解(了解即可)

控制模型选词的多样性:

  • TopP 越小:用词越保守、套路化
  • TopP 越大:用词更丰富、灵活日常前端开发优先调温度值就行,TopP 很少改。

五、幻觉 是什么(必背名词)

大模型一本正经胡说八道,编造不存在的知识、接口、文档、论文。

  1. 为什么会有幻觉:模型是概率生成,不是联网查真实资料
  2. 怎么减轻幻觉:
  • 调低温度值
  • 给准确参考文档(后面 RAG 就是干这个的)
  • 限定输出规则、要求有据可依

六、今日必背核心总结

  1. 大模型三种使用形态:在线 API、本地私有化部署、SaaS 平台。
  2. 对话分:一次性单轮问答、带历史记录的多轮对话。
  3. Temperature 温度值:偏低写代码,偏高搞创作。
  4. 幻觉:大模型编造虚假信息、一本正经胡说八道。
  5. 私密业务数据优先本地开源部署,不往外传。
相关推荐
蒸蒸yyyyzwd23 分钟前
后端相关学习笔记。
笔记·学习
旖旎夜光1 小时前
【C++ 基础入门】C++ 多态(上):虚函数、重写、override/final 与抽象类
开发语言·c++·笔记·学习
橙橙笔记3 小时前
QT的学习第四部分
linux·qt·学习·音视频
叼烟扛炮4 小时前
Linux 学习笔记(五十四):内网穿透实战——用 frp 让外网访问你的私人电脑
linux·服务器·网络·笔记·学习
在猴站学算法4 小时前
(《统计学习方法》(第2版) 李航)第2章 感知机算法
学习·算法·机器学习·统计学习
旖旎夜光4 小时前
【C++ 基础入门】C++ 继承(上):概念、切片、隐藏、默认成员函数与友元
c++·笔记·学习
Godspeed Zhao4 小时前
从零开始学AI24——无监督学习之K均值
学习·机器学习
叼烟扛炮5 小时前
[LangChain] 学习笔记(05):提示词模板(Prompt)与少样本注入(Few-Shot)实战
linux·人工智能·笔记·学习·langchain·prompt
La Pulga17 小时前
【FreeRTOS源码学习笔记】任务延时列表
笔记·mcu·学习·嵌入式·freertos·实时操作系统
楚山之石18 小时前
【JCO】mpMRI 先行替代 TURBT 初始分期:BladderPath 随机试验让 MIBC 患者提前 45 天得到正确治疗
人工智能·学习·mri·医学影像