大语言模型打卡学习DAY1

学习目标:

  • 语言模型的发展历程
  • 大模型的技术基础

学习内容:

1. 语言模型的发展历程

复制代码
   `语言模型通常是指能够建模自然语言文本生成概率的模型,从语言建模到任务求解,这是科学思维的一次重要跃升。`

2. 大语言模型技术基础

定义:通常是指具有超大规模参数的预训练语言模型
架构: 主要为Transformer架构
训练:预训练(base model)、后训练(instruct model)


2.1 大语言模型与训练(Pre-training)

定义:使用与下游任务无关的大规模数据进行模型参数的初始训练

2.2 大语言模型后训练(Post-Training)



相关推荐
aixingkong9215 分钟前
AI超节点系统基础知识地图
人工智能
易知微EasyV数据可视化7 分钟前
定制化3D组件开发:打造差异化孪生体验
前端·人工智能·经验分享·数字孪生
richdata9 分钟前
千店千面的智能配货体系:门店差异化分配怎么做
大数据·人工智能·数据挖掘
一只小菜鸡..9 分钟前
Stanford CS144 学习笔记 (二):传输层与数据通信机制
网络·笔记·学习
Leinwin13 分钟前
技术视角深度对比:Google Gemini 与 Microsoft 365 Copilot 企业级 AI 办公架构解析
人工智能·microsoft·copilot
code_pgf18 分钟前
OpenAI Agents SDK 技术详解报告
大数据·人工智能
Emerson_202619 分钟前
通用 AI Agent 开发步骤
人工智能·agent·agent开发步骤
老兵发新帖22 分钟前
UXUI两个开源项目对比分析
人工智能·开源
学习编程之路32 分钟前
QClaw × 蓝耘 MaaS:一句话生成《望岳》赏析腾讯文档
人工智能·蓝耘
天选之子12335 分钟前
tabulate学习
学习