技术栈

大模型基础-应用小记【转载】

Aiclin2026-04-22 13:18

基本知识点

LORA微调

ROPE位置编码

  • 【知乎】十分钟读懂旋转编码(RoPE)

ZERO显存优化技术

  • 【知乎】DeepSpeed之ZeRO系列:将显存优化进行到底

FlashAttention V1&V2

  • 【知乎】【手撕online softmax】Flash Attention前传,一撕一个不吱声
  • 【知乎】【手撕LLM-Flash Attention】从softmax说起,保姆级超长文!!
  • 【知乎】【手撕LLM-FlashAttention2】只因For循环优化的太美
上一篇:云枢运维管理系统
下一篇:【AI辅助趣学SpringAI】03-聊天模型之SSE流式编程
相关推荐
056646
8 小时前
agent学习Day15——SQLAlchemy 查询过滤、分页与历史列表接口
python·学习·fastapi
程序员爱德华
9 小时前
Python与C++:异同点对比
c++·python
hangyuekejiGEO
9 小时前
GEO技术服务选型指南
大数据·人工智能·python
软萌萌的1
10 小时前
Java Spring Boot 修改yml配置&加载顺序规则
java·spring boot·python
Dxy1239310216
11 小时前
Linux 编译安装 Python 3.12.10(多版本共存,不破坏系统Python)
linux·运维·python
持敬chijing
12 小时前
Python概述
开发语言·python
赤羽尾风
14 小时前
NumPy快速入门
python·numpy
倒流时光三十年
14 小时前
第三阶段 26 · highlight 高亮(返回命中片段)
后端·python·django
久久学姐
16 小时前
Python+Playwright+Pytest+BDD,用FSM打造高效测试框架
python·pytest·bdd·playwright·fsm
热门推荐
01如何新建文件夹? 电脑新建文件夹的4种方法02GitHub 镜像站点03国内可直接用、免费额度/永久免费的大模型API清单(含 SiliconFlow、火山、阿里、智谱、百度、Kimi、DeepSeek、DMXAPI 等)0400 Debian字符界面如何支持中文05微信历史版本含下载地址( Windows PC | 安卓 | MAC )及设置微信不更新062026 国产 AI 大模型横评:DeepSeek、通义千问、Kimi、文心一言、星火、豆包谁更能打?07AI 编程 IDE 全景解析 2026:Agent 全面接管开发链路082026年7月AI圈大地震:GPT-5.6被政府限制、Claude入驻Slack、Anthropic自研芯片09Agnes AI 免费 API 接入指南:文本、生图、生视频,一套接口全免费102026 年 AI 大模型 & AI 编程工具实战全总结