直播预告: 异构场景下的大模型优化技术 | 龙蜥大讲堂

「龙蜥大讲堂」精彩预告来了,点击下方海报抢先了解。欢迎扫描海报二维码提前进群,立即预约锁定这场 AI 关键技术分享!

异构场景下的大模型优化技术

**直播时间:**2026 年 04 月 15 日 (周三)16:00-17:00

直播内容:

本次直播带大家了解异构推理的工作机制,掌握不同类型模型上的性能优化技巧,以及分享异构推理的基本过程和存在问题,分析在基于龙蜥操作系统的硬件资源受限场景下,稠密模型和 MoE 模型在 CPU 端的卸载技术。

适合人群:

研发工程师、运维工程师。

讲师介绍:

Rongfei Xu,浪潮信息系统软件架构师。博士毕业于北航计算机学院计算机软件与理论专业,研究领域为服务器操作系统、大模型推理等系统优化技术。目前从事异构推理的性能提升工作。

相关推荐
东方佑6 小时前
FRSMASH v3.7:当门控机制成为长上下文的枷锁——一个极简修复背后的架构洞见
人工智能·架构
志凌海纳SmartX6 小时前
构建 Agent Ready 的企业云基础设施(白皮书下载)
人工智能·ai·agent·smartx·企业云·榫卯企业云
AI科技星6 小时前
乖乖数学全域超复数统一场论:未来可能形成的历史地位
人工智能·机器学习·金融·乖乖数学·全域数学
惢雨6 小时前
AI 开发技巧(实战技巧)
人工智能·ai编程
霸道流氓气质6 小时前
Java 工程师 AI 智能体学习路线 · 阶段 1:AI / LLM 基础认知 详解
java·人工智能·学习
武子康6 小时前
调查研究-224 Prefill 与 Decode 分离:高并发 LLM Serving 的下一层架构
人工智能·ai·架构·llm·gpu·vllm·sglang
ting94520006 小时前
技术解析:Owl Alpha 底层架构与 OpenRouter 模型网关全链路实现(无营销、纯技术向)
人工智能·架构
水如烟6 小时前
孤能子视角:三十六计之抛砖引玉——涌现捕获
人工智能
格子生意经6 小时前
GEO系统如何提升AI引荐率实战解析
人工智能
沪漂阿龙6 小时前
什么是大语言模型?和传统 NLP 模型有什么区别?
人工智能·语言模型·自然语言处理