【2025CCF中国开源大会】郑纬民院士特邀报告:大模型推理服务在系统层面的挑战

点击蓝字

关注我们

CCF Opensource Development Committee

人工智能大模型已经成为时下最火热的话题之一。面对这样一个新的工作负载,现存的系统软件面临哪些问题,为大模型设计的系统又存在哪些挑战?

2025CCF中国开源大会特邀郑纬民院士为我们带来报告《大模型推理服务在系统层面的挑战》,揭示系统研究在人工智能大模型生命周期中的关键作用!

报告简介

本次报告首先介绍人工智能大模型生命周期的五个环节:数据获取,数据预处理,模型训练,模型微调和模型推理,然后详细介绍我们研发和已开源的用于模型推理的Mooncake和KTransformers系统。

报告人

郑纬民

清华大学计算机系教授,中国工程院院士。长期从事高性能计算机体系结构、并行算法和系统研究。提出可扩展的存储系统结构及轻量并行的扩展机制,发展了存储系统扩展性理论与方法。在国内率先研制并成功应用集群架构高性能计算机。在国产神威太湖之光上研制的极大规模天气预报应用获得ACM Gordon Bell奖。曾获国家科技进步一等奖1项、二等奖2项、国家技术发明二等奖1项,何梁何利科技进步奖,获得首届中国存储终身成就奖。

大会现已开启注册报名通道,欢迎大家踊跃报名!

报名网址:https://ccf.org.cn/2025COSC

报名二维码:

大会时间: 2025年8月2日-3日

大会地点:中国 上海 西岸国际会展中心(上海市徐汇区龙耀路7号)

主办单位:中国计算机学会(CCF)

承办单位:CCF开源发展委员会、上海交通大学

CCF中国开源大会

由中国计算机学会主办的2025 CCF中国开源大会(CCF ChinaOSC)拟于2025年8月2日-3日在上海召开。本届大会以"蓄势引领、众行致远"为主题,由上海交通大学校长丁奎岭院士和CCF开源发展委员会主任王怀民院士共同担任大会主席,上海交通大学陈海波教授、重庆大学文俊浩教授担任执行主席,上海交通大学夏虞斌教授,复旦大学彭鑫教授担任程序委员会主席。本届大会将依托上海国际化创新生态与科技产业集聚优势,汇聚陈左宁、鄂维南、吕建、梅宏、郑纬民等院士,以及包云岗、陈云霁、胡欣蔚、金海等多位来自高校/企业的开源领军人物(更多嘉宾正在确定中),共同探索开源操作系统、开源芯片、开源大模型、开源具身智能等关键领域的前沿发展。通过开放协作与跨界融合,激发技术创新活力,推动产业数字化升级,为数字经济发展注入新动能。

作为中国开源领域的年度盛会,大会诚挚地邀请开源领域学术界、企业界、教育界的学者、从业者、师生等前来参会,共见中国开源新征程!

往期推荐

2025 CCF中国开源大会会议通知(第一轮)

【2025CCF中国开源大会】开放注册与会议通知(第二轮)

【2025CCF中国开源大会】Rust与开源技术分论坛重磅来袭!共建Rust语言与生态的未来

【2025CCF中国开源大会】陈云霁老师特邀报告:基于大模型的开源处理器芯片基础软硬件新途径!

【2025CCF中国开源大会】OpenChain标准实践:AI时代开源软件供应链安全合规分论坛重磅来袭!

CCF ODC

CCF开源发展委员会(CCF ODC)秉承创新、开放、协作、共享的理念和价值观,聚焦打造自身开源的新型开源创新服务平台,培育孵化原始创新的开源项目,培养开源创新实践人才。依托CCF链接科教资源、产业资源和社会资源等,形成产、学、研、用联动的开源创新模式,探索由学术共同体主导的开源发展新路径,为中国计算机学会会员乃至全球开源创新实践者提供高水平服务,助力开源生态建设。

点击阅读原文进入官网

相关推荐
NocoBase1 小时前
11 个在 GitHub 上最受欢迎的开源无代码 AI 工具
低代码·ai·开源·github·无代码·ai agent·airtable·内部工具·app builder
HelloGitHub4 小时前
DIY ChatGPT 一周狂揽 27k Star「GitHub 热点速览」
开源·github
纵有疾風起17 小时前
C++模版:模板初阶及STL简介
开发语言·c++·经验分享·开源
算家计算18 小时前
破5亿用户!国产AI模型成功逆袭,成为AI普及浪潮主角
人工智能·开源·资讯
算家计算18 小时前
SAIL-VL2本地部署教程:2B/8B参数媲美大规模模型,为轻量级设备量身打造的多模态大脑
人工智能·开源·aigc
FIT2CLOUD飞致云18 小时前
安全漏洞修复,组合图副值轴支持同环比设置,DataEase开源BI工具v2.10.14 LTS版本发布
开源·数据可视化
ajassi200019 小时前
开源 Linux 服务器与中间件(四)服务器--Tomcat
linux·服务器·开源
言之。1 天前
Chroma 开源的 AI 应用搜索与检索数据库(即向量数据库)
数据库·人工智能·开源
沉默终止1 天前
开源PR记录
开源
纵有疾風起1 天前
C++——类和对象(3)
开发语言·c++·经验分享·开源