【2025CCF中国开源大会】郑纬民院士特邀报告:大模型推理服务在系统层面的挑战

点击蓝字

关注我们

CCF Opensource Development Committee

人工智能大模型已经成为时下最火热的话题之一。面对这样一个新的工作负载,现存的系统软件面临哪些问题,为大模型设计的系统又存在哪些挑战?

2025CCF中国开源大会特邀郑纬民院士为我们带来报告《大模型推理服务在系统层面的挑战》,揭示系统研究在人工智能大模型生命周期中的关键作用!

报告简介

本次报告首先介绍人工智能大模型生命周期的五个环节:数据获取,数据预处理,模型训练,模型微调和模型推理,然后详细介绍我们研发和已开源的用于模型推理的Mooncake和KTransformers系统。

报告人

郑纬民

清华大学计算机系教授,中国工程院院士。长期从事高性能计算机体系结构、并行算法和系统研究。提出可扩展的存储系统结构及轻量并行的扩展机制,发展了存储系统扩展性理论与方法。在国内率先研制并成功应用集群架构高性能计算机。在国产神威太湖之光上研制的极大规模天气预报应用获得ACM Gordon Bell奖。曾获国家科技进步一等奖1项、二等奖2项、国家技术发明二等奖1项,何梁何利科技进步奖,获得首届中国存储终身成就奖。

大会现已开启注册报名通道,欢迎大家踊跃报名!

报名网址:https://ccf.org.cn/2025COSC

报名二维码:

大会时间: 2025年8月2日-3日

大会地点:中国 上海 西岸国际会展中心(上海市徐汇区龙耀路7号)

主办单位:中国计算机学会(CCF)

承办单位:CCF开源发展委员会、上海交通大学

CCF中国开源大会

由中国计算机学会主办的2025 CCF中国开源大会(CCF ChinaOSC)拟于2025年8月2日-3日在上海召开。本届大会以"蓄势引领、众行致远"为主题,由上海交通大学校长丁奎岭院士和CCF开源发展委员会主任王怀民院士共同担任大会主席,上海交通大学陈海波教授、重庆大学文俊浩教授担任执行主席,上海交通大学夏虞斌教授,复旦大学彭鑫教授担任程序委员会主席。本届大会将依托上海国际化创新生态与科技产业集聚优势,汇聚陈左宁、鄂维南、吕建、梅宏、郑纬民等院士,以及包云岗、陈云霁、胡欣蔚、金海等多位来自高校/企业的开源领军人物(更多嘉宾正在确定中),共同探索开源操作系统、开源芯片、开源大模型、开源具身智能等关键领域的前沿发展。通过开放协作与跨界融合,激发技术创新活力,推动产业数字化升级,为数字经济发展注入新动能。

作为中国开源领域的年度盛会,大会诚挚地邀请开源领域学术界、企业界、教育界的学者、从业者、师生等前来参会,共见中国开源新征程!

往期推荐

2025 CCF中国开源大会会议通知(第一轮)

【2025CCF中国开源大会】开放注册与会议通知(第二轮)

【2025CCF中国开源大会】Rust与开源技术分论坛重磅来袭!共建Rust语言与生态的未来

【2025CCF中国开源大会】陈云霁老师特邀报告:基于大模型的开源处理器芯片基础软硬件新途径!

【2025CCF中国开源大会】OpenChain标准实践:AI时代开源软件供应链安全合规分论坛重磅来袭!

CCF ODC

CCF开源发展委员会(CCF ODC)秉承创新、开放、协作、共享的理念和价值观,聚焦打造自身开源的新型开源创新服务平台,培育孵化原始创新的开源项目,培养开源创新实践人才。依托CCF链接科教资源、产业资源和社会资源等,形成产、学、研、用联动的开源创新模式,探索由学术共同体主导的开源发展新路径,为中国计算机学会会员乃至全球开源创新实践者提供高水平服务,助力开源生态建设。

点击阅读原文进入官网

相关推荐
AI_零食9 小时前
声音分贝模拟与波动动画展示:鸿蒙Flutter框架 实现的声音可视化应用
学习·flutter·华为·开源·harmonyos
Hommy889 小时前
【开源剪映小助手】Docker 部署
docker·容器·开源·github·aigc
独特的螺狮粉11 小时前
Flutter 框架跨平台鸿蒙开发 - 关系测试应用
flutter·华为·架构·开源·鸿蒙
月诸清酒11 小时前
24-260409 AI 科技日报 (Gemma 4发布一周下载破千万,开源模型生态加速演进)
人工智能·开源
GitCode官方11 小时前
活动预告|AtomGit 源启高校・青岛城市学院站来袭
开源·atomgit
月诸清酒12 小时前
26-260410 AI 科技日报 (阿里开源视频模型HappyHorse登顶,马斯克疑似泄露Claude参数)
人工智能·开源·音视频
Nova_AI13 小时前
014、AI开源生态:模型、工具与社区的盈利之道
人工智能·开源
2301_8227032014 小时前
Flutter 框架跨平台鸿蒙开发 - 气味记忆唤醒应用
flutter·华为·开源·harmonyos·鸿蒙
AI_零食15 小时前
开源鸿蒙跨平台Flutter开发:脑筋急转弯应用开发文档
flutter·华为·开源·harmonyos·鸿蒙
好运的阿财15 小时前
大模型热切换功能完整实现指南
人工智能·python·程序人生·开源·ai编程