【2025CCF中国开源大会】郑纬民院士特邀报告:大模型推理服务在系统层面的挑战

点击蓝字

关注我们

CCF Opensource Development Committee

人工智能大模型已经成为时下最火热的话题之一。面对这样一个新的工作负载,现存的系统软件面临哪些问题,为大模型设计的系统又存在哪些挑战?

2025CCF中国开源大会特邀郑纬民院士为我们带来报告《大模型推理服务在系统层面的挑战》,揭示系统研究在人工智能大模型生命周期中的关键作用!

报告简介

本次报告首先介绍人工智能大模型生命周期的五个环节:数据获取,数据预处理,模型训练,模型微调和模型推理,然后详细介绍我们研发和已开源的用于模型推理的Mooncake和KTransformers系统。

报告人

郑纬民

清华大学计算机系教授,中国工程院院士。长期从事高性能计算机体系结构、并行算法和系统研究。提出可扩展的存储系统结构及轻量并行的扩展机制,发展了存储系统扩展性理论与方法。在国内率先研制并成功应用集群架构高性能计算机。在国产神威太湖之光上研制的极大规模天气预报应用获得ACM Gordon Bell奖。曾获国家科技进步一等奖1项、二等奖2项、国家技术发明二等奖1项,何梁何利科技进步奖,获得首届中国存储终身成就奖。

大会现已开启注册报名通道,欢迎大家踊跃报名!

报名网址:https://ccf.org.cn/2025COSC

报名二维码:

大会时间: 2025年8月2日-3日

大会地点:中国 上海 西岸国际会展中心(上海市徐汇区龙耀路7号)

主办单位:中国计算机学会(CCF)

承办单位:CCF开源发展委员会、上海交通大学

CCF中国开源大会

由中国计算机学会主办的2025 CCF中国开源大会(CCF ChinaOSC)拟于2025年8月2日-3日在上海召开。本届大会以"蓄势引领、众行致远"为主题,由上海交通大学校长丁奎岭院士和CCF开源发展委员会主任王怀民院士共同担任大会主席,上海交通大学陈海波教授、重庆大学文俊浩教授担任执行主席,上海交通大学夏虞斌教授,复旦大学彭鑫教授担任程序委员会主席。本届大会将依托上海国际化创新生态与科技产业集聚优势,汇聚陈左宁、鄂维南、吕建、梅宏、郑纬民等院士,以及包云岗、陈云霁、胡欣蔚、金海等多位来自高校/企业的开源领军人物(更多嘉宾正在确定中),共同探索开源操作系统、开源芯片、开源大模型、开源具身智能等关键领域的前沿发展。通过开放协作与跨界融合,激发技术创新活力,推动产业数字化升级,为数字经济发展注入新动能。

作为中国开源领域的年度盛会,大会诚挚地邀请开源领域学术界、企业界、教育界的学者、从业者、师生等前来参会,共见中国开源新征程!

往期推荐

2025 CCF中国开源大会会议通知(第一轮)

【2025CCF中国开源大会】开放注册与会议通知(第二轮)

【2025CCF中国开源大会】Rust与开源技术分论坛重磅来袭!共建Rust语言与生态的未来

【2025CCF中国开源大会】陈云霁老师特邀报告:基于大模型的开源处理器芯片基础软硬件新途径!

【2025CCF中国开源大会】OpenChain标准实践:AI时代开源软件供应链安全合规分论坛重磅来袭!

CCF ODC

CCF开源发展委员会(CCF ODC)秉承创新、开放、协作、共享的理念和价值观,聚焦打造自身开源的新型开源创新服务平台,培育孵化原始创新的开源项目,培养开源创新实践人才。依托CCF链接科教资源、产业资源和社会资源等,形成产、学、研、用联动的开源创新模式,探索由学术共同体主导的开源发展新路径,为中国计算机学会会员乃至全球开源创新实践者提供高水平服务,助力开源生态建设。

点击阅读原文进入官网

相关推荐
大厂技术总监下海34 分钟前
市场情绪如何量化?FinBERT给出答案:将金融文本转化为情感得分
语言模型·金融·开源·bert
熊猫比分管理员44 分钟前
2026世界杯直播系统:开源多端方案,三天部署全球运营
开源
听风吹雨yu2 小时前
YoloV11的pt模型转rknn模型适用于RK3588等系列
linux·python·yolo·开源·rknn
Yeats_Liao3 小时前
昇腾910B与DeepSeek:国产算力与开源模型的架构适配分析
人工智能·python·深度学习·神经网络·机器学习·架构·开源
「、皓子~3 小时前
AI 创作系列(34)海狸IM桌面版 v1.1 正式发布:Vite + Electron 性能优化与体验升级
前端·人工智能·electron·开源·开源软件·im
说私域3 小时前
基于AI智能名片链动2+1模式S2B2C商城小程序的企业运营能力提升策略研究
大数据·人工智能·小程序·开源·流量运营
兆龙电子单片机设计4 小时前
【STM32项目开源】STM32单片机充电桩安全监测系统
stm32·单片机·物联网·开源·毕业设计
@LetsTGBot搜索引擎机器人14 小时前
2025 Telegram 最新免费社工库机器人(LetsTG可[特殊字符])搭建指南(含 Python 脚本)
数据库·搜索引擎·机器人·开源·全文检索·facebook·twitter
大厂技术总监下海17 小时前
根治LLM胡说八道!用 Elasticsearch 构建 RAG,给你一个“有据可查”的AI
大数据·elasticsearch·开源