kaggle新赛:谷歌AI模型运行时间预测赛题解析【数据挖掘】

**赛题名称:**Google - Fast or Slow? Predict AI Model Runtime

**赛题链接:**https://www.kaggle.com/competitions/predict-ai-model-runtime

赛题背景

Alice 是一名 AI 模型开发人员,但她的团队开发的一些模型运行速度非常慢。她最近发现了编译器的配置,这些配置改变了编译器编译和优化模型的方式,从而使模型运行得更快(或更慢)。参赛者的任务是帮助 Alice 找到每个模型的最佳配置。

赛题方向

数据挖掘

赛题任务

根据训练数据集中提供给参赛者的运行时数据训练机器学习模型,并进一步预测测试数据集中图形和配置的运行时。

数据描述

我们的数据集称为TpuGraphs,这是在XLA HLO图上运行在张量处理单元(TPUs) v3上的性能预测数据集。

总共有5个数据集集合:layout:xla:randomlayout:xla:defaultlayout:nlp:randomlayout:nlp:defaulttile:xla

最终得分将是所有数据集的平均值。要下载整个数据集并查看更多信息,参赛者可以导航到数据选项卡。

基准模型

我们在https://github.com/google-research-datasets/tpu_graphs上提供了基准模型和训练设置。请参阅我们的数据集论文(https://arxiv.org/abs/2308.13490),了解基准模型的详细信息。

评价指标

根据实际需求,我们使用两种评估指标,并对其取平均。

具体来说,对于数据集"tile:xla",我们使用top-K预测产生的"(1-slowdown)"来反映模型预测的top-K配置相对于实际最快配置的速度降低情况,计算如下:

其中 K 是top-K预测,A 是数据集中给定图的所有配置,y 是测量的执行时间。

对于 layout:* 数据集,我们使用肯德尔秩相关系数(一种排名评估指标:模型预测的配置排序与运行时间排序的实际对应程度)。

提交文件

参赛者的提交文件必须是一个带有标题ID、TopConfigscsv文件。每个npz/**/test/*.npz文件(请参阅数据)在csv文件中必须有一行。

  • ID是{collection}:{test_filename_without_extension},其中collection是tile:xla、layout:xla:random、layout:xla:default、layout:nlp:random和layout:nlp:default之一。

  • TopConfigs应该根据参赛者的模型预测,按照从最快(运行时间最短)到最慢(运行时间最长)的顺序,用";"分隔列出配置的索引。

    • 对于集合tile:xla,只有前5个条目将被考虑,其余的将被忽略。

    • 对于layout:*集合,所有条目将被考虑

  • 有关样本提交文件,请从数据选项卡下载sample_submission.csv。

时间安排

  • 2023年8月29日 - 开始日期。

  • 2023年11月10日 - 报名截止日期。

  • 2023年11月17日 - 最终提交截止日期。

赛题奖金

  • 第一名 - 15,000美元

  • 第二名 - 10,000美元

  • 第三名 - 8,000美元

  • 第四名 - 7,000美元

  • 第五名 - 5,000美元

  • 第六名 - 5,000美元

关注下方【学姐带你玩AI】🚀🚀🚀

回复"比赛"获取190+场比赛top方案(kaggle、天池、ccf...)

码字不易,欢迎大家点赞评论收藏!

相关推荐
大模型任我行1 小时前
谷歌:“课程学习”融入扩散模型强化学习
人工智能·语言模型·自然语言处理·论文笔记
AIGCmagic社区1 小时前
具身智能专题:机器人也有Scaling Law?智元GE-Act 2.0用3万小时真机数据给出答案
人工智能·aigc·具身智能
Rosanci2 小时前
谷歌浏览器插件开发实战指南:从 Hello World 到上架发布
大数据·人工智能·chrome·程序人生
明月_清风3 小时前
AI 越来越强,程序员真正的价值到底是什么?
人工智能·后端
m0_466525293 小时前
云从科技上线云起ModelHub:AI团队时代的模型算力基础设施
大数据·人工智能·科技
火山引擎开发者社区3 小时前
OpenViking:给 Codex 加上长期记忆
人工智能
荆棘鸟智能3 小时前
城市感知设备怎么统一接入?从多协议网关到设备模型的中间件架构设计
人工智能·算法·边缘计算
火山引擎开发者社区3 小时前
当 AI 内容真假难辨,谁来为真实签名 —— 证书中心 C2PA 内容可信溯源服务正式发布
人工智能
百万蹄蹄向前冲3 小时前
风扇转了一晚上MVP专家团翻车事故
前端·人工智能
米小虾4 小时前
你的 harness 技巧有保质期:176 组对照实验显示,上下文管理的收益从 35.7 分跌到 2.7 分
人工智能·agent