李宏毅2023机器学习作业 HW01实操

ML2023Spring - HW01 相关信息:

1.任务目标(回归)

COVID-19 daily cases prediction: COVID-19 每天的病例预测

训练/测试数据大小:3009/997(每一年的homework 可能不同)

2.性能指标(Metric)

均方误差 Mean Squared Error (MSE)

3.数据解析

covid_train.txt: 训练数据

covid_test.txt: 测试数据

数据大体分为三个部分:id, states: 病例对应的地区, 以及其他数据

id: sample 对应的序号。

states: 对 sample 来说该项为 one-hot vector。从整个数据集上来看,每个地区的 sample 数量是均匀的,可以使用pd.read_csv('./covid_train.csv').iloc[:,1:34].sum()来查看,地区 sample 数量为 88/89。

其他数据: 这一部分最终应用在助教所给的 sample code 中的 select_feat。

Covid-like illness (5) 新冠症状

cli, ili ...

Behavier indicators (5) 行为表现

wearing_mask、travel_outside_state ... 是否戴口罩,出去旅游 ...

Belief indicators (2) 是否相信某种行为对防疫有效

belief_mask_effective, belief_distancing_effective. 相信戴口罩有效,相信保持距离有效。

Mental indicator (2) 心理表现

worried_catch_covid, worried_finance. 担心得到covid,担心经济状况

Environmental indicators (3) 环境表现

other_masked_public, other_distanced_public ... 周围的人是否大部分戴口罩,周围的人是否大部分保持距离 ...

Tested Positive Cases (1) 检测阳性病例,该项为模型的预测目标

tested_positive (this is what we want to predict) 单位为百分比,指有多少比例的人

4. Baselines

根据作业 PDF 中的提示:

Simple Baseline (1.96993)

运行所给的 sample code。

Medium Baseline (1.15678)

特征选择,简单手动的选择你认为关联性较大的特征。

Strong Baseline (0.92619)

尝试不同的优化器(如:Adam)。

应用 L2 正则化(SGD/Adam ... 优化器参数中的 weight_decay)

Boss Baseline (0.81456)

尝试更好的特征选择,可以使用 sklearn.feature_selection.SelectKBest。

尝试不同的模型架构(调整 my_module.layers)

调整其他超参数

5.个人完整代码分享

https://github.com/holyeyes8/HUNG-YI_LEE_Machine-Learning_Homework/blob/master/HW01.ipynb

可以在colab上面正常运行

5.1 解决问题1

bash 复制代码
/content#     pip install optuna
Requirement already satisfied: optuna in /usr/local/lib/python3.12/dist-packages (4.5.0)
Requirement already satisfied: alembic>=1.5.0 in /usr/local/lib/python3.12/dist-packages (from optuna) (1.16.5)
Requirement already satisfied: colorlog in /usr/local/lib/python3.12/dist-packages (from optuna) (6.9.0)
Requirement already satisfied: numpy in /usr/local/lib/python3.12/dist-packages (from optuna) (2.0.2)
Requirement already satisfied: packaging>=20.0 in /usr/local/lib/python3.12/dist-packages (from optuna) (25.0)
Requirement already satisfied: sqlalchemy>=1.4.2 in /usr/local/lib/python3.12/dist-packages (from optuna) (2.0.43)
Requirement already satisfied: tqdm in /usr/local/lib/python3.12/dist-packages (from optuna) (4.67.1)
Requirement already satisfied: PyYAML in /usr/local/lib/python3.12/dist-packages (from optuna) (6.0.2)
Requirement already satisfied: Mako in /usr/local/lib/python3.12/dist-packages (from alembic>=1.5.0->optuna) (1.3.10)
Requirement already satisfied: typing-extensions>=4.12 in /usr/local/lib/python3.12/dist-packages (from alembic>=1.5.0->optuna) (4.15.0)
Requirement already satisfied: greenlet>=1 in /usr/local/lib/python3.12/dist-packages (from sqlalchemy>=1.4.2->optuna) (3.2.4)
Requirement already satisfied: MarkupSafe>=0.9.2 in /usr/local/lib/python3.12/dist-packages (from Mako->alembic>=1.5.0->optuna) (3.0.2)
/content# 

5.2 数据上传

5.3 运行结果

5.3.1 loss/train

5.3.1 loss/valid

6 本地环境搭建

参考:

https://blog.csdn.net/weixin_42426841/article/details/129520007

相关推荐
EasyDSS4 分钟前
智能会议管理系统/私有化视频会议平台EasyDSS私有化部署构建企业级私域视频全场景解决方案
人工智能·音视频
zhanghongbin0115 分钟前
成本追踪:AI API 成本计算与预算管理
人工智能
YBAdvanceFu19 分钟前
从零构建智能体:深入理解 ReAct Plan Solve Reflection 三大经典范式
人工智能·python·机器学习·数据挖掘·多智能体·智能体
啦啦啦在冲冲冲26 分钟前
多头注意力机制的优势是啥,遇到长文本的情况,可以从哪些情况优化呢
人工智能·深度学习
xrgs_shz28 分钟前
直方图法、最大类间方差法、迭代法和自适应阈值法的图像分割的基本原理和MATLAB实现
人工智能·计算机视觉·matlab
向上的车轮33 分钟前
如何定制大模型——工业场景下大模型定制与私有化部署选型
人工智能
让学习成为一种生活方式1 小时前
海洋类胡萝卜素生物合成的乙酰转移酶--文献精读217
人工智能
QQ676580081 小时前
服装计算机视觉数据集 连衣裙数据集 衣服类别识别 毛衣数据集 夹克衫AI识别 衬衫识别 裤子 数据集 yolo格式数据集
人工智能·yolo·计算机视觉·连衣裙·衣服类别·毛衣数据集·夹克衫ai
冰糖葫芦三剑客1 小时前
人工智能生成合成内容文件元数据隐式标识说明函要怎么填写
人工智能
CV-杨帆1 小时前
ICLR 2026 LLM安全相关论文整理
人工智能·深度学习·安全