加州房价预测竞赛提供了一个经典的回归问题实战场景，其任务是基于多维特征预测区域房价中位数。该竞赛采用均方根对数误差作为评估指标，这一设计强调了预测值的相对误差而非绝对误差，与真实房价评估业务中重视误差比例的逻辑高度契合。数据集包含地理坐标、人口统计与房屋属性等结构化字段，为从数据理解到模型优化的全流程实践奠定了基础。
RMSLE指标通过对预测值和真实值取对数后再计算误差，使得模型更关注预测值的订单量级准确性。这在房价预测中尤为关键，因为准确预测低价房屋与高价房屋的"误差比例"比预测绝对金额更重要。竞赛长期开放且无物质奖励的特性，表明其核心价值在于教学与实践，适合自学数据分析与机器学习的人群通过此案例掌握回归建模的核心技能。
文章目录
赛题概述
本案例地址 Atividade Regressão PMR3508: California Housing。
这是一个经典的回归预测竞赛，任务是基于加州房屋的多维特征预测其中位价格。竞赛采用均方根对数误差作为评估指标，该指标对低估和高估进行对称惩罚，并更关注预测值的订单量级准确性，而非绝对数值误差，这与房价预测业务中重视相对误差的逻辑一致。项目提供了完整的结构化数据集，包含地理坐标、房屋统计、人口收入等字段，适合练习从数据理解、特征工程到模型选择、调参优化的全流程回归建模能力。作为入门级回归问题，它不追求复杂的模型结构，而是强调对基础算法原理、偏差方差权衡以及评估指标业务含义的掌握，是学习机器学习回归任务的典型实践案例。
| 模块名称 | 内容简介 | 所需技能 | 数据类型 | 应用场景 |
|---|---|---|---|---|
| 赛题背景 | 基于公开的加州房价数据集，构建回归模型预测房屋中位价格，是机器学习中经典的回归预测问题，侧重于理解模型表现与评估指标的业务含义。 | 数据预处理与清洗、特征工程与构造、回归算法选择与超参数调优、模型评估与误差分析。 | 包含数值特征与地理坐标的结构化表格数据，如房屋年龄、房间数量、人口、收入及经纬度。 | 房地产行业的价格评估与趋势分析，金融机构的抵押贷款风险评估，政府部门的区域经济与住房政策研究。 |
| 竞赛目标 | 交付能够准确预测加州房屋中位价格的回归模型，提交模型对测试集的预测结果文件。 | 问题抽象与目标定义、模型训练与验证流程构建、结果文件格式化输出。 | 给定的训练集与测试集结构化数据，需从中提取特征并生成目标变量的预测值。 | 为自动化房价估值系统提供核心预测模块，服务于在线房产平台或评估机构的批量分析需求。 |
| 评价指标 | 采用均方根对数误差，该指标通过对预测值和真实值取对数后计算均方根误差，更重视预测值的订单量级准确性，对房价这类范围广的变量具有业务合理性。 | 评估指标的理解与计算、针对指标特性的模型优化（如处理异方差问题）。 | 模型输出的预测值序列与隐藏的真实值序列，用于计算对数误差。 | 在商业预测系统中，确保模型对不同价位房产的预测误差相对一致，避免对低价房产产生过大绝对误差。 |
| 业务意义 | 房价预测模型在房地产估值、区域经济分析、信贷风险评估等场景有直接应用，该竞赛提供了从结构化数据到预测模型的完整实践框架。 | 将机器学习模型应用于具体业务问题的转化能力，理解数据驱动决策的价值。 | 源自真实统计数据的多维特征，模拟了实际业务中的数据形态。 | 构建可解释、稳健的预测模型，辅助房地产投资决策、银行信贷审批或区域发展规划。 |
数据详解
加州房价预测竞赛的数据结构体现了Kaggle平台典型的回归任务组织形式。核心数据以结构化表格形式提供，包含地理、人口、房屋属性等多维度特征，目标变量为区域的房价中位数。竞赛标签明确指向"RMSLE"这一特定评估指标，凸显了任务对预测值相对误差，尤其是对较低房价预测精度的侧重。任务形式要求参与者通过公开的Notebook提交模型，并基于测试集预测结果进行排名。在阅读竞赛数据字段时，应将关注点集中于直接定义任务目标、约束建模过程、描述核心数据资产的信息上，例如评估指标、提交规则、数据集构成与目标变量。对于大量用于平台内部管理的标识、状态与控制字段，则无需过度关注，它们不直接影响对赛题业务本质与建模方法的理解。
| 字段名称 | 类型/范围 | 描述信息 |
|---|---|---|
| 竞赛标题 (competition_title) | 字符串 | 明确指出了竞赛任务为"加州房价预测"，属于经典的回归问题，有助于快速理解项目领域。 |
| 副标题 (competition_subtitle) | 字符串 | 说明该竞赛是课程PMR3508的一项回归活动，揭示了其可能具有教学或练习性质，而非商业竞赛。 |
| 标签/评估指标 (tags /evaluation_algorithm_name) | 字符串 (RMSLE) | 核心评估指标为"Root Mean Squared Logarithmic Error"。该指标通过对预测值和真实值取对数后再计算误差，使得模型更关注预测值的相对误差而非绝对误差。这在房价预测场景中非常实用，因为准确预测低价房屋与高价房屋的"误差比例"比预测绝对金额更重要。 |
| 比赛开放时间 (enabled_date) | 时间 | 竞赛的起始时间，用于判断竞赛的新旧程度及数据可能对应的时代背景。 |
| 报名截止时间 (deadline_date) | 时间 | 显示该竞赛长期开放（截止至2100年），属于持续性或教学性活动，参与者无需担心时间压力。 |
| 每日最多提交次数 (max_daily_submissions) | 整数 | 限制了模型迭代验证的频率，要求建模过程需在每日有限次的提交中优化，影响了实验策略。 |
| 计分提交次数 (num_scored_submissions) | 整数 | 规定了最终参与排行榜评分的提交数量，通常最后一次或最佳次提交计入，明确了优化目标。 |
| 数据集描述 (dataset_description) | Markdown 长文本 | 详细列出了数据文件（train.csv, test.csv）及其包含的字段。字段包括地理坐标（经纬度）、区域房屋年龄中位数、房间总数、卧室总数、人口、家庭数、收入中位数以及目标变量房价中位数。这是理解特征工程起点和业务背景的关键。 |
| 数据文件说明 (dataset_description 内容) | 文本描述 | 明确指出训练集包含ID、特征和目标变量，测试集仅包含ID和特征。定义了建模的标准监督学习框架：从训练集学习，对测试集进行预测。 |
| 数据规模 (total_uncompressed_bytes) | 整数 | 解压后数据总大小约为2.2MB，表明数据集规模较小，适合快速实验、算法对比与教学演示，对计算资源要求低。 |
| 目标变量字段 (dataset_description 内容) | 字符串 | 目标变量为"median_house_value"（房价中位数），是所有建模工作的最终预测对象，明确了回归任务的目标。 |
| 是否支持Notebook提交 (has_kernels / only_allow_kernel_submissions) | 布尔值组合 | 竞赛支持并通过Notebook（代码内核）形式提交，这要求提交物必须是可公开查看、可运行的完整数据分析与建模代码，强调了过程的可复现性与分享性。 |
| 奖励与队伍规模信息 (reward_type, max_team_size) | 字符串 / 整数 | 奖励类型为空，结合社区主办方属性，表明竞赛无物质奖励；最大组队人数为20人，提示了可能的协作学习形式。这些信息影响了参与的动力与方式。 |
解题思路
加州房价预测竞赛作为典型的结构化数据回归任务，其数据特征清晰、目标明确，为尝试多种建模路线提供了良好基础。回归问题的核心在于捕捉特征与连续目标变量之间的复杂关系，而加州房价数据集包含地理坐标、人口统计、房屋属性等多维度信息，这种混合了空间与非空间特征的场景，使得从简单线性假设到复杂非线性映射的不同方法都能找到其验证空间。评估指标RMSLE（均方根对数误差）的选用进一步强调了预测的相对误差而非绝对误差，这对模型处理数值范围较大的房价数据提出了特定要求，也使得某些对数值尺度敏感的方法可能表现更优。因此，在解题过程中，并行尝试从统计学基础方法、传统机器学习模型到深度学习模型等多种路线，不仅有助于理解不同算法对结构化数据与特定评估指标的适应性，更能通过对比实践深化对偏差-方差权衡、特征工程价值以及模型泛化能力的认知。
| 方法标题 | 案例适配度 | 方法说明 | 操作流程 | 优点 | 缺点 |
|---|---|---|---|---|---|
| 基于统计与规则的特征工程 + 线性模型 | 60% | 聚焦于利用领域知识（如房地产）构建衍生特征，并采用最简单的线性模型进行预测。核心思想是通过特征创造（如房间密度、收入与房价比、距海岸距离）来增强线性模型的表达能力。 | 进行数据清洗与缺失值处理；基于原始特征（经纬度、房间数、人口等）计算新的统计特征或地理衍生特征；对数值特征进行标准化或缩放；使用线性回归或岭回归等模型进行训练与预测。 | 流程简单清晰，非常适合初学者理解特征工程的价值与线性模型原理；计算效率高；模型结果易于解释，可直观看到特征权重。 | 线性模型本身捕捉复杂非线性关系的能力有限，即使加入衍生特征，在房价预测这种受多因素非线性影响的场景下，预测精度容易受限；对特征工程的依赖性极高，工程效果好坏直接决定模型性能。 |
| 决策树与随机森林 | 85% | 利用树模型天然处理混合类型特征、无需复杂预处理以及捕捉非线性交互关系的优势。随机森林通过集成多棵决策树来降低方差，提升泛化能力。 | 处理缺失值；可直接使用原始数值特征，也可加入少量统计衍生特征；进行必要的特征缩放（对树模型非必须）；使用随机森林回归器进行训练，并可通过网格搜索优化关键超参数（如树数量、最大深度）。 | 对数据预处理要求较低，能自动处理特征间的非线性关系与交互效应；模型稳健性较好，不易过拟合；结果具备一定的可解释性（可通过特征重要性分析）。 | 在数据量较大时训练时间较长；模型预测结果是一个"黑箱"，不如线性模型直观；默认设置下可能对极端值或噪声不够鲁棒。 |
| 梯度提升决策树 (如 XGBoost/LightGBM) | 90% | 采用序列化构建决策树并聚焦于残差优化的集成学习框架。这类方法通常能获得比随机森林更高的预测精度，尤其适合结构化数据竞赛。 | 数据清洗后，可进行特征编码与衍生；使用梯度提升树库（如XGBoost）进行训练；重点调整学习率、树深度、子采样率等关键参数以平衡拟合与泛化；通常需要配合交叉验证寻找最优参数。 | 在结构化数据回归任务上往往能取得领先的预测精度；能高效处理大规模数据；框架内置了对缺失值的处理能力。 | 参数调优过程更为复杂，需要更多经验与计算资源；模型可解释性比随机森林更弱；训练过程若控制不当，更容易发生过拟合。 |
| 支持向量回归 (SVR) | 70% | 基于支持向量机原理，寻找一个函数使得大部分样本落在以该函数为中心的一个间隔带内。适用于特征维度可能经工程后升高，且关注边界样本的场景。 | 对特征进行标准化（对SVR至关重要）；可选择使用核函数（如RBF）来映射到高维空间以处理非线性；训练SVR模型并调整惩罚系数C、核函数参数等。 | 在高维特征空间下可能表现稳健；通过调整核函数可以灵活处理非线性关系；对异常值有一定抵抗能力。 | 训练速度慢，尤其在大数据集上；模型性能对参数选择和特征缩放极其敏感；结果解释性差，难以提供特征贡献度的直观分析。 |
| 基础神经网络 (多层感知机 MLP) | 75% | 使用全连接神经网络捕捉特征与目标之间的深层非线性关系。作为深度学习入门方法，适用于探索超越传统机器学习模型的表达能力。 | 对特征进行标准化；设计网络结构（如输入层、若干隐藏层、输出层）；选择激活函数与优化器；训练网络并监控训练/验证损失，防止过拟合。 | 理论上可以拟合任意复杂的连续函数关系；框架灵活，易于后续扩展为更复杂的网络结构。 | 对结构化数据而言，其性能常不及精心调优的梯度提升树；需要较多的超参数调试（层数、神经元数、学习率等）；训练时间较长且需要更多计算资源；容易过拟合，需依赖早停或正则化。 |
| 基于地理信息的特征深度挖掘 + 集成模型 | 88% | 重点利用经纬度坐标进行深度空间特征工程（如计算到多个城市中心的距离、聚类形成区域标签、嵌入地理编码），并将这些强特征与传统统计特征结合，送入高性能集成模型（如XGBoost）进行预测。 | 使用地理计算库（如geopy）基于经纬度计算衍生距离特征；尝试聚类算法将地理位置分组并生成类别特征；将深度挖掘的地理特征与其他原始特征、统计特征合并；使用梯度提升树或模型堆叠进行最终预测。 | 充分利用了数据集中最具区分度的空间信息，可能显著提升模型性能；结合了特征工程的艺术性与现代机器学习模型的力量，适合进阶练习。 | 地理特征工程部分需要额外的领域知识或创造性思维，实施复杂度高；计算衍生地理特征可能增加时间开销；工程效果需要大量实验验证。 |
| 模型堆叠与融合 | 82% | 不依赖单一模型，而是将多个差异化的基模型（如线性模型、随机森林、梯度提升树）的预测结果作为新特征，训练一个元模型（通常为线性回归或简单神经网络）进行最终预测。 | 选择多个表现良好的异质基模型；分别训练这些基模型；使用基模型对训练集（需通过交叉验证避免泄漏）和测试集的预测值作为新特征；基于这些新特征训练元模型。 | 能够综合不同模型的优势，往往可以获得比单一最佳模型更稳健、精度更高的预测；是学习集成学习与模型融合高级技巧的实践机会。 | 实现流程复杂，需要严谨的交叉验证设置以防止数据泄漏；训练与预测过程耗时大幅增加；对基模型的选择与性能有较高依赖。 |
| 端到端的深度学习架构试验 (如 TabNet) | 65% | 尝试专为表格数据设计的深度学习架构，如TabNet。这类架构声称能兼顾表格数据的特点与深度学习的表示能力，并提供可解释性。 | 对特征进行预处理与标准化；实现或调用TabNet等专用表格数据网络结构；进行深度网络特有的训练流程，包括批次训练、学习率调度等；评估其性能与可解释性输出。 | 为表格数据建模提供了新的深度学习思路，可作为前沿技术体验；部分架构内置了特征重要性解释模块。 | 在多数表格数据任务上，其性能与效率尚无法稳定超越梯度提升树；实现复杂度高，资源消耗大；相关库与社区支持相对传统方法较少，调试困难。 |
操作案例
基础流程样例
以下流程以加州房价预测竞赛任务为背景，展示一个回归问题从数据加载到模型评估的完整基础实现。该流程旨在清晰呈现核心步骤，使用常见库与简单模型，便于理解与复现。
数据读取与探索
竞赛数据通常以 CSV 文件形式提供，包含用于训练的特征与目标变量，以及用于测试的特征。初步探索旨在理解数据规模、特征类型与目标变量分布，这是后续所有处理与建模的基础。
python
import pandas as pd
import numpy as np
#读取训练数据与测试数据
train_data = pd.read_csv('train.csv')
test_data = pd.read_csv('test.csv')
#查看数据基本信息：形状、列名、数据类型
print(f"训练集形状: {train_data.shape}")
print(f"测试集形状: {test_data.shape}")
print("训练集列名:", train_data.columns.tolist())
print("训练集数据类型摘要:")
print(train_data.dtypes)
# 分离特征与目标变量。根据数据集描述，目标变量为 'median_house_value'
X_train_raw = train_data.drop(columns=['Id', 'median_house_value'])
y_train = train_data['median_house_value']
X_test_raw = test_data.drop(columns=['Id'])
# 查看目标变量分布
print(f"目标变量描述:\n{y_train.describe()}")数据预处理
原始数据可能包含缺失值、数值范围差异较大的特征，或存在可衍生的新特征。基础预处理包括处理缺失值、对数值特征进行标准化，以确保模型能够稳定学习。此处采用简单填充与标准化。
python
from sklearn.impute import SimpleImputer
from sklearn.preprocessing import StandardScaler
#检查缺失值
print("训练集缺失值统计:")
print(X_train_raw.isnull().sum())
# 使用均值填充缺失值（本例数据可能无缺失，此步骤为通用流程）
imputer = SimpleImputer(strategy='mean')
X_train_imputed = imputer.fit_transform(X_train_raw)
X_test_imputed = imputer.transform(X_test_raw)
# 对数值特征进行标准化，消除量纲影响
scaler = StandardScaler()
X_train_scaled = scaler.fit_transform(X_train_imputed)
X_test_scaled = scaler.transform(X_test_imputed)
#将处理后的数据转换为 DataFrame（便于后续查看）
feature_names = X_train_raw.columns
X_train = pd.DataFrame(X_train_scaled, columns=feature_names)
X_test = pd.DataFrame(X_test_scaled, columns=feature_names)数据集划分
为评估模型在未知数据上的性能，需从训练集中划分出一部分作为验证集。此步骤模拟模型上线后对全新数据的预测场景，是模型性能评估的关键。
python
from sklearn.model_selection import train_test_split
# 从原始训练集中划分出验证集，用于评估模型性能
X_train_final, X_val, y_train_final, y_val = train_test_split(
X_train, y_train, test_size=0.2, random_state=42
)
print(f"最终训练集形状: {X_train_final.shape}")
print(f"验证集形状: {X_val.shape}")基础模型训练与评估
选择一种基础的回归模型进行训练，并使用竞赛指定的评估指标------均方根对数误差（RMSLE）进行评估。该指标对预测值与真实值之间的比例误差更为敏感，适合房价这类范围较大的预测问题。
python
from sklearn.linear_model import LinearRegression
from sklearn.metrics import mean_squared_log_error# 使用线性回归作为基础模型
model= LinearRegression()
model.fit(X_train_final, y_train_final)
# 在验证集上进行预测
y_val_pred = model.predict(X_val)
#计算评估指标：Root Mean Squared Logarithmic Error (RMSLE)
# 注意：mean_squared_log_error 要求输入均为正数。房价数据通常为正，但为确保计算，可进行微小偏移。
# 公式：RMSLE = sqrt(mean_squared_log_error(y_true, y_pred))
rmsle_score = np.sqrt(mean_squared_log_error(y_val, y_val_pred))
print(f"验证集 RMSLE 得分: {rmsle_score:.5f}")
# 对测试集进行预测，生成符合提交格式的结果
test_pred = model.predict(X_test)
submission = pd.DataFrame({
'Id': test_data['Id'],
'median_house_value': test_pred
})
# 可保存为 CSV 文件用于提交
submission.to_csv('baseline_submission.csv',index=False)扩展流程概述
基础流程提供了数据处理的完整框架与一个可运行的基线模型。若要提升预测精度以接近竞赛优秀方案，需在多个环节进行深化与优化。核心方向包括深入的特征工程，例如利用经纬度计算到海岸或经济中心的距离、创建房间与人口的比率特征；尝试更复杂或集成式的回归模型，如梯度提升树、随机森林或神经网络；系统地进行超参数调优以平衡模型偏差与方差；以及可能引入交叉验证、 stacking等高级策略来稳定与提升性能。这些优化步骤通常需要结合领域知识、更细致的实验设计与更强大的计算资源。
| 扩展流程 | 流程说明 | 流程目标 |
|---|---|---|
| 深入特征工程 | 基于原始特征（如经纬度、房间数、人口）创建更具预测力的衍生特征，例如计算地理距离、构造人均房间数、收入与房价比率等。 | 增强模型对数据内在规律的捕捉能力，提升特征表达能力。 |
| 高级模型尝试 | 超越线性模型，尝试树模型（如RandomForestRegressor）、梯度提升模型（如GradientBoostingRegressor, XGBRegressor）或支持向量回归等。 | 利用复杂模型处理非线性关系， potentially获得更低误差。 |
| 超参数优化 | 使用网格搜索、随机搜索或贝叶斯优化等方法，系统调整所选模型的超参数组合。 | 找到模型在特定数据上的最优配置，平衡拟合能力与泛化能力。 |
| 模型集成与堆叠 | 将多个不同模型的预测结果进行结合，例如使用加权平均、 stacking或blending方法。 | 降低单一模型的随机误差，获得更稳定、更鲁棒的预测性能。 |
| 误差分析与迭代 | 详细分析模型预测误差的分布（如高估/低估区域、误差与特征的关系），据此指导新一轮的特征工程或模型调整。 | 形成闭环优化过程，针对性改进模型弱点。 |
优秀案例解析
在Kaggle竞赛中，公开分享的优秀代码项目（Notebook）是学习实战经验的重要资源。这些项目不仅展示了参赛者如何理解赛题、处理数据、构建模型并提交结果，更体现了从问题定义到解决方案落地的完整逻辑链条。对于加州房价预测这类经典的回归问题，优秀的案例往往具备以下共同特征：对RMSLE评估指标有深刻理解并据此设计模型；进行了有效的特征工程，特别是对地理坐标等信息的创造性利用；尝试了多种回归算法并进行了合理的超参数调优；整个流程清晰、代码可读性强，便于他人复现和学习。本节筛选的案例均来自该竞赛社区中公开提交的高质量Notebook，它们虽然不一定是官方获奖方案，但作为"赛中公开项目样例"，其技术路线、完成度和思考过程对自学数据分析与机器学习的人群具有直接的参考价值。通过解析这些案例，可以具体地看到如何将一个业务问题（房价预测）转化为数据问题，并运用技术手段求解，这正是从理论学习迈向实战应用的关键一步。
| 创建时间 | 作者 | 案例解析 |
|---|---|---|
| 2020年11月 | LucasBoccia | PMR3508-117-Californa Housing 关键词：特征工程、地理坐标处理、随机森林、RMSLE优化、模型对比。该案例系统性地处理了加州房价数据集，重点在于利用经纬度特征计算每个街区到海岸线的距离，并将其作为新特征加入模型。案例对比了线性回归、决策树、随机森林等多种算法，并针对RMSLE指标的特性进行了优化尝试。其价值在于展示了如何将原始地理信息转化为对房价预测可能有用的业务指标，以及如何基于评估指标选择与调整模型，为处理带有空间信息的结构化数据提供了清晰范例。 |
| 2020年11月 | Paolla Furquim Daud | California-Housing-PMR3508-2020-23 关键词：数据可视化、特征相关性分析、梯度提升、超参数网格搜索、验证策略。该案例从数据探索入手，进行了详细的可视化与特征相关性分析，帮助理解数据分布与特征间关系。随后采用梯度提升树（如XGBoost）作为主要模型，并使用了网格搜索进行超参数调优。案例强调了理解数据本身的重要性，以及如何通过系统化的调优过程提升模型性能，其流程对于构建稳健的回归模型具有普遍参考意义。 |
| 2020年11月 | PMR3508-2020-93 | pmr3508-2020-93-california-housing3 关键词：复合特征创造、房间密度、收入比率、模型集成、离线验证。该案例创造了多个复合特征，例如"平均房间数"、"平均卧室数"、"人口与家庭数比率"等，旨在捕捉原始特征背后更本质的经济与居住密度信息。案例尝试了模型集成方法，并注重通过本地交叉验证来评估模型表现，防止过拟合。其思路体现了在房价预测问题中，从原始统计特征推导出更具解释性的衍生变量是一种常见且有效的策略，提升了模型的业务可解释性。 |
| 2020年11月 | PMR3508-2020-41 | PMR3508-2020-41_CaliforniaHousing 关键词：数据预处理、缺失值处理、特征缩放、线性模型、正则化。该案例专注于数据预处理阶段，包括处理可能的缺失值、对数值特征进行缩放等，为后续模型训练打下良好基础。主要探索了线性回归及其正则化变体（如岭回归）。案例的价值在于展示了即使对于相对简单的模型，扎实的数据预处理也是提升性能的基础，特别适合初学者理解机器学习项目的基础工作流程。 |
| 2020年11月 | PMR3508-2020-53 | PMR3508-2020-53 Regression with CaliforniaHousing 关键词：端到端流程、Pipeline构建、多种回归器测试、结果分析、代码模块化。该案例构建了一个完整的端到端分析流程，从数据加载、探索、预处理到模型训练与评估，结构清晰。它测试了从线性模型到支持向量回归等多种Scikit-learn中的回归器，并比较了其结果。案例的模块化代码和完整流程使其成为一个很好的教学参考项目，有助于学习者掌握如何组织一个机器学习项目的代码结构。 |
| 2020年11月 | PMR3508 - 2020 - 139 | PMR3508 - 2020 - 139 关键词：业务指标映射、收入与房价关系分析、特征选择、模型简化、可落地性。该案例在分析中特别关注median_income与median_house_value之间的关系，尝试构建反映收入与房价比率的特征。案例也探讨了特征选择对简化模型、提升可落地性的作用。其思路强调了在建模过程中，应始终结合业务背景（如收入水平对房价的核心影响）来指导特征工程与模型设计，使模型结果更贴近现实逻辑。 |
| 2020年11月 | PMR3508-2020-117 | California Housing Prices Prediction 关键词：外部数据融合、街区层级信息、特征增强、高级回归算法、实践创新。此案例（与第一个案例作者相同但项目不同）探索了融合外部数据或利用原始特征构建更细粒度街区信息的可能性。它可能尝试了如LightGBM等更高效的梯度提升算法，并注重通过特征增强来提升模型预测能力。案例展示了在经典数据集上，通过引入额外信息或使用先进算法进行创新实践的路径，对于希望超越基础解决方案的学习者具有启发价值。 |
总结
通过对竞赛数据、解题思路与操作案例的系统分析，可以梳理出从数据加载、探索、预处理到特征工程、模型选择、调参优化与结果评估的完整回归建模流程。RMSLE指标的特性引导了模型优化方向，使得处理数值范围较大的房价数据时，需要特别关注模型对相对误差的捕捉能力。多种方法路线，从线性模型、树模型到集成与深度学习架构的尝试，深化了对偏差-方差权衡以及不同算法适应性的理解。
该竞赛模拟了房地产估值、区域经济分析等真实业务场景中的数据形态与预测需求。构建一个能够稳健预测房价中位数的模型，其价值不仅在于竞赛排名，更在于理解如何将结构化数据转化为驱动业务决策的预测能力。从特征工程中融入地理信息到针对RMSLE的模型优化，整个实践过程强调了数据驱动方法在解决实际经济问题中的应用框架与转化路径。