4.1 Spark SQL数据帧与数据集

本次实战涵盖数据帧(DataFrame)与数据集(Dataset)操作。通过 SparkSession 统一入口加载 HDFS 文本文件,定义 Student 样例类实现结构化转换。支持投影(select)、过滤(filter)、聚合(groupBy)、排序(sort)等核心操作:可按字段筛选、条件查询、分组统计(计数/求和/平均值/最值)及多级排序。提供 SQL 风格 API,允许列别名、表达式计算,通过 createTempView() 注册临时视图后执行标准 SQL 语句,实现灵活的数据分析与查询,适用于大数据场景下的结构化数据处理。


相关推荐
前网易架构师-高司机13 小时前
带标注的带标注的医用采血管分类和标签识别数据集,识别率80.7%,5524张图,支持yolo,coco json,voc xml,文末有模型训练代码
yolo·数据集·标签·医学·颜色·医院·采血管
HyperAI超神经13 小时前
数据集汇总丨英伟达开源Nemotron系列数据集,超10T tokens+40M 条后训练样本,覆盖数学推理/代码生成/多语言对话
人工智能·大模型·数据集·nvidia·预训练·代码生成·监督微调
前网易架构师-高司机1 天前
带标注的山体滑坡塌方数据集数据集,识别率78.1%,974张图,支持yolo,coco json,voc xml,文末有模型训练代码
xml·yolo·json·数据集·自然灾害·山体滑坡
前网易架构师-高司机2 天前
带标注的SDD-SAR遥感船舶识别数据集,识别率92.9%,7000张图,支持yolo,coco json,voc xml,文末有模型训练代码
yolo·json·数据集·遥感·sar·船舶·sdd
程序员正茂7 天前
YOLOX训练自己的COCO数据集
数据集·yolox·coco·训练
前网易架构师-高司机9 天前
带标注的21种中药材识别数据集,识别率73.8%数据集,2237张图,支持yolo,coco json,voc xml,文末有模型训练代码
xml·yolo·json·数据集·中药·药材·中草药
前网易架构师-高司机10 天前
带标注的车轮胎上的螺母识别数据集,识别率87.2%,83张图,支持yolo,coco json,voc xml,darknet文末有模型训练代码
yolo·json·数据集·定位·识别·螺母
前网易架构师-高司机11 天前
带标注的打电话识别数据集,识别率98.9%,9723张图,支持yolo,coco json,voc xml,文末有模型训练代码
yolo·json·手机·数据集·打电话
前网易架构师-高司机1 个月前
带标注的辣椒病叶数据集,识别率95.9%,可识别三种病害和健康叶子,9916张图,支持yolo,coco json,voc xml,文末有模型训练代码
yolo·json·数据集·病害·叶病·病叶·辣椒
Bright Data1 个月前
社交媒体数据集示例
数据集·网页爬虫·社交媒体·网页数据