数据帧

4.1.1 Spark SQL概述Spark SQL是Apache Spark的一个模块，专门用于处理结构化数据。它引入了DataFrame这一编程抽象，DataFrame是带有Schema信息的分布式数据集合，类似于关系型数据库中的表。用户可以通过SQL、DataFrames API和Datasets API三种方式操作结构化数据。Spark SQL的发展经历了从Hive on Spark到Shark，再到完全独立的Spark SQL的过程，不断优化性能和功能。DataFrame在Spark 1.3.0版本之前被称为SchemaRDD，

将单列数据帧转换成多列数据帧

Spark SQL - 操作数据帧本教程将通过一个具体的案例来演示如何在Spark SQL中操作数据帧。我们将从获取学生数据帧开始，包括两种方法：一是由数据集转换而来，二是直接读取文件生成数据帧。然后，我们将对数据帧进行各种操作，如投影、过滤、统计和排序等。