spark--练习1

需求

利用sparksql读取data.csv文件,统计如下结果

1.统计每个姓氏以及人数,不考虑复姓

2.统计每个生肖以及人数

3.统计每个年龄段的人数,期望结果

年龄段 人数

1 - 10 xx

11 - 20 xx

21 - 30 xx

...

4.统计每个省份积分最高的前3个人

姓名 分数 省份 排名

data.csv文件:

1.统计每个姓氏以及人数,不考虑复姓

python 复制代码
from pyspark.sql import SparkSession

if __name__ == '__main__':
    spark = SparkSession.builder \
        .appName("测试") \
        .getOrCreate()

    df = spark.read.option('header',True).csv('data.csv')
    df.createTempView('t1')
    #1.统计每个姓氏以及人数,不考虑复姓
    #substring(name, 0, 1) 将从 name 字符串中
    #提取从索引 0(包含)到索引 1(不包含)的子字符串,即第一个字符。
    spark.sql('''
                select substring(name,0,1) xing,count(*) cnt
                from t1
                group by substring(name,0,1)
              ''').show()

2.统计每个生肖以及人数

python 复制代码
from pyspark.sql import SparkSession

if __name__ == '__main__':
    spark = SparkSession.builder \
        .appName("测试") \
        .getOrCreate()

    df = spark.read.option('header',True).csv('data.csv')
    df.createTempView('t1')
    def computer_animals(year):
        arr = ['鼠','牛','虎','兔','龙','蛇','马','羊','猴','鸡','狗','猪']
        return arr[(int(year)-4)%12]
    #
    # # #2.统计每个生肖以及人数
    '''
    使用spark.udf.register将Python函数computer_animals注册为Spark SQL的UDF(用户定义函数),以便在SQL查询中使用。
    
    SQL查询首先从t1视图中提取每个人的生日年份(
    这里通过substring(birthday,0,4)提取年份),然后使用注册的UDF computer_animals计算对应的生肖。
    最后,按生肖分组并计算每个生肖的人数。查询结果通过.show()方法显示出来。
    '''
    spark.udf.register('computer_animals',computer_animals)
    spark.sql('''
                select computer_animals(substring(birthday,0,4)) animals,count(*) cnt
                from t1
                group by computer_animals(substring(birthday,0,4))
              ''').show()

3.统计每个年龄段的人数

python 复制代码
from pyspark.sql import SparkSession

if __name__ == '__main__':
    spark = SparkSession.builder \
        .appName("测试") \
        .getOrCreate()

    df = spark.read.option('header',True).csv('data.csv')
    df.createTempView('t1')

    spark.sql('''
                    select case when age >= 20 and age <= 30 then '20-30'
                             when age >= 30 and age <= 40 then '30-40'
                             when age >= 40 and age <= 50 then '40-50'
                             else '60以上' end age2,count(*) cnt
                    from(
                        select 2024 - substring(birthday,0,4) age
                        from t1
                    )t2 group by 
                        case when age >= 20 and age <= 30 then '20-30'
                             when age >= 30 and age <= 40 then '30-40'
                             when age >= 40 and age <= 50 then '40-50'
                             else '60以上' end 

                  ''').show()

4.统计每个省份积分最高的前3个人

python 复制代码
from pyspark.sql import SparkSession

if __name__ == '__main__':
    spark = SparkSession.builder \
        .appName("测试") \
        .getOrCreate()

    df = spark.read.option('header',True).csv('data.csv')
    df.createTempView('t1')
    spark.sql("""
                select name,score,provincename,rn
                from(
                    select
                        name,score,provincename,row_number() over(partition by provincename order by score desc) rn
                    from t1 where provincename is not null
                )t2 where rn <= 3
             """).show(150)
    spark.stop()
相关推荐
Wellijohn10 小时前
我把公司内部的 12 个 CRUD 接口交给了 AI Agent,然后省出了两周
人工智能·python·mcp
2601_9679801111 小时前
python pytest怎样测试代码
python·pytest·测试·文档·断言
伞伞悦读11 小时前
【第92期】逻辑回归的分数概率与阈值的实验与排查
人工智能·python·深度学习·机器学习
ch62312 小时前
🚀 从零构建本地文档智能审查 Agent:Vibe Coding 实战指南
python
摇滚侠12 小时前
《On Java 中文版 基础卷》阅读笔记 接口 18
java·笔记·python
Thanks_ks13 小时前
AI Agent 开发入门:用 Function Calling 让大模型学会 “动手干活”,附订单查询机器人实战
python·ai·大模型·openai·agent·通义千问·mcp
大大大大晴天13 小时前
每天认识一个组件:VictoriaLogs
大数据
专注仿真13 小时前
智能体训练之模仿学习:GAIL 算法详解与实战
python·算法·仿真·多智能体强化学习·afsim智能体训练
databook14 小时前
处理一批 PDF,怎么算真的处理完了
后端·python
ZhengEnCi15 小时前
覆盖索引是什么:用借书和外卖看懂回表这件事
sql·mysql·postgresql