Scala相关知识学习总结6

1、集合计算高级函数说明

  • 过滤:遍历集合,提取满足特定条件的元素组成新集合。

  • 转化/映射(map):将集合里的每个元素应用到指定函数进行转换。

  • 扁平化:文档未详细阐述其具体含义和操作。

  • 扁平化+映射(flatMap):先对集合元素执行映射操作,再将结果扁平化,即集合中每个元素的子元素映射到某个函数并返回新集合。

  • 分组(group):按照给定规则对集合元素进行分组。

  • 简化(归约):通过特定逻辑聚合集合中的数据,减少数据量以获得最终结果。

  • 折叠:属于化简的特殊形式。

2、集合计算高级函数实操

  • Demo01示例:利用`Demo01`对象,对`List`集合进行过滤、映射、扁平化、扁平化+映射和分组的实际操作演示,例如从`List(1, 2, 3, 4, 5, 6, 7, 8, 9)`中筛选偶数、对每个元素加1等。
  • Reduce方法:通过指定的逻辑将集合中的数据进行聚合,从而减少数据,最终获取结果。
  • Fold方法:展示`fold`方法的基本使用,其底层为`foldLeft`,并演示用`foldLeft`合并两个`Map`集合的操作。

两个集合合并

3、普通WordCount案例

  • 需求:对集合中出现的相同单词进行计数,并获取计数排名前三的结果。

  • 实操步骤:先将包含多个字符串的集合中的每个字符串拆分成单个单词;然后把相同的单词分组;接着对每组单词进行计数;再将计数结果按降序排序;最后取排序后的前三个结果。

相关推荐
哈哈很哈哈1 天前
Spark 核心 RDD详解
大数据·分布式·spark·scala
DTS小夏2 天前
Linux 系统 + IDEA+Scala 插件:新手进阶开发指南
linux·scala·intellij-idea
渣渣盟3 天前
Spark核心:单跳转换率计算全解析
大数据·spark·scala·apache
闯闯桑4 天前
Spark 中spark.implicits._ 中的 toDF和DataFrame 类本身的 toDF 方法
大数据·ajax·spark·scala
MOMO陌染6 天前
IDEA环境搭建与输出
scala
闯闯桑8 天前
toDF(columns: _*) 语法
开发语言·前端·spark·scala·apache
q5673152310 天前
无需Python:Shell脚本如何成为你的自动化爬虫引擎?
开发语言·爬虫·python·自动化·scala
渣渣盟12 天前
Spark自定义累加器实现高效WordCount
大数据·spark·scala
IvanCodes12 天前
一、Scala 基础语法、变量与数据类型
大数据·开发语言·scala
q5673152313 天前
Nim轻量级爬虫:异步高效+代理轮换防封
开发语言·后端·爬虫·typescript·scala