hadoop的分区学习

自定义分区实现:

抽象类

要自定义分区规则,就必须继承并且重写。

设置分区数量

driver类:

java 复制代码
        job.setNumReduceTasks(3);
        job.setPartitionerClass(FlowPartitioner.class);

分区方法类,直接用编号代替就好了

java 复制代码
public class FlowPartitioner extends Partitioner<Text, FlowBean> {
    @Override
    public int getPartition(Text text, FlowBean flowBean, int numPartitions) {
        int partitions;
        String phoneNum = text.toString();
        if(phoneNum.startsWith("136")){
            partitions = 0;
        } else if (phoneNum.startsWith("137")) {
            partitions = 1;
        }else if (phoneNum.startsWith("138")) {
            partitions = 2;
        }else if (phoneNum.startsWith("139")) {
            partitions = 3;
        }else {
            partitions = 4;
        }
        return partitions;
    }
}
相关推荐
~kiss~1 小时前
A Survey of On-Policy Distillation for LLMs 学习(一)
学习
Pniubi2 小时前
怎么排查慢SQL,怎么解决?
java·数据库·sql
薛之谦_3 小时前
Java 全栈知识体系:从 IDEA 高效开发到 JVM、并发与 Stream 实战
java·jvm·intellij-idea
小杨小杨、努力变强!3 小时前
python学习笔记
笔记·学习
文丑颜不良啊7 小时前
LeetCode2761~2780题目解析
java·leetcode
IT枫斗者枫哥7 小时前
子线程断言失败,JUnit 为什么还显示通过?
java·后端
Star(up up up)9 小时前
Redis Windows 安装教程:使用Windows 的 Redis 压缩包
redis·笔记·学习·程序人生·云原生·学习方法·改行学it
考虑考虑9 小时前
JDK27中的Set.ofLazy
java·后端·java ee
文丑颜不良啊9 小时前
LeetCode2841~2860题目解析
java·leetcode
小南家的青蛙9 小时前
Tomcat与Jetty深度对比
java·tomcat·jetty