Hive借助java反射解决User-agent编码乱码问题

一、需求背景

在截取到浏览器user-agent,并想保存入数据库中,经查询发现展示的为编码后的结果。
现需要经过url解码过程,将解码后的结果保存进数据库,那么有几种实现方式。

二、问题解决

1、百度:url在线解码工具

输入下述内容,得到解码后的结果

复制代码
Mozilla/5.0%20(Macintosh;%20Intel%20Mac%20OS%20X%2010_6_8)%20AppleWebKit/537.13+%20(KHTML,%20like%20Gecko)%20Version/5.1.7%20Safari/534.57.2

但不能对每一个ua都在线进行完解码后,再存入数据库,操作量太大了,重复!

2、借助java程序实现

复制代码
通过URLDecoder.decode()方法,将参数填入进去,最后输出解码后的结果来实现。

即可以通过Hive自定义UDF函数的形式,将上述方法进行封装使用。

3、借助Hive的反射实现

先看下反射的详细情况

可以看到,先写类名,再写方法名,参数可有可无

运行结果展示,优于自定义UDF函数,更简便:

相关推荐
本旺13 小时前
【数据开发离谱场景记录】Hive + ES 复杂查询场景处理
hive·hadoop·elasticsearch
悟能不能悟1 天前
springboot全局异常
大数据·hive·spring boot
是阿威啊1 天前
【第六站】测试本地项目连接虚拟机上的大数据集群
大数据·linux·hive·hadoop·spark·yarn
青木川崎2 天前
hive实战
数据仓库·hive·hadoop
是阿威啊2 天前
【第五站】集群组件一键启动/关闭脚本(Hadoop/YARN + Hive + Spark)
linux·运维·hive·hadoop·spark
青木川崎2 天前
大数据技术之hive
大数据·hive·hadoop
是阿威啊2 天前
【第三站】本地虚拟机部署hive集群
linux·数据仓库·hive·hadoop·分布式
喻师傅4 天前
Hive 中 NULL 值在逻辑判断中的“陷阱”(踩坑复盘)
数据仓库·hive·hadoop
Hello.Reader6 天前
Flink SQL 的 LOAD MODULE 深度实战——加载 Hive 模块、理解模块发现与常见坑
hive·sql·flink
howard20057 天前
Hive实战任务 - 9.1 实现词频统计
hive·词频统计