Hive借助java反射解决User-agent编码乱码问题

一、需求背景

在截取到浏览器user-agent,并想保存入数据库中,经查询发现展示的为编码后的结果。
现需要经过url解码过程,将解码后的结果保存进数据库,那么有几种实现方式。

二、问题解决

1、百度:url在线解码工具

输入下述内容,得到解码后的结果

复制代码
Mozilla/5.0%20(Macintosh;%20Intel%20Mac%20OS%20X%2010_6_8)%20AppleWebKit/537.13+%20(KHTML,%20like%20Gecko)%20Version/5.1.7%20Safari/534.57.2

但不能对每一个ua都在线进行完解码后,再存入数据库,操作量太大了,重复!

2、借助java程序实现

复制代码
通过URLDecoder.decode()方法,将参数填入进去,最后输出解码后的结果来实现。

即可以通过Hive自定义UDF函数的形式,将上述方法进行封装使用。

3、借助Hive的反射实现

先看下反射的详细情况

可以看到,先写类名,再写方法名,参数可有可无

运行结果展示,优于自定义UDF函数,更简便:

相关推荐
༺水墨石༻2 天前
低版本hive(1.2.1)UDF实现清除历史分区数据
数据仓库·hive·hadoop
William一直在路上4 天前
SpringBoot 拦截器和过滤器的区别
hive·spring boot·后端
抛砖者4 天前
hive/spark sql中unix_timestamp 函数的坑以及时间戳相关的转换
hive·sql·spark
无级程序员10 天前
hive2服务启动报错:/tmp/hive on HDFS should be writable(不是chmod 777能解决的)
hive·hadoop·hdfs
rui锐rui10 天前
大数据学习2:HIve
大数据·hive·学习
凌辰揽月10 天前
Servlet学习
hive·学习·servlet
weixin_3077791310 天前
Hive集群之间迁移的Linux Shell脚本
大数据·linux·hive·bash·迁移学习
王小王-12311 天前
基于Hadoop的公共自行车数据分布式存储和计算平台的设计与实现
大数据·hive·hadoop·分布式·hadoop公共自行车·共享单车大数据分析·hadoop共享单车
桂成林11 天前
Hive UDF 开发实战:MD5 哈希函数实现
hive·hadoop·哈希算法
王小王-12312 天前
基于Hadoop的餐饮大数据分析系统的设计与实现
hive·hadoop·flask·sqoop·pyecharts·hadoop餐饮大数据分析·hadoop美食数据分析