【hive】报错累积

6.1 创建新表

• 错误1：FAILED: SemanticException [Error 10006]: Line 1:63 Partition not found '"20210919"'

  • 场景：在创建例行表时，报错。
  • 这种情况是先创建了多级分区表（date，product），在落表跑数时只指定了一个分区（date）
  • 解决：修改分区字段，与已有表里保持一致；或者删掉已有表，重新落表

• 错误2：FAILED: SemanticException [Error 10035]: Column repeated in partitioning columns

  • 场景：在创建例行表时，报错。
  • 这种情况是在创建新表时先指定了某字段，但在指定分区时又重复出现了该字段（date）
  • 解决：在创建表字段时，去掉date或者修改分区字段值

6.2 数据倾斜

• 利用rand()解决跑数
  • 存在较多未登录用户时，利用rand()函数将未登录打散

if(nvl(a.u_id,0)>0, a.u_id, concat('hive', rand())) = b.u_id