【hive】报错累积

2024-01-03 16:36:26

6.1 创建新表

  • 错误1：FAILED: SemanticException [Error 10006]: Line 1:63 Partition not found '"20210919"'

    • 场景：在创建例行表时，报错。
    • 这种情况是先创建了多级分区表（date，product），在落表跑数时只指定了一个分区（date）
    • 解决：修改分区字段，与已有表里保持一致；或者删掉已有表，重新落表

  • 错误2：FAILED: SemanticException [Error 10035]: Column repeated in partitioning columns

    • 场景：在创建例行表时，报错。
    • 这种情况是在创建新表时先指定了某字段，但在指定分区时又重复出现了该字段（date）
    • 解决：在创建表字段时，去掉date或者修改分区字段值

6.2 数据倾斜

  • 利用rand()解决跑数
    • 存在较多未登录用户时，利用rand()函数将未登录打散
if(nvl(a.u_id,0)>0, a.u_id, concat('hive', rand())) = b.u_id

文章来源:https://blog.csdn.net/qq_34473205/article/details/135366172
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。