spark sql基于CBO的优化

2023-12-13 03:29:51

前言

spark sql基于CBO的优化是建立在物理计划层面的，原理是计算出所有可能的物理执行计划，并挑选成代价最小的物理执行计划。对于执行计划可以去看我的另一篇博客RBO优化

CBO的话主要用来调整inner join所涉及表的顺序

使用CBO准备

搜集所需表和列的统计信息

  • 生成表级别的统计信息
    ANALYZE TABLE 表名 COMPUTE STATISTICS
  • 生成列级别的统计信息
    ANALYZE TABLE 表名 COMPUTE STATISTICS FOR COLUMNS 列 1,列 2,列 3
  • 显示统计信息
    DESC FORMATTED 表名

CBO相关参数

  • spark.sql.cbo.enabled：
    cbo的总开关，默认是false
  • spark.sql.cbo.joinReorder.enabled
    来自动调整连续的 inner join 的顺序
  • spark.sql.cbo.joinReorder.dp.threshold
    使用 CBO 来自动调整连续 inner join 的表的个数阈值，默认值为12，超过则不会调整

文章来源:https://blog.csdn.net/a123op2346/article/details/134798249
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。