写点什么

Bigdata 作业第九周

作者:Pyel
  • 2022 年 5 月 08 日
  • 本文字数:376 字

    阅读完需:约 1 分钟

作业内容

作业一

为 Spark SQL 添加一条自定义命令

  • SHOW VERSION;

  • 显示当前 Spark 版本和 Java 版本。

作业二

构建 SQL 满足如下要求

通过 set spark.sql.planChangeLog.level=WARN,查看:

  1. 构建一条 SQL,同时 apply 下面三条优化规则:

  • CombineFilters

  • CollapseProject

  • BooleanSimplification

  1. 构建一条 SQL,同时 apply 下面五条优化规则:

  • ConstantFolding

  • PushDownPredicates

  • ReplaceDistinctWithAggregate

  • ReplaceExceptWithAntiJoin

  • FoldablePropagation

作业三

实现自定义优化规则(静默规则)

  1. 第一步:实现自定义规则 (静默规则,通过 set spark.sql.planChangeLog.level=WARN,确认执行到就行)

  2. 第二步:创建自己的 Extension 并注入

  3. 第三步:通过 spark.sql.extensions 提交


作业解答


作业一


  1. SqlBase.g4 添加语法规则

  2. Maven antlr4 插件编译规则


SHOW VERSION//--SPARK-KEYWORD-LIST-STARTVERSION: 'VERSION' | 'V';


作业二


作业三


用户头像

Pyel

关注

还未添加个人签名 2015.01.29 加入

还未添加个人简介

评论

发布
暂无评论
Bigdata 作业第九周_Pyel_InfoQ写作社区