您当前的位置:首页 > 电脑百科 > 数据库 > 百科

使用Apache Calcite解析数据库查询

时间:2021-02-24 16:14:18  来源:  作者:

Knoldus Inc.

3分钟阅读

嘿那里,作为一个技术人员有时我们必须编写数据库的查询,看起来不错,但我们不知道我们写的查询是句法正确的。所以在这个博客中,我们在Apache Calcite的帮助下使用测试用例来解决数据库查询并测试它。所以任何时候都不会浪费,让我们讨论Apache Calcite以及如何使用它来解析数据库查询。

介绍

Apache Calcite是一个动态数据管理框架。它甚至包含许多组成典型数据库管理系统的部分。但是它省略了一些关键功能:数据存储,处理数据的算法以及用于存储元数据的存储库。

什么是Apache Calcite?

  • SQL解析器
  • SQL验证
  • 查询优化器
  • SQL生成器

您应该了解有关Apache Calcite的一些导入事项

  • Calcite不会存储和处理数据。
  • 这是在应用程序之间以及一个或多个数据存储位置和数据处理引擎之间进行中介的绝佳选择。
  • 它也是构建数据库的理想基础:只需添加数据。
  • Calcite不想拥有数据;它甚至没有喜欢的数据格式。本示例使用内存中的数据集,并使用诸如groupBy之类的运算符对其进行处理,并从linq4j库中进行联接。
  • 它还可以处理其他数据格式的数据,例如JDBC。
  • Calcite使用优化器规则将JOIN和GROUP BY操作推入源数据库。

使用Calcite的优势:

以下功能已完成。

  • 查询解析器,验证器和优化器。
  • 支持以JSON格式读取模型。
  • 许多标准函数和聚合函数。
  • 针对Linq4j和JDBC后端的JDBC查询。
  • Linq4j前端。
  • SQL功能:SELECT,FROM(包括JOIN语法),WHERE,GROUP BY(包括GROUPING SETS),聚合函数(包括COUNT(DISTINCT…)和FILTER),HAVING,ORDER BY(包括NULLS FIRST / LAST),设置操作(UNION,INTERSECT,MINUS),子查询(包括相关的子查询),窗口聚合,LIMIT(语法为Postgres);SQL参考中的更多详细信息
  • 本地和远程JDBC驱动程序;参见Avatica。
  • 几个适配器。

查询执行阶段

使用Apache Calcite解析数据库查询

 

Calcite的成分

目录-定义可在SQL查询中访问的元数据和命名空间SQL解析器-将有效的SQL查询解析为抽象语法树(AST)。SQL验证程序-根据catalog提供的元数据验证抽象语法树查询优化器-将AST转换为逻辑计划,进行优化逻辑计划,并将逻辑表达式转换为物理计划SQL生成器—将物理计划转换为SQL

Calcite目录的用法

定义可在Calcite查询中访问的名称空间。

使用Apache Calcite解析数据库查询

 

查询优化

  • 修剪未使用的字段
  • 合并预测
  • 将子查询转换为联接
  • 重新排序加入
  • 下推投影
  • 下推过滤器

使用Apache Calcite的项目

  • Hive
  • Drill
  • Flink
  • Phoniex
  • Samza
  • Storm

现在介绍如何使用Apache Calcite解析SQL查询。

1:将此插件添加到数据库查询的依赖项或模块中。

"org.apache.calcite" % "calcite-babel" % "1.21.0"

2:创建将查询作为输入的方法,返回SqlNode。在这种方法中,您必须提供如下配置:您可以选择自己的分析器工厂)

val sqlParserConfig = CalciteParser
.configBuilder()
.setParserFactory(SqlBabelParserImpl.FACTORY)
.setConformance(SqlConformanceEnum.BABEL)
.build()

3:通过上面的配置(我以BABEL为例,您可以选择自己的解析器工厂)

CalciteParser.create(sql, sqlParserConfig).parseQuery()

4: 现在,在测试案例中,只需声明您的数据库查询或方法即可返回

assert(parseSql(resultedSql).isInstanceOf[SqlNode])

在其中parseSql是实际解析查询的方法。

概述

建立SQL数据库的框架。它已经发展了十多年。用JAVA编写,以前称为Optimiser。也称为Farrago。在2013年成为Apache项目。由Hortonworks的Julian Hyde领导。

 

(本文由闻数起舞翻译自Knoldus Inc.的文章《Parsing database Query with Apache Calcite》,转载请注明出处,原文链接:https://medium.com/@knoldus/parsing-database-query-with-apache-calcite-8d1567de3ffa)



Tags:数据库查询   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除,谢谢。
▌相关推荐
1 简介学习Dash中渲染网页静态表格的常用方法,并在最后的例子中教大家如何配合Dash,简简单单编写一个数据库查询应用~ 还特意在文末藏了惊喜哦!! 2 在Dash中渲染静态表格在Dash...【详细内容】
2021-04-07  Tags: 数据库查询  点击:(267)  评论:(0)  加入收藏
Knoldus Inc.3分钟阅读嘿那里,作为一个技术人员有时我们必须编写数据库的查询,看起来不错,但我们不知道我们写的查询是句法正确的。所以在这个博客中,我们在Apache Calcite的帮...【详细内容】
2021-02-24  Tags: 数据库查询  点击:(408)  评论:(0)  加入收藏
1. 场景描述python环境下需要从greenplum/postgresql中,获取算法执行的数据,但是从数据库中查询出来是数组格式的,算法无法使用,需要转换为dataframe格式。2. 解决方案结合第三...【详细内容】
2020-09-17  Tags: 数据库查询  点击:(81)  评论:(0)  加入收藏
首先应考虑在 where 及 order by 涉及的列上建立索引。下面我们来以一个表中177条数据比较一下,全表扫描与建立索引之后性能的一个比较....【详细内容】
2019-12-10  Tags: 数据库查询  点击:(87)  评论:(0)  加入收藏
在sql当中,有下面这些join类型:(INNER)JOIN:返回两个表中具有匹配值的记录LEFT(OUTER)JOIN:返回左侧表中的所有记录,以及右侧表中的匹配记录...【详细内容】
2019-10-31  Tags: 数据库查询  点击:(133)  评论:(0)  加入收藏
MySQL是一个强大的开源数据库。随着MySQL上的应用越来越多,MySQL逐渐遇到了瓶颈。这里提供一些关于Mysql 数据库查询优化的24条优化建议,仅供参考。 Mysql 查询优化1、使用慢...【详细内容】
2019-10-08  Tags: 数据库查询  点击:(116)  评论:(0)  加入收藏
一、什么影响了数据库查询速度1.1 影响数据库查询速度的四个因素 1.2 风险分析QPS:Queries Per Second意思是“每秒查询率”,是一台服务器每秒能够相应的查询次数,是对一个特定...【详细内容】
2019-06-19  Tags: 数据库查询  点击:(342)  评论:(0)  加入收藏
▌简易百科推荐
1增1.1【插入单行】insert [into] <表名> (列名) values (列值)例:insert into Strdents (姓名,性别,出生日期) values (&#39;开心朋朋&#39;,&#39;男&#39;,&#39;1980/6/15&#3...【详细内容】
2021-12-27  快乐火车9d3    Tags:SQL   点击:(1)  评论:(0)  加入收藏
最近发现还有不少做开发的小伙伴,在写存储过程的时候,在参考已有的不同的写法时,往往很迷茫, 不知道各种写法孰优孰劣,该选用哪种写法,以及各种写法的优缺点,本文以一个简单的查询...【详细内容】
2021-12-23  linux上的码农    Tags:sql   点击:(9)  评论:(0)  加入收藏
《开源精选》是我们分享Github、Gitee等开源社区中优质项目的栏目,包括技术、学习、实用与各种有趣的内容。本期推荐的HasorDB 是一个全功能数据库访问工具,提供对象映射、丰...【详细内容】
2021-12-22  GitHub精选    Tags:HasorDB   点击:(5)  评论:(0)  加入收藏
作者丨Rafal Grzegorczyk译者丨陈骏策划丨孙淑娟【51CTO.com原创稿件】您是否还在手动对数据库执行各种脚本?您是否还在浪费时间去验证数据库脚本的正确性?您是否还需要将...【详细内容】
2021-12-22    51CTO  Tags:Liquibase   点击:(3)  评论:(0)  加入收藏
场景描述:由于生产环境的表比较复杂,字段很多。这里我们做下简化,只为说明今天要聊的问题。有两张表 tab1,tab2: tab1 数据如下: tab2 数据如下: 然后给你看下,我用来统计 name=&#3...【详细内容】
2021-12-20  Bald    Tags:SQL   点击:(5)  评论:(0)  加入收藏
前言知识无底,学海无涯,知识点虽然简单,但是比较多,所以将MySQL的基础写出来,方便自己以后查找,还有就是分享给大家。一、SQL简述1.SQL的概述Structure Query Language(结构化查...【详细内容】
2021-12-16  谣言止于独立思考    Tags:SQL基础   点击:(13)  评论:(0)  加入收藏
前言作为一名测试工程师,工作中在对测试结果进行数据比对的时候,或多或少要和数据库打交道的,要和数据库打交道,那么一些常用的 SQL 查询语法必须要掌握。最近有部分做测试小伙...【详细内容】
2021-12-14  柠檬班软件测试    Tags:SQL   点击:(15)  评论:(0)  加入收藏
话说C是面向内存的编程语言。数据要能存得进去,取得出来,且要考虑效率。不管是顺序存储还是链式存储,其寻址方式总是很重要。顺序存储是连续存储。同质结构的数组通过其索引表...【详细内容】
2021-12-08  小智雅汇    Tags:数据存储   点击:(17)  评论:(0)  加入收藏
概述DBConvert Studio 是一款强大的跨数据库迁移和同步软件,可在不同数据库格式之间转换数据库结构和数据。它将成熟、稳定、久经考验的 DBConvert 和 DBSync 核心与改进的现...【详细内容】
2021-11-17  雪竹聊运维    Tags:数据库   点击:(26)  评论:(0)  加入收藏
一、前言 大家好,我是小诚,《从0到1-全面深刻理解MySQL系列》已经来到第四章,这一章节的主要从一条SQL执行的开始,由浅入深的解析SQL语句由客户端到服务器的完整执行流程,最...【详细内容】
2021-11-09  woaker    Tags:SQL   点击:(35)  评论:(0)  加入收藏
最新更新
栏目热门
栏目头条