您当前的位置:首页 > 电脑百科 > 程序开发 > 前端

从JsonPath和XPath到SPL

时间:2022-07-26 09:41:55  来源:Meta多元宇宙  作者:

XML和Json不仅是结构化文本,而且擅长表示多层数据,可承载足够通用和足够丰富的信息,因此常被用于各种数据交换和信息传递事务,比如WebService/Restful,微服务等。但多层数据要比传统的二维表结构复杂,取数后再处理的难度也大。

早期,没有专业的json/XML的后处理技术,JAVA开发者通常要采取硬写代码或入库再算的方式。硬编码计算能力差,代码量大,开发效率很低。入库虽然解决了部分计算能力,但步骤多,延迟大,额外制造了JAVA与数据库的紧耦合,架构性很差,而且数据库只擅长计算二维表,处理多层结构化数据的能力并不强。后来,专业的json/XML后处理技术开始出现,才使Java中做这些运算处理的效率有了较大的提升,JsonPath/XPath是其中的优秀者。

JsonPath和XPath具有突破性的计算能力

XPath是广泛使用的XML处理语言,内置于XOM/Xerces-J/Jdom/Dom4J等函数库。JsonPath仿照XPath的语法,实现了类似的功能,且有自己的函数库,目前是广泛使用的Json处理语言。比起以前硬编码的方式,XPath/JsonPath代码简短得多,具有突破性的计算能力。

比如,用arronlong HTTP函数库从WebService取XML字符串,使用Dom4J函数库将XML字符串解析为Document类型,使用Dom4J内置的XPath语法进行条件查询:


 
String path= "http://.../emp_orders.xml";
String XMLStr= com.arronlong.httpclientutil.HttpClientUtil.get(com.arronlong.httpclientutil.common.HttpConfig.custom().url(path));
Document doc = DocumentHelper.parseText(XMLStr);
List<Node> list=doc.selectNodes("/xml/row/Orders[Amount>1000 and Amount<=3000 and contAIns(Client,'bro')]")

类似地,用 JsonPath 进行条件查询:


 
String path= "http://.../emp_orders.json";
String JsonStr= com.arronlong.httpclientutil.HttpClientUtil.get(com.arronlong.httpclientutil.common.HttpConfig.custom().url(path));
Object document = Configuration.defaultConfiguration().jsonProvider().parse(JsonStr);
ArrayList l=JsonPath.read(document, "$[*].Orders[?(@.Amount>1000 && @.Amount<2000 && @.Client =~ /.*?business.*?/i )]");

JsonPath与XPath用法类似,语法相通,计算能力差别不大,下面以JsonPath为主进行说明。JsonPath/XPath对条件查询的支持比较完整,包括关系运算符,如大于、小于等于;逻辑运算符,如与、或、非;字符串正则表达式,如~ /.*?business.*?/i;字符串函数,如模糊匹配contains。此外,JsonPath/XPath还支持在条件查询中使用数学运算符(函数),如+-*、div;位置函数,如position、last;日期函数,如year-from-date、timezone-from-time。

需要特别说明的是,JsonPath/XPath可以灵活表达条件查询的层级范围,包括绝对位置、相对位置、父节点、子节点、属性、元素等,这是多层数据处理语言有别于二维数据处理语言(SQL)之处,如代码中的$[*].Orders和/xml/row/Orders。

除了条件查询,JsonPath/XPath还支持聚合计算,比如用JsonPath求和:

Double d=JsonPath.read(document, "$.sum($[*].Orders[*].Amount)");

JsonPath/XPath还支持平均、最大、最小、计数等聚合函数。

从这些例子可以看出来,JsonPath/XPath的语法直观易懂,可以用较短的代码实现条件查询和聚合计算,可以方便地访问多层结构,比硬编码方便多了。

JsonPath和XPath计算能力仍然不足

比起直接用Java编码,JsonPath和XPath的计算能力的确是突破性的,但要进行日常计算甚至是基础计算,JsonPath和XPath的能力是严重不足的,远不如SQL。事实上,JsonPath/XPath只支持条件查询和聚合这两种最基本的计算,其他计算都要用复杂的编码辅助完成。

比如,用JsonPath进行分组汇总:

ArrayList orders=JsonPath.read(document, "$[*].Orders[*]");
Comparator<HashMap> comparator = new Comparator<HashMap>() {
    public int compare(HashMap record1, HashMap record2) {
        if (!record1.get("Client").equals(record2.get("Client"))) {
            return ((String)record1.get("Client")).compareTo((String)record2.get("Client"));
        } else {
            return ((Integer)record1.get("OrderID")).compareTo((Integer)record2.get("OrderID"));
        }
    }
};
Collections.sort(orders, comparator);
ArrayList<HashMap> result=new ArrayList<HashMap>();
HashMap currentGroup=(HashMap)orders.get(0);
double sumValue=(double) currentGroup.get("Amount");
for(int i = 1;i < orders.size(); i ++){
    HashMap thisRecord=(HashMap)orders.get(i);
    if(thisRecord.get("Client").equals(currentGroup.get("Client"))){
        sumValue=sumValue+(double)thisRecord.get("Amount");
    }else{
        HashMap newGroup=new HashMap();
        newGroup.put(currentGroup.get("Client"),sumValue);
        result.add(newGroup);
        currentGroup=thisRecord;
        sumValue=(double) currentGroup.get("Amount");
    }
}

JsonPath/XPath不支持分组汇总,只能自行编码完成大部分计算,这就要求程序员控制所有细节,代码冗长且容易出错。如果换一个分组字段或汇总字段,则要修改多处代码,如果对多个字段分组或汇总,代码还需大量修改,很难写出通用代码。

JsonPath/XPath的计算能力严重不足,不支持大部分基础计算,除了分组汇总,还包括:重命名、排序、去重、关联计算、集合计算、笛卡尔积、归并计算、窗口函数、有序计算等。JsonPath/XPath也不支持将大计算目标分解为基础计算的机制,比如子查询、多步骤计算等,因此难以进行较复杂的计算。

除了计算能力之外,Jsonpath/XPath还有个问题,就是没有自己的HTTP接口,必须自行编码或利用第三方HTTP函数库,比如JourWon、Arronlong,前面的例子就使用了Arronlong函数库。除了基础的HTTP之外,MongoDB或elasticSearch也可以返回多层数据,每种数据源的接口协议都不同,Jsonpath/XPath没有提供相关的接口,只能自己写或再引入第三方类库,这导致架构复杂、不稳定因素增大、开发效率降低。

JsonPath/XPath的计算能力不足,导致开发效率低下。要想提高开发效率,必须使用计算能力足够的json/XML处理技术。

SPL是更优的选择。

SPL具有足够的计算能力

esProc SPL是JVM下开源的结构化数据/多层数据处理语言,内置专业的多层数据对象,提供了丰富的计算函数、字符串函数、日期函数,具有不亚于SQL的计算能力,可以提高WebService/Restful后处理的开发效率。

SPL内置专业的多层结构化数据对象,为计算功能提供了有力的底层支撑

比如,从文件读取XML字符串,解析为SPL序表:

 

A

1

=file("d:\xml\emp_orders.xml").read()

2

=xml(A1,"xml/row")

点击A2格可以看到多层序表的结构,其中,EId、State等字段存储简单数据类型,Orders字段存储记录集合(二维表)。点击Orders中的某一行,可以展开观察数据:

从JsonPath和XPath到SPL

 

SPL序表是专业的数据对象,可以表示结构任意复杂的多层数据,下面再看一个例子:

从JsonPath和XPath到SPL

 

序表的专业性还体现在,可以表示任意来源的二维或多层数据,包括但不限于XMLJson,文件网络服务。比如,从文件读取Json字符串(与前面的XML同构),解析为SPL序表:

 

A

1

=file("d:\xml\emp_orders.json").read()

2

=json(A1)

这里的序表和前面来自XML的序表没有区别,后续的计算代码完全一样,下面以Json为主进行说明。

SPL内置丰富的计算函数,基础计算一句完成

比如,同样对多层Json进行条件查询:

 

A

2

…//省略取数解析

3

=A2.conj(Orders)

4

=A3.select(Amount>1000 && Amount<=2000 && like@c(Client,"*business*"))

可以看到,SPL对条件查询的支持很完整,覆盖了JsonPath/XPath的功能,包括关系运算符、逻辑运算符、正则表达式和字符串函数,如模糊匹配like。此外,SPL还支持在条件查询中使用数学运算符(函数)、位置函数、日期函数。SPL可以灵活地访问不同层级,且代码更简单,如代码中的A2.conj(Orders)。

SPL实现各类聚合计算也很简单,比如求和:=A3.sum(Amount)

SPL支持丰富的基础计算,具有不亚于SQL的计算能力,比如JsonPath/XPath必须硬编码实现的分组汇总,SPL一句就行:

=A2.conj(Orders).groups(Client;sum(Amount))

更多例子:

 

A

B

1

….

 

3

=A2.groups(State,Gender;avg(Salary),count(1))

多字段分组汇总

4

=A1.new(Name,Gender,Dept,Orders.OrderID,Orders.Client,Orders.Client,Orders.SellerId,Orders.Amount,Orders.OrderDate)

关联

5

=A1.sort(Salary)

排序

6

=A1.id(State)

去重

7

=A2.top(-3;Amount)

topN

8

=A2.groups(Client;top(3,Amount))

组内TopN(窗口函数)

SPL提供了大量日期和字符串函数,开发效率更高

SPL支持大量日期函数和字符串函数,在数量和功能上远远超过JsonPath/XPath甚至SQL,同样的运算代码量更短。比如:

时间类函数,日期增减:elapse("2020-02-27",5) //返回2020-03-03

星期几:day@w("2020-02-27") //返回5,即星期6

N个工作日之后的日期:workday(date("2022-01-01"),25) //返回2022-02-04

字符串类函数,判断是否全为数字:isdigit("12345") //返回true

取子串前面的字符串:substr@l("abCDcdef","cd") //返回abCD

按竖线拆成字符串数组:"aa|bb|cc".split("|") //返回["aa","bb","cc"]

SPL还支持年份增减、求年中第几天、求季度、按正则表达式拆分字符串、拆出SQL的where或select部分、拆出单词、按标记拆html等功能。

SPL支持更优的应用架构

SPL支持脚本外置和热切换,可用一致的方法计算多种数据源,有助于实现更优的应用架构。

SPL提供了JDBC接口,支持脚本外置和热切换

比如,将前面的SPL代码存为脚本文件,在JAVA中以存储过程的形式调用文件名:

Class.forName("com.esproc.jdbc.InternalDriver");
Connection connection =DriverManager.getConnection("jdbc:esproc:local://");
Statement statement = connection.createStatement();
ResultSet result = statement.executeQuery("call groupBy()");

SPL脚本文件外置于JAVA,使计算代码和应用程序分离,可有效降低系统耦合性。

SPL是解释型语言,修改后不必重启JAVA应用就可以直接执行,从而实现代码热切换,可保障系统稳定,降低维护难度。

SPL支持多种数据源,可用一致的方法计算多层数据

除了文件,SPL也支持来自WebSerivce和Restful的多层文件。比如,从WebService读取多层XML,进行条件查询:

 

A

1

=ws_client("http://127.0.0.1:6868/ws/RQWebService.asmx?wsdl")

2

=ws_call(A1,"RQWebService":"RQWebServiceSoap":"getEmp_orders")

3

=A2.conj(Orders)

4

=A3.select(Amount>1000 && Amount<=2000 && like@c(Client,"*business*"))

类似地,从Restful取多层Json,进行同样的条件查询:

 

A

1

=httpfile("http://127.0.0.1:6868/restful/emp_orders").read()

2

=json(A1)

3

=A2.conj(Orders)

4

=A3.select(Amount>1000 && Amount<=2000 && like@c(Client,"*business*"))

除了WebService和Restful,很多特殊数据源也是多层数据,常见的比如MongoDB、ElasticSearch、SalesForce。SPL支持多种数据源,可直接从这些数据源取数并计算。

比如,从MongoDB取多层Json,进行条件查询:

 

A

1

=mongo_open("mongodb://127.0.0.1:27017/mongo")

2

=mongo_shell@x(A1,"data.find()")

3

=A2.conj(Orders)

4

=A3.select(Amount>1000 && Amount<=2000 && like@c(Client,"*business*"))

除了多层数据,SPL也支持数据库,txtcsvxls等文件, Hadoop、redis、Kafka、Cassandra等NoSQL。

虽然数据源不同,但在SPL中的数据类型都是序表,因此可以用一致的方法计算多层数据。一致的计算代码使SPL具有高度的可移植性。

SPL计算能力强大,可简化复杂的业务逻辑

SPL内置更方便的函数语法,适合计算结构复杂的多层数据,可简化复杂的业务逻辑,计算能力超过SQL。

SPL内置更方便的函数语法,提供了强大的计算能力

SPL提供了特有的函数选项语法,功能相似的函数可以共用一个函数名,只用函数选项区分差别。比如select函数的基本功能是过滤,如果只过滤出符合条件的第1条记录,可使用选项@1:

Orders.select@1(Amount>1000)

数据量较大时,用并行计算提高性能,可使用选项@m:

Orders.select@m(Amount>1000)

对排序过的数据,用二分法进行快速过滤,可用@b:

Orders.select@b(Amount>1000)

函数选项还可以组合搭配,比如:

Orders.select@1b(Amount>1000)

结构化运算函数的参数常常很复杂,比如SQL就需要用各种关键字把一条语句的参数分隔成多个组,但这会动用很多关键字,也使语句结构不统一。

SPL支持层次参数,通过分号、逗号、冒号自高而低将参数分为三层,用通用的方式简化复杂参数的表达:

join(Orders:o,SellerId ; Employees:e,EId)

SPL表达能力强,适合计算结构复杂的多层数据

比如:Restful返回多层Json,包含多个子文档,结构较复杂,部分数据如下:

[
{
"race": {
"raceId":"1.33.1141109.2",
"meetingId":"1.33.1141109"
},
...
"numberOfRunners": 2,
"runners": [
{ "horseId":"1.00387464",
"trainer": {
"trainerId":"1.00034060"
},
"ownerColours":"Maroon,pink,dark blue."
},
{ "horseId":"1.00373620",
"trainer": {
"trainerId":"1.00010997"
},
"ownerColours":"Black,Maroon,green,pink."
}
]
},
...
]

现在要对不同的层级进行分组汇总(对trainerId分组,统计每组中 ownerColours的成员个数),一般的方法难以实现,SPL就简单多了:

 

A

1

2

=A1(1).runners

3

=A2.groups(trainer.trainerId; ownerColours.array().count():times)

SPL计算能力强,可简化复杂的业务逻辑

SPL支持分步计算、有序计算、分组后计算等逻辑较复杂的计算,很多SQL/存储过程难以实现的计算,用SPL解决起来就很轻松。比如,找出销售额累计占到一半的前n个大客户,并按销售额从大到小排序:

 

A

B

1

/取数据

2

=A1.sort(amount:-1)

/销售额逆序排序

3

=A2.cumulate(amount)

/计算累计序列

4

=A3.m(-1)/2

/最后的累计即总额

5

=A3.pselect(~>=A4)

/超过一半的位置

6

=A2(to(A5))

/按位置取值

从编码到JsonPath/XPath,json/XML的计算处理技术从无到有。从JsonPath/XPath到SPL,多层数据的计算能力由弱到强。SPL内置专业的数据对象、丰富的计算函数、字符串函数、日期函数,具有足够的计算能力。SPL支持脚本外置和热切换,可用一致的方法计算多种数据源,有助于实现更优的应用架构。SPL内置更方便的函数语法,适合计算结构复杂的多层数据,可简化复杂的业务逻辑。

 

SPL下载地址:
http://c.raqsoft.com.cn/article/1595816810031

SPL开源地址:
https://Github.com/SPLWare/esProc



Tags:   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
凌晨3点北京鬼市,天亮就消失,2大规矩:看货不问价,照货不照人
顾名思义,鬼市开市的时间节点在天明之前,至于起点有的是三更,有的是五更,并无一等。其实鬼市各地都有,只不过北京的鬼市更出名,就连老北京人也觉得这里阴森森的,却又很向往想去探险...【详细内容】
2024-04-19  Search:   点击:(3)  评论:(0)  加入收藏
老美怂了?美国众议院计划给予字节跳动额外180天出售TikTok
据外媒报道,迫使字节跳动剥离TikTok的新众议院法案将包括一项条款,赋予总统允许公司额外180天时间完成出售的自由裁量权。该法案已于3月13日获得众议院投票通过,预计将在周六放...【详细内容】
2024-04-19  Search:   点击:(4)  评论:(0)  加入收藏
Meta AI 全球市场扩张,并上线网页版 meta.ai
IT之家 4 月 19 日消息,Meta 公司近日宣布 Llama 3 大语言模型之外,扩展 Meta AI 服务到美国之外的 13 个国家和地区,还宣布上线专门的聊天网站:meta.ai。Meta 公司在新闻稿中表...【详细内容】
2024-04-19  Search:   点击:(2)  评论:(0)  加入收藏
重磅!Meta推出开源大模型Llama 3,性能直逼GPT-4
每经编辑:杜宇当地时间4月18日,AI 领域迎来重磅消息,Meta正式发布了人们等待已久的开源大模型Llama 3。与此同时,Meta首席执行官扎克伯格宣布:基于最新的Llama 3模型,Meta的AI助手...【详细内容】
2024-04-19  Search:   点击:(4)  评论:(0)  加入收藏
多地将禁止超标车上路,还可以选择骑行电摩,交警告诉你上牌流程
超标电动车由于不符合电动车的安全性能标准,存在着安全隐患,所以在过渡期结束以后,这种车辆将禁止上路行驶,接下来有多地将禁止超标电动车上路。广大车主除了选择电动自行车以外...【详细内容】
2024-04-19  Search:   点击:(3)  评论:(0)  加入收藏
喝完一瓶啤酒,多久才能开车?
首先,需要明确的是,酒驾是极其危险的行为,不仅危及自身安全,还可能威胁到他人生命。根据交通法规,当驾驶人血液中的酒精含量达到或超过20mg/100ml时,即被认定为酒驾,而超过80mg/100...【详细内容】
2024-04-19  Search:   点击:(2)  评论:(0)  加入收藏
古代富人都喜欢“扬州瘦马”,什么是“扬州瘦马”?说出来别不信
扬州的繁荣也催生了一些不道德的商机,其中之一就是“扬州瘦马”。这与其说是一个关于马的故事,不如说是一个关于封建社会对女性的摧残的故事。在中国古代,妇女地位低下,一些父母...【详细内容】
2024-04-19  Search:   点击:(4)  评论:(0)  加入收藏
夫妻一方可查询配偶财产状况,为何多地先后立法?
专家认为,这有助于保障妇女对婚姻财产的知情权。不过近年来实践发现,即便有地方出台类似规定,在现实的执行中仍会遭遇一些阻力,尤其是在查询房产和银行存款方面文|《财经》记者...【详细内容】
2024-04-19  Search:   点击:(3)  评论:(0)  加入收藏
“货币战争”开打?五大央行集体出动!
作者:暴哥来源:暴财经pro(ID:icaijing123)1997年东南亚金融危机重演?亚洲五大央行出手,绝不能让悲剧重来!1美元掀桌子,亚洲货币遭遇一场全面风暴!在《美元开始收割了!》一文中暴哥说过,...【详细内容】
2024-04-19  Search:   点击:(3)  评论:(0)  加入收藏
电影《变形金刚:起源》首支预告片发布:擎天柱、威震天还是好朋友
快科技4月19日消息,日前,1986年之后首部《变形金刚》动画电影《变形金刚:起源》发布首款预告片,影片暂定9月13日北美上映。该片将时间线拨回赛博坦时期,实现了观众一直以来期待的...【详细内容】
2024-04-19  Search:   点击:(2)  评论:(0)  加入收藏
▌简易百科推荐
20k级别前端是怎么使用LocalStorage的,想知道吗?
当咱们把咱们想缓存的东西,存在localStorage、sessionStorage中,在开发过程中,确实有利于咱们的开发,咱们想看的时候也是一目了然,点击Application就可以看到。前言大家好,我是林...【详细内容】
2024-03-26  前端之神  微信公众号  Tags:前端   点击:(14)  评论:(0)  加入收藏
前端不存在了?盲测64%的人更喜欢GPT-4V的设计,杨笛一等团队新作
3 月 9 日央视的一档节目上,百度创始人、董事长兼 CEO 李彦宏指出,以后不会存在「程序员」这种职业了,因为只要会说话,人人都会具备程序员的能力。「未来的编程语言只会剩下两种...【详细内容】
2024-03-11  机器之心Pro    Tags:前端   点击:(17)  评论:(0)  加入收藏
前端开始“锈化”?Vue团队开源JS打包工具:基于Rust、速度极快、尤雨溪主导
Vue 团队已正式开源Rolldown &mdash;&mdash; 基于 Rust 的 JavaScrip 打包工具。Rolldown 是使用 Rust 开发的 Rollup 替代品,它提供与 Rollup 兼容的应用程序接口和插件接口...【详细内容】
2024-03-09  OSC开源社区    Tags:Vue   点击:(23)  评论:(0)  加入收藏
两年前端经验还不会手写Promise?
什么是promise?当我们处理异步操作时,我们经常需要进行一系列的操作,如请求数据、处理数据、渲染UI等。在过去,这些操作通常通过回调函数来处理,但是回调函数嵌套过多会导致代码...【详细内容】
2024-03-07  海燕技术栈  微信公众号  Tags:Promise   点击:(31)  评论:(0)  加入收藏
网站开发中的前端和后端开发有什么区别
前端开发和后端开发都是干什么的?有哪些区别?通俗地讲,前端干的工作是用户可以直接看得见的,而后端开发的工作主要在服务端,用户不太能直接看到。虽然前端开发和后端开发的工作有...【详细内容】
2024-02-21  CarryData    Tags:前端   点击:(37)  评论:(0)  加入收藏
网站程序开发中的前后端分离技术
随着互联网的快速发展和技术的不断创新,传统的网站开发模式已经难以满足日益增长的业务需求。为了提高开发效率、增强系统的可维护性和可扩展性,前后端分离技术逐渐成为了网站...【详细内容】
2024-01-31  网站建设派迪星航    Tags:前后端分离   点击:(27)  评论:(0)  加入收藏
如何优雅的实现前端国际化?
JavaScript 中每个常见问题都有许多成熟的解决方案。当然,国际化 (i18n) 也不例外,有很多成熟的 JavaScript i18n 库可供选择,下面就来分享一些热门的前端国际化库!i18nexti18ne...【详细内容】
2024-01-17  前端充电宝  微信公众号  Tags:前端   点击:(78)  评论:(0)  加入收藏
Vue中Scope是怎么做样式隔离的?
scope样式隔离在 Vue 中,样式隔离是通过 scoped 特性实现的。当在一个组件的 <style> 标签上添加 scoped 特性时,Vue 会自动为这个样式块中的所有选择器添加一个唯一的属性,以...【详细内容】
2024-01-04  海燕技术栈  微信公众号  Tags:Vue   点击:(85)  评论:(0)  加入收藏
vue3中 ref和 reactive的区别 ?
最近有朋友在面试过程中经常被问到这么一个问题,vue3 中的ref 和 reactive的区别在哪里,为什么 要定义两个API 一个 api不能实现 响应式更新吗??带着这个疑问 ,我们 接下来进行逐...【详细内容】
2024-01-03  互联网高级架构师  今日头条  Tags:vue3   点击:(47)  评论:(0)  加入收藏
React18 与 Vue3 全方面对比
1. 编程风格 & 视图风格1.1 编程风格 React 语法少、难度大;Vue 语法多,难度小例如指令:Vue<input v-model="username"/><ul> <li v-for="(item,index) in list" :key="inde...【详细内容】
2024-01-03  爱做梦的程序员  今日头条  Tags:Vue3   点击:(78)  评论:(0)  加入收藏
相关文章
    无相关信息
站内最新
站内热门
站内头条