分享

协助报表开发之 MongoDB join mysql

 raqsoft 2020-04-08

       处理多样性数据源是报表开发的常见问题,而常见的 JasperReport 等报表工具本身却难以应付,比如展现MongoDB和mysql的混合运算。虽然JasperReport/Birt有virtual data source或table join等功能,但这些功能只在商业版或高端版本出现,在免费版中实现难度很大。而且功能也有较大局限,对连接后的数据无法进行类似SQL的结构化计算。

       集算器 SPL 语言面向结构化处理的强计算引擎,支持多样性数据源,集成简单,可以协助不同报表工具方便地实现此类需求,下面用例子说明

       emp是MongoDB的集合,cities是 mysql的table,emp中的字段CityID逻辑上相当于外键,指向cities的CityID字段,cities有CityID和CityName这两个字段。现在需要按时间段查询出emp中的员工,并将CityID显示为CityName。部分源数据如下:

Collection emp

EIDDeptCityIDNameGenderSalaryBirthday
10R&D199RyanM130001976-03-12
100Sales
JacobM50001978-02-12
101Sales56MichaelM65001984-03-29
102Sales46ChristianM120001972-07-25
103Marketing34MadisonF50001976-07-11
104Marketing6SarahF80001982-11-17
105Marketing4TylerM65001978-04-08
106Marketing6EmilyF70001975-12-05
107Marketing2MadisonF50001981-09-29

table cities

CityIDCityNamePopulationStateId
1New York808431632
2Los Angeles37989815
3Chicago288625113
4Houston200983443
5Philadelphia149223138
6Phoenix13719603
7San Diego12595325

   使用集算器SPL的代码如下:


A
1=mongo_open("mongodb://localhost:27017/test?user=test&password=test")
2

=mongo_shell(A1,"emp.find({'$and':[{'Birthday':{'$gte':'"+string(begin)+"'}},{'Birthday':{'$lte':'"

+string(end)+"'}}]},{_id:0})").fetch()

3=mongo_close(A1)
4=myDB1.query("select * from   cities")
5=A2.switch(CityID,A4: CityID)
6=A5.new(EID,Dept,CityID.CityName:CityName,Name,Gender)
7result A6

       A1: 连接 MongoDB,连接字格式为 mongo://ip:port/db?arg=value&…

       A2: 使用find函数从集合emp中查询出某时间段的记录,取出 _id 之外的所有字段,形成游标。其中查询条件中的 begin 和 end 是来自报表的外部参数,分别表示Birthday的起始时间和终止时间。SPL游标能够分批读取和处理数据,可以避免数据量过大,以防内存溢出因为数据量不大,所以这里可以直接 fetch 出游标的所有记录,结果如下:

a_100png

       A3: 关闭 MongoDB。

       A4: 执行SQL查询,从mysql数据源取数。其中myDB1是数据源名称,配置界面如下:

a_101png

可以看到,这里的数据源使用的就是JDBC 连接,可支持任意数据库。JDBC 数据源可以自动连接/ 关闭,也可以像MongoDB 那样手工连接/ 关闭,这里采用前者。

函数query使用SQL语句进行检索查询,结果如下:

a_102png

       A5: 将A2中的CityID字段替换成A4中对应的记录,其效果类似于左连接。替换后的A2如下(A2与A5指向同一个二维表):

a_103png

点击CityID中蓝色的超链接,可以看到对应的记录:

a_104png

有时需要进行内连接,则应当在函数swtich中使用选项@i,代码即:A2.switch@i(CityID,A4),结果将会如下:

a_105png

       A6:  从连接的结果中取出需要的字段,并用函数new组成二维表。其中CityID.CityName:CityName表示从A5取出CityID字段对应的记录中的CityName字段,并重命名为CityName(报表工具无法识别CityID.CityName这样的字段名)。

从上述代码可以看出,用switch替换字段后,表之间的关联关系就可以用对象的方式来访问,这种方式直观简单,进行多表多层关联时会体现得更明显。计算结果如下:

a_106png

到此为止,报表所需要的数据都计算出来了。
A7: 将 A6 中的二维表返回报表工具。

SPL对外提供JDBC接口,报表工具会将SPL识别为普通数据库,集成方案请参考相关文档。
接下来以JasperReport为例设计报表,表样如下:

a_107png

       需要定义两个报表参数Pbegin、Pend,分别对应SPL中的两个参数。预览后可以看到报表结果:

a_108png

       报表调用SPL的方法和调用存储过程一样,此例中可以将本脚本保存为mongodbJoin2.dfx,在JasperReport的SQL设计器中可以用mongodbJoin2 $P{pbegin},$P{pend}来调用。

       简言之,SPL 从 MongoDB 获取集合数据,从 Mysql 查询表记录后,将它们通过 switch 函数进行替换字段,再通过函数 new 按需求将数据组成序表,供其它的报表工具展示。通过 SPL 对多样性数据源支持,按需要进行数据合并,这样简化了对 MongoDB 数据的操作,有利于与其它报表工具的方便集成。

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多