SQL,从每组中的 json 字段中提取唯一值

postgreySQL 库表的第 1 列是 ID,用于排序;第 2 列是分类;第 3 列类似 json(非标准 json), 并存在重复项。

|----|----------------|---------------------------------------------------------------------|
| id | component_type | component_names |
| 1 | INGESTION | {ingestiona,atul, ingestiona, ingestionb} |
| 2 | INGESTION | {test_s3_prerit, atul} |
| 3 | DQM | {testmigration} |
| 4 | SCRIPT | {scripta,scripta,scripta,testimportscript,testimportscript,b,c,c,x} |
| 5 | SCRIPT | {testimportscript, scripta,scripta,a,a,b,b,c} |
| 6 | SCRIPT | {Script_Python,scripta,x} |
| 7 | BUSINESS_RULES | {s3_testH_Graph} |
| 8 | EXPORT | {Export2} |

要求:用 Java 提取每组的唯一值,并使其位于原记录的原位置;或者说,按照原分组每条记录的顺序,自上而下依次删掉重复的项,唯一值保持原位。

|----------------|----------------------------------|
| component_type | component_names |
| INGESTION | {ingestiona,atul,ingestionb} |
| INGESTION | {test_s3_prerit} |
| DQM | {testmigration} |
| SCRIPT | {scripta,testimportscript,b,c,x} |
| SCRIPT | {a} |
| SCRIPT | {Script_Python} |
| BUSINESS_RULES | {s3_testH_Graph} |
| EXPORT | {Export2} |

编写SPL代码

|---|--------------------------------------------------------------------------------|
| | A  |
| 1 | =post1.query("select component_type,component_names from tb order by id") |
| 2 | =A1.run(#2=mid(#2,2,len(#2)-2).split@tc() ) |
| 3 | =A2.group@u(#1).(~.run( #2=(#2[-1]|#2).id@u() ).rvs().run(#2=#2\#2[1])) |
| 4 | return A1.run(#2="{"+#2.concat@c()+"}") |

A1:通过JDBC查询数据库。

A2:将每条记录的第 2 个字段拆分为多项。

A3:按第 1 列分组并保持原序,然后处理每组数据:按记录顺序累积各项,并去除重复;颠倒记录顺序;用本记录的累积结果和下条记录的累积结果求差集。

A4:恢复原字符串格式,并返回结果。

Java 集成 SPL 可参考 Java 如何调用 SPL 脚本

SPL开源地址

相关推荐
studyForMokey1 分钟前
【Kotlin内联函数】
android·开发语言·kotlin
小虚竹6 分钟前
Rust日志系统完全指南:从log门面库到env_logger实战
开发语言·后端·rust
星释6 分钟前
Rust 练习册 8:链表实现与所有权管理
开发语言·链表·rust
今日说"法"8 分钟前
Rust 日志级别与结构化日志:从调试到生产的日志策略
开发语言·后端·rust
-大头.9 分钟前
Rust并发编程实战技巧
开发语言·后端·rust
老衲提灯找美女12 分钟前
MySQL数据库基础操作:
数据库·mysql·oracle
轻舟客丶15 分钟前
ORA-03113的解决方案
数据库·经验分享·笔记·oracle
ヾChen19 分钟前
头歌MySQL——复杂查询
数据库·物联网·学习·mysql·头歌
Yurko1324 分钟前
【C语言】选择结构和循环结构的进阶
c语言·开发语言·学习
小白学大数据32 分钟前
构建1688店铺商品数据集:Python爬虫数据采集与格式化实践
开发语言·爬虫·python