Sql进阶:字段中包含CSV,如何通过Sql解析CSV成多行多列?

Sql进阶

一、问题描述

Oracle数据库中某个字段value是CLOB类型,存的是csv格式的数据,如下所示

classno value
1 name,age,sex,... '李世民',20,'M',...' '李治',18,'M',... '武则天',16,'F',... '李隆基',14,'M',...
2 ...

需要把上述clob类型的csv字段用Sql的方式展开,如上述csv字段有四行三列,就需要把上述字段转成实际的四行三列,如下所示

classno name age sex ...
1 李世民 20 M
1 李治 18 M
1 武则天 16 F
1 李隆基 14 M
2 ... ... ...

二、解决思路

<一>、拆成多行

  • 按照换行符拆分一个个的列表,上述换行符是\n,按照\n进行拆分比较难写,考虑先把\n替换成其它符号,如分号
sql 复制代码
换行符在oracle中用chr(10)表示
select replace(value,chr(10),';') as value from table
  • 按照换行符进行拆分字符串
sql 复制代码
select to_char(regexp_substr(value,'[^;]+',1,level) as split_value
  from table
connect by level <= regexp_count(value,'[^;]+',1)
    and prior class_no = class_no
    and prior sys_guid() is not null

regexp_substr()函数为拆分字符串,若没有connect by语句,只是

sql 复制代码
select to_char(regexp_substr(value'[^;]+',1) as split_value
  from table

则不会循环进行拆分,只会拆分第一段,比如我那个例子,只会获取到

classno value
1 '李世民',20,'M'
2 ...

CONNECT BY是Oracle SQL中的一个子句,用于定义层次结构或递归关系,从而进行层次结构数据的查询。

LEVEL是Oracle SQL中的一个伪列,用于在层次结构或递归查询中获取当前行的级别。

REGEXP_COUNT 用于计算字符串中正则表达式匹配的次数

上述level <= regexp_count(value,'\^;+',1)就是递归停止的条件

prior条件指的是当前递归在哪个层级下运行,比如上述例子一个csv字段描述的是一个班级的事情,递归是在这个班级下运行,所以prior条件要加上prior class_no = classno,不然会造成数据重复

需要注意prior后接的条件需要能够限制某个递归层级,不然可能会造成数据不断的循环

若是有多个prior条件,可以

and prior col1 = col1

and prior col2 = col2

而不是

and prior col1 = col1 and col2 = col2

经过上述处理之后,得到的结果应该是

classno value
1 name,age,sex,...
1 '李世民',20,'M',...
1 ' '李治',18,'M',...
1 '武则天',16,'F',...
1 '李隆基',14,'M',
2 ...

已经拆成多行了,剩下的是拆成多列

<二>、拆成多列

  • 根据列的分隔符来拆分,以逗号为例
sql 复制代码
select regexp_substr(split_value,'[^,]+',1,1) as name,
       regexp_substr(split_value,'[^,]+',1,2) as age,
       regexp_substr(split_value,'[^,]+',1,3) as sex
   from table
  • 还是用regexp_substr函数来拆分,只不过不进行递归查询,

三、代码实现

sql 复制代码
with tmp as (
	select classno,replace(value,chr(10),';') as value
	  from table
),tmp1 as (
	select to_char(regexp_substr(value,'[^;]+',1,level)) as split_value,classno
	  from tmp
   connect by level <= regexp_count(value,'[^;]+',1)
	   and prior classno = classno
	   and prior sys_guid() is not null
),tmp2 as (
	select classno,
	       regexp_substr(value,'[^,]+',1,1) as name,
	       regexp_substr(value,'[^,]+',1,2) as age,
	       regexp_substr(value,'[^,]+',1,3) as sex
	  from tmp1
)
	select classno,
	       name,
	       age,
	       sex
	  from tmp2 
	 where name != 'name'
相关推荐
2601_952196361 小时前
计算机科学与技术专业应届生投商业分析岗,需要哪些额外能力?
数据库·oracle
皮皮学姐分享-ppx1 小时前
地级市、省级人才政策强度测算(2000-2025)
大数据·数据库·人工智能·百度·高考
晚安日记wanna1 小时前
大厂禁 JOIN 的真正原因,拆到第四层才清楚
数据库·后端·面试
java1234_小锋2 小时前
Redis 宣布正式接入 AI
数据库·人工智能·redis
这个DBA有点耶2 小时前
数据融合平台的下一代形态:数据库内核自己就能融合,为什么还要ETL?
数据库·架构·aigc
数据库小学妹2 小时前
MySQL大表怎么优化?2亿行表的分区归档与冷热分离实战
数据库·mysql·分库分表·分区表·数据库运维·冷热分离
91刘仁德2 小时前
RAG实战 - 向量数据库(Milvus)
数据库·milvus
资深技术分享员2 小时前
Geejing WebBuilder 日志、在线用户、系统监控,出问题时的三个第一现场
java·运维·数据库
煎饼皮皮侠2 小时前
设计一个Web版数据库管理平台(之六):SQL执行监听器 —— 日志、监控与审计
sql·数据库平台
我是小白呀3 小时前
n8n 实战:把 AcmeFlow 的 READY 事件接到 CRM 通知
数据库·人工智能·workflow