一、场景案例
在数据开发类项目中,常常会遇到需要将字符串进行切割并展开成表格的场景,如以下两种常见的案例:
-
标签类型数据:如将员工标签类型的数据
- 技能:Java、Spring、微服务、项目管理 - 项目经验:电商、金融、教育 - 工作风格:#执行力强 #跨部门协作 #数据驱动 -
分类层级数据:如将组织部门层级数据:"/集团/分公司/信息技术部/数据团队"
除此之外,在一些特定的业务场景中,如证券场景中,需要将一笔回购合约涉及到的多个质押券进行拆分(提取每个质押券有质押数量及对应标准券转换比例),数据示例如下:
另外,API请求的返回的数据多为半结构化的字典列表数据,需要将每行数据从列表中进行提取出来再进行后续的处理,如以下数据:
{"data": [
{"AMOUNT":-9000,"SUB_TYPE_NAME":"债券分销","BRANCH_NAME":"银行间","TYPE_NAME":"收入","BUSI_DATE":"20250831","PROJECT_NAME":"调整1月分销佣金-24****MTN001"},
{"AMOUNT":-1075.61,"SUB_TYPE_NAME":"债券分销","BRANCH_NAME":"银行间","TYPE_NAME":"收入","BUSI_DATE":"20250531","PROJECT_NAME":"调整计提1月及3月分销佣金"}
],
"success":true
}
二,各类主流SQL方言实现方法
针对这类场景,目前没有标准SQL函数支持实现该功能。各类SQL方言通过自定义方法进行支持,以下是常用的实现方法。
Spark/Hive SQL
采用split + explode(及升级版posexplode)。以下为测试案例:
利用该方法可以轻松的回购质押券进行拆分处理:
PostgreSQL
有两种方法:
方法一:首先利用string_to_array将字符串切割成数组,然后利用unnest将数组扩展成表
方法二:直接利用regexp_split_to_table将字符串切割并转换成表
select string_to_array('apple,banana,orange', ',') as item;
select string_to_array('apple|banana|orange', '|') as item;
select unnest(string_to_array('apple,banana,orange', ',')) as item;
select regexp_split_to_array('apple|banana|orange', '\|') as item;
select regexp_split_to_table('apple|banana|orange', '\|') as item;
View Code
Oracle
利用connect by + Level来实现
WITH CTE_DATA AS (
SELECT 'tom' AS NAME, 'apple,banana,cherry' AS FRUIT FROM DUAL
)
SELECT NAME, REGEXP_SUBSTR(FRUIT, '[^,]+', 1, LEVEL) AS FRUIT
FROM CTE_DATA
CONNECT BY REGEXP_SUBSTR(FRUIT, '[^,]+', 1, LEVEL) IS NOT NULL
;
View Code
MySQL
5.x+版本只能使用数字辅助表+SUBSTRING_INDEX。
CREATE TABLE IF NOT EXISTS numbers (n INT PRIMARY KEY);
INSERT INTO numbers
SELECT a.N + b.N * 10 + c.N * 100 + 1 AS n
FROM (SELECT 0 AS N UNION SELECT 1 UNION SELECT 2 UNION SELECT 3 UNION SELECT 4 UNION SELECT 5 UNION SELECT 6 UNION SELECT 7 UNION SELECT 8 UNION SELECT 9) a
CROSS JOIN (SELECT 0 AS N UNION SELECT 1 UNION SELECT 2 UNION SELECT 3 UNION SELECT 4 UNION SELECT 5 UNION SELECT 6 UNION SELECT 7 UNION SELECT 8 UNION SELECT 9) b
CROSS JOIN (SELECT 0 AS N UNION SELECT 1 UNION SELECT 2 UNION SELECT 3 UNION SELECT 4 UNION SELECT 5 UNION SELECT 6 UNION SELECT 7 UNION SELECT 8 UNION SELECT 9) c;
-- 使用数字表分割
SELECT
SUBSTRING_INDEX(
SUBSTRING_INDEX('a,b,c,d', ',', numbers.n),
',',
-1
) AS part
FROM numbers
WHERE numbers.n <= LENGTH('a,b,c,d') - LENGTH(REPLACE('a,b,c,d', ',', '')) + 1;
View Code
8.0+版本可使用json_table
SELECT
o.order_id,
j.product_id
FROM orders o
JOIN JSON_TABLE(
CONCAT('["', REPLACE(o.product_ids, ',', '","'), '"]'),
'$[*]' COLUMNS (product_id INT PATH '$')
) AS j;
SQL Server
早期版本无内置函数,只能通过自定义表值函数(TVF)或者XML方法
CREATE FUNCTION dbo.SplitString
(
@String NVARCHAR(MAX),
@Delimiter CHAR(1)
)
RETURNS @Results TABLE
(
ID INT IDENTITY(1,1),
Value NVARCHAR(MAX)
)
AS
BEGIN
DECLARE @pos INT = 0
DECLARE @slice NVARCHAR(MAX)
IF RIGHT(@String, 1) != @Delimiter
SET @String = @String + @Delimiter
WHILE CHARINDEX(@Delimiter, @String) > 0
BEGIN
SET @pos = CHARINDEX(@Delimiter, @String)
SET @slice = LEFT(@String, @pos - 1)
INSERT INTO @Results (Value) VALUES (@slice)
SET @String = STUFF(@String, 1, @pos, '')
END
RETURN
END
-- 使用示例
SELECT * FROM dbo.SplitString('张三,李四,王五', ',')
View Code
DECLARE @str NVARCHAR(100) = '苹果|香蕉|橙子';
DECLARE @separator CHAR(1) = '|';
SELECT
LTRIM(RTRIM(m.n.value('.[1]', 'NVARCHAR(100)'))) AS SplitValue
FROM
(SELECT CAST('<x>' + REPLACE(@str, @separator, '</x><x>') + '</x>' AS XML)) AS t(x)
CROSS APPLY
x.nodes('/x') AS m(n);
View Code
2016之后的版本可使用原生方法STRING_SPLIT
--带序号的版本(SQL Server 2022+)
SELECT value, ordinal
FROM STRING_SPLIT('a,b,c', ',', 1) -- 第三个参数启用序号
三、结论
Spark SQL、PostgreSQL最方便,思路也比较相似,都是先将字符串拆分数组,然后扩展成表。SQLServer新版本实现较为方法,直接一个函数搞定。Oracle利用其connect by来实现,也相对便捷,只是相对主流SQL方言比较小众一点。Mysql新版本相对方便一点,老版本需要辅助表增加维护成本。
四、参考链接
https://www.kimi.com/share/19bd8855-80d2-8885-8000-00003449be16
https://www.kimi.com/share/19bd8885-e842-8472-8000-000042aa28d0
https://chat.deepseek.com/share/h9bv2i75c90jcfz3uo
http://blog.itpub.net/16436858/viewspace-624191/