Spark SQL中时间戳条件约束与字符串判空

sql 复制代码
SELECT 
    -- 成员id
    distinct_id AS member_id, 
    -- 浏览时长
    get_json_object(all_json, '$.properties.event_duration') AS brow_duration,
    -- 浏览退出时间
    from_unixtime(CAST(get_json_object(all_json, '$.time') AS DOUBLE) / 1000) AS out_time,
    -- 内容编号
    regexp_extract(get_json_object(all_json, '$.properties.$url_query'), 'id=([^&]*)', 1) AS number
FROM {args['TABLE_NAME']} 
WHERE event = '$MPPageLeave' AND LENGTH(distinct_id)<30 
    AND get_json_object(all_json, '$.time') is not null 
    AND get_json_object(all_json, '$.properties.$url_query') is not null
    AND regexp_extract(get_json_object(all_json, '$.properties.$url_query'), 'id=([^&]*)', 1) is not null
    AND TRIM(regexp_extract(get_json_object(all_json, '$.properties.$url_query'), 'id=([^&]*)', 1)) != ''
    AND created_at >= unix_timestamp('2026-01-20 00:00:00')
    AND created_at < unix_timestamp('2026-01-21 00:00:00');

参考

相关推荐
淘矿人1 小时前
Claude辅助DevOps实践
java·大数据·运维·人工智能·算法·bug·devops
SeaTunnel2 小时前
AI 让 SeaTunnel 读源码和调试过时了吗?
大数据·数据库·人工智能·apache·seatunnel·数据同步
WL_Aurora3 小时前
MapReduce【Shuffle-Combiner】
大数据·mapreduce
Mortalbreeze3 小时前
深度理解文件系统 ---- 从磁盘存储到内核存储
大数据·linux·数据库
Bechamz4 小时前
大数据开发学习Day36
大数据·学习
C-20024 小时前
基于 JumpServer 容器化部署 ES 集群
大数据·elasticsearch·搜索引擎
captain_AIouo4 小时前
降本增效突围,Captain AI助力Ozon商家提升盈利空间
大数据·人工智能·经验分享·aigc
黎阳之光5 小时前
视听融合新范式!黎阳之光打破视觉边界,声影协同赋能全域智慧管控
大数据·人工智能·物联网·算法·数字孪生
iiiiyu5 小时前
集合进阶(Map集合)
java·大数据·开发语言·数据结构·编程语言
塔能物联运维6 小时前
存量机房降本增效:两相液冷技术解锁全生命周期成本优化密码
大数据·人工智能