数据仓库

RestCloud19 小时前
数据仓库·mysql·etl·etlcloud·数据传输·etl工具
数据同步零中断:ETL服务宕机重启后异常任务自动重跑在数据驱动业务的大环境下,很多数据同步任务都属于长耗时作业,单次流程常常需要运行几十分钟,甚至长达数小时。在漫长的执行周期里,服务器重启、应用服务异常崩溃、网络波动等突发状况很难完全规避。
泡干脆面就番茄1 天前
大数据·数据仓库·hive·hadoop
Hive分区表与分桶表:大数据查询提速的第一把钥匙这是《Hive 从入门到实战》系列第 4 篇。本篇是面试 + 实战双料重点:分区表、分桶表,以及面试必考的"分区 vs 分桶"。
SelectDB技术团队2 天前
数据库·数据仓库·数据分析·湖仓一体·apache doris·lakehouse·多模湖仓
Apache Doris 基于 Lance 的向量检索深度解析导读:Apache Doris 5.0 多模湖仓预告(7)|技术解析篇:随着自动驾驶等多模态应用的发展,大规模数据查询需要同时满足向量检索、条件过滤和业务分析需求。Apache Doris 集成 Lance,支持直接查询 Lance 数据集,并通过并行检索、提前过滤、按需读列和缓存优化提升查询效率。本轮测试中,在 10 亿规模智能驾驶数据的四条件向量检索场景下,Doris + Lance 用时 2.32 秒,相比 Ray + pylance 提升约 10.87 倍。本文将介绍 Doris 与 Lance
泡干脆面就番茄2 天前
大数据·数据仓库·hive·hadoop
Hive-DML:Load-Insert-Export-Import四种数据进出方式Hive数据进出有四种方式:LOAD DATA(本地复制、HDFS剪切)用于批量加载文件;INSERT SELECT实现表间结果集迁移,支持追加或覆盖;INSERT VALUES可手动插入单行,但生产慎用;INSERT DIRECTORY将查询结果导出至本地或HDFS文件系统;EXPORT/IMPORT则支持整表连同元数据的跨集群迁移。其中,LOAD最高效,INSERT适用于加工逻辑,EXPORT/IMPORT适合表级迁移。核心原则:能用LOAD就不用INSERT,数据操作以文件和批量为主。
SelectDB技术团队2 天前
大数据·数据库·数据仓库·elasticsearch·全文检索·日志分析·apache doris
日志场景 Elasticsearch 替换实操:建表、索引、写入链路与查询改写的完整参数摘要:日志与可观测场景用 Apache Doris 替换 Elasticsearch,工程动作集中在建表模型、索引配置、写入攒批与查询改写四处。中信银行信用卡中心日志云平台从 ES 9 台 16c32G 降到 Doris 4 台 8c32G(CPU 约为原来的 1/4),磁盘占用下降 58%、写入峰值提升 32%、查询耗时下降 38%;网易灵犀办公 Eagle 日志检索平台存储从 100TB 降到 30TB;MiniMax 日志可观测中台日均数百 TB,P95 小于 3 秒、计算资源下降 40%、热数据存
省钱兄--zs3 天前
java·数据仓库·spring boot·小程序·架构
深圳24小时自助健身房软硬件解决方案实战指南与开发流程详解在当前智能健身和无人化运营趋势下,深圳作为科技与创新的前沿城市,越来越多的创业者和企业开始关注 24 小时自助健身房的建设。这类系统不仅需要满足用户全天候使用的需求,还需要在软硬件结合、数据安全、用户体验等方面实现高效整合。本文将围绕深圳 24 小时自助健身房软硬件解决方案展开,结合现有技术方案与开发流程,提供可参考的实践思路。
省钱兄--zs3 天前
java·数据仓库·spring boot·系统架构·需求分析
无人自助拼豆系统架构设计与功能实现落地部署全流程实战指南随着线下DIY娱乐场景的需求增长,无人自助拼豆作为轻资产、低人力成本的新业态,逐渐成为商业点位运营的热门选择。本文基于成熟的无人共享系统技术栈,从架构设计、功能实现、软硬件对接、落地部署四个维度,完整梳理无人自助拼豆系统的全流程实战方案,所有技术方案均经过线下场景验证,可直接复用落地。
棣廷3 天前
数据仓库·hive·hadoop
初识Hive(1)在上一篇博客中,我们学习了Hadoop的三大核心组件:HDFS、MapReduce和YARN。HDFS解决了数据存不下的问题,MapReduce解决了数据算不动的问题。
Francek Chen3 天前
大数据·数据仓库·hive·hadoop·数据分析
【大数据处理与分析】数据仓库Hive:07 Hive HA基本原理【作者主页】Francek Chen 【专栏介绍】 ⌈ ⌈ ⌈大数据技术原理与应用 ⌋ ⌋ ⌋专栏系统介绍大数据的相关知识,分为大数据基础篇、大数据存储与管理篇、大数据处理与分析篇、大数据应用篇。内容包含大数据概述、大数据处理架构Hadoop、分布式文件系统HDFS、分布式数据库HBase、NoSQL数据库、云数据库、MapReduce、Hadoop再探讨、数据仓库Hive、Spark、流计算、Flink、图计算、数据可视化,以及大数据在互联网领域、生物医学领域的应用和大数据的其他应用。 【GitCode
这个DBA有点耶3 天前
数据库·数据仓库·sql·database·dba·etl·数据库管理员
ELT工具选型:ETL与ELT差异、CDC同步机制与主流工具对比`大家好,我是小耶,写功课只是为了我踩过的坑,你们别再踩了!做数据集成的人,大概率经历过这种局面:业务要一份"实时交易 + 历史库存 + 设备传感器状态"的联合报表。你一看数据分布:交易数据在 MySQL,库存历史在数仓,传感器数据在时序库。于是开始搭 ETL 管道——从 MySQL 抽到数仓,从时序库同步到数仓,在数仓里做关联。管道搭完了,新的问题来了:同步延迟让报表永远慢几分钟,增量同步经常丢数据,运维三套数据库加一套 ETL 工具的成本远超预算。
省钱兄--zs3 天前
数据仓库·经验分享·spring boot·小程序·架构
碰碰好评卡系统开发实战指南 核心功能实现与部署落地全流程拆解碰碰好评卡是面向线下实体、线上电商场景的用户评价激励工具,核心业务链路为「消费完成→扫码核验→上传好评→权益发放」,可帮助商家提升公开平台好评率、沉淀私域用户、拉动复购。本文基于成熟的Java技术栈实战经验,从架构设计、功能实现、部署优化全流程拆解系统开发要点,所有方案均经过生产环境验证。
磁场转动100万匹3 天前
数据仓库·hive·hadoop
数仓分层到底在分什么:从 DWD 到 ADS,最后落到 ClickHouse上一篇我们解决了「数据怎么进来」——用 DataX 把业务库的刷卡主数据和用户信息表搬到了 Hive 的 ODS 层。
泡干脆面就番茄5 天前
大数据·数据仓库·hive·hadoop·架构
Hive入门:架构解析与安装部署实录本文介绍Hive作为基于Hadoop的数据仓库工具,通过类SQL(HQL)实现对HDFS结构化数据的分析。文章解析其架构:用户接口、元数据存储(Metastore)、驱动器(四步执行流程),并以“点菜-后厨”类比阐明其核心价值——降低大数据分析门槛。详细演示了在CentOS 7环境下部署Hive 3.1.3的六步流程,包括环境准备、配置文件设置、元数据库初始化及服务启动,并强调元数据存于MySQL、真实数据在HDFS的分离特性。最后通过建表查数验证功能,为后续实战打下基础。
APItesterCris5 天前
大数据·数据库·数据仓库·自动化
告别反复手工查价:用 Open‑Claw 搭建商品监控与数据分析小工具适用场景:竞品盯价、大促价格跟踪、库存异动监控、商品信息批量统计,Python 完整实战,可直接上手运行
Tongzhi20265 天前
大数据·数据结构·数据仓库·科技·数据库开发
2026 年考勤行业趋势:考勤正在从“打卡工具“变成“人力成本中枢“一句话结论:考勤这个赛道正在发生一次身份转变——从 HR 的一个小工具,变成企业管住一线人力成本的核心系统。 谁先完成这个转变,谁的成本就更有竞争力。
古法老登瞎折腾6 天前
数据仓库·hive·hadoop
Hive 源码导读(三):都是 SELECT,为什么有的查询不需要 YARN?上一篇,订单查询已经从 Beeline 到达了 Driver。我们先查了十条订单,结果很快返回;接着想知道当天已支付的订单一共多少钱,写了一条聚合 SQL。这次,日志里出现了 MR Job。
真上帝的左手8 天前
数据仓库·架构·数据分析·数据中台
27. 数据产品-数据中台架构规划大型集团数据中台整体架构规划旨在打破集团内部数据孤岛,实现全域数据的统一汇聚、治理、加工与赋能,支撑集团各业务板块的数字化转型与智能化创新。整体架构规划通常采用“五横一纵”的分层解耦与能力融合架构,结合集团“总部+基地”的复杂组织架构,实现“全域统一、敏捷高效、安全可控、智能赋能”的架构目标。
省钱兄--zs8 天前
java·数据仓库·spring boot·系统架构·需求分析
24小时自助健身房系统软件开发实战:从架构设计到部署全指南在数字化浪潮推动下,传统健身房正加速向24小时无人值守模式转型。对于想要开发一套稳定、可扩展的24小时自助健身房系统的技术团队而言,如何构建从硬件通讯到用户端的完整闭环,是首要挑战。本文基于多个无人自助系统(共享棋牌室、无人洗车、无人台球室)的实战开发经验,梳理出一套通用的技术选型与实现路径。
clorinda9 天前
数据仓库·hive·hadoop
Hive 窗口函数详解:让数据在分组中完成排名、累计和跨行计算在学习 Hive 时,我们经常会遇到这样的需求:1.计算每名学生的总成绩,同时保留每一科的成绩;2.查询每个班级成绩最高的前三名;
Sayai10 天前
大数据·运维·数据仓库·clickhouse·物化视图
ClickHouse WITH FILL 实战:监控大屏时间序列补零,附多粒度指标表与物化视图级联设计做过监控大屏或日志平台的同学,大概率画过"当日日志量趋势"这种折线图:ClickHouse 里 GROUP BY 时间桶一查,图是出来了,但折线七零八落——没有日志的分钟在结果集里直接缺失,前端要么断线,要么把前后两个点硬连起来,低峰期看起来像"跳变"。更麻烦的是环比、同比、移动平均这类计算:缺桶会让分母悄悄变小,算出来的比率根本没法看。