数据湖

StarRocks_labs2 天前
starrocks·agent·数据湖·数据·paimon·mip
StarRocks + Paimon 多模态数据湖检索作者:周康,阿里云开源 OLAP 引擎团队负责人 ;StarRocks TSC Member企业里的数据正在变样。过去我们处理的主要是结构化的表格,如今图片、视频、文本、向量越来越多地进入数据平台。以智能驾驶为例,每辆测试车每天都在持续产生路面视频、传感器数据和运行记录,算法团队又在这些原始数据之上不断生成标签、特征和评测结果。
SelectDB技术团队10 天前
数据库·apache·数据湖·apache doris·数据库选型·多模湖仓
Apache Doris 的时间旅行与快照能力:边界、替代路径与可落地操作摘要:历史版本回溯在 Apache Doris 官方文档中分三条路径落地,其商业化公司 SelectDB 提供云上托管形态,但 Time Travel 能力在官方文档中标注为即将发布。其一,Iceberg、Hudi、Paimon、Lance 等外部湖表有官方 SQL 级 Time Travel 语法 FOR TIME AS OF 与 FOR VERSION AS OF;其二,误删对象走 RECOVER,默认保留 1 天,由 FE 参数 catalog_trash_expire_second 控制;其三,误
SelectDB技术团队16 天前
elasticsearch·日志·数据湖·apache doris·日志数据·数据库选型·多模湖仓
存算分离建表与 Storage Vault 配置全流程:日志集群从建库到弹性扩缩容的命令链摘要:面向日志与可观测场景,Apache Doris 自 3.0 起提供存算分离形态,数据统一写入对象存储,FE 与 Meta Service 管理元数据,BE 只承担计算并把本地磁盘当作缓存。本文按部署顺序给出可复制的命令链:fe.conf / be.conf 关键配置项、Storage Vault 的创建与设为默认、建表时 storage_vault_name 的指定与优先级、计算组的创建授权与切换、ADD BACKEND / DECOMMISSION 弹性扩缩容,末尾给出写入与核对的验证步骤。商业化
躺柒23 天前
数据仓库·架构·数据分析·数据湖·数据架构·关系数据库
读数据架构知识体系指南16数据网格(上)1.1. Zhamak Dehghani创造了数据网格(data mesh)一词1.1.1. 数据网格是一个概念,而不是一种技术
躺柒25 天前
大数据·数据仓库·数据分析·数据湖·数据编织
读数据架构知识体系指南14数据编织1.1. 数据编织是现代数据仓库构架(MDW)的进化1.2. 数据编织贯穿整个公司,累积了所有数据,将其提供给所有需要的人
躺柒1 个月前
大数据·数据分析·数据湖·mdm·rdm
读数据架构知识体系指南13现代数据仓库1.1. 每天,各个组织都必须梳理海量数据,以获取深刻见解、做出决策并推动业务增长1.2. 融合了关系数据仓库的结构化优势和数据湖的灵活性优势
俊哥大数据1 个月前
分布式·flink·kafka·数据湖·paimon
Flink1.20.3 实时消费 Kafka 数据并解析入湖 Paimon1.4.2 全流程实战场景:车联网 TBox 终端按国标 GB32960 协议上报报文,经网关接入 Kafka;Flink 以 Table API / SQL 直接将原始报文(Original)落湖 Paimon,形成 ODS 贴源层,供下游 Doris / Spark / Hive 查询与数仓分层加工。 本文基于生产实战整理,涵盖架构、建模、代码、配置、Checkpoint、打包、DolphinScheduler 调度、Savepoint 平滑启停全链路,可直接落地复用。
分布式存储与RustFS1 个月前
iceberg·数据湖·对象存储·minio·s3·rustfs·ai存储
对象存储正在吞掉数据湖:RustFS 1.0 GA 与 MinIO AIStor Tables 把 2026 风向说清楚过去十年,搞数据的团队基本是两套系统在并行跑。对象存储(S3 及兼容方案)放图片、日志、模型权重、备份这些非结构化 blob;另一边再养一套独立的元数据和表引擎(Hive Metastore、Delta Lake、Iceberg catalog)去管结构化的表。两套系统意味着两份权限、两份治理、两份账单,还要写一堆把对象路径和表元数据对齐的胶水管道。
躺柒1 个月前
数据仓库·架构·数据分析·spark·数据湖·关系数据库·企业数据仓库
读数据架构知识体系指南01关系数据仓库(上)1.1. 关系数据仓库(RDW)是一个集中存储和管理来自多个数据源的大量结构化数据的地方,用于生成历史和趋势分析报表,为公司的商业决策提供帮助
qingwufeiyang_5301 个月前
数据仓库·数据湖
IceBerg学习笔记2三范式目的:数据唯一+减少数据冗余事实表:包含维度+指标 (是一个高表、宽表)如何构建数仓?分层构建数仓-不同的层采用不同的构建方式
凤山老林2 个月前
数据湖·flink cdc
实战笔记:Spring Boot 结合 Flink CDC 与 Iceberg 落地实时数据湖最近带团队重构公司的数据底座,把以前那套“Canal + Kafka + Flink + Hive”的老古董换成了“Flink CDC + Iceberg”的实时数据湖。过程中踩了不少坑,也摸索出一些最佳实践。这篇文章不讲虚的,直接从一线开发的视角,聊聊怎么用 Spring Boot 做管控基座,把 Flink CDC 和 Iceberg 串起来,搞定流式 ETL、Schema 自动演进和 Exactly-Once。
SelectDB技术团队2 个月前
大数据·doris·数据湖·湖仓一体·lakehouse·湖仓分析·多模分析
Apache Doris 5.0 年度版本前瞻(一):构建统一的多模湖仓实时分析平台导读:本文主要介绍 Apache Doris 5.0 针对多模湖仓的核心演进:核心理念:统一检索走向开放湖仓,基于 Doris 构建统一的多模态数据分析平台。
迈巴赫车主3 个月前
大数据·数据仓库·数据湖·湖仓一体
湖仓一体(Data Lakehouse)简介湖仓一体是融合数据湖 + 数据仓库优势的新一代统一大数据架构,底层共用一套低成本对象存储,上层同时具备湖的灵活存储、仓的高性能治理与 SQL 分析能力,一套数据同时支撑实时计算、离线报表、BI 可视化、AI 建模,消除传统 “湖仓分离双架构” 的数据孤岛、重复存储、口径不一致痛点。
不吃天鹅肉5 个月前
大数据·数据湖
数据湖Delta Lake 初试在现有 Hive 3.x + Spark 3.x + YARN 的集群中,我们希望引入 Delta Lake 作为数据湖的事务存储层,以解决 Hive ACID 表与 Spark 之间的兼容性问题(尤其是 Spark 无法直接读取 Hive ACID 托管表)。要求:不影响现有 Hive 服务,无需重启 HDFS 或 YARN。
阿坤带你走近大数据5 个月前
flink·数据湖·paimon
Paimon相关概念的介绍Apache Paimon(原名 Flink Table Store)是专为 流批一体 设计的下一代数据湖存储格式。它不仅仅是一个文件格式,更是一个完整的 Streaming Data Lake Platform。
递归尽头是星辰5 个月前
数据湖·乐观锁·mvcc·分布式架构·多版本控制
不同架构层级下的多版本设计:从业务设计到微服务与大数据层多版本控制是分布式系统中用于解决并发冲突、数据一致性、服务兼容与变更可追溯的通用架构模式。本文以 MySQL InnoDB MVCC 为基础,按数据库内核、业务设计、微服务、大数据、运维发布五个层级展开,给出各层级多版本控制的实现机制、工程约束与选型依据,构建从原理到落地的完整技术体系。
XSKY星辰天合5 个月前
数据湖·对象存储·分布式存储
从“能存下”到“训得动”:XSKY XEOS 支撑头部 AI 实验室建设 EB 级数据湖大模型规模化训练正加速推动 AI 数据湖突破规模临界点,也让企业和科研机构陷入一个核心困境:数据湖“能存下”不难,“存得统一、用得高效”却愈发艰难。
hf2000126 个月前
大数据·spark·数据湖·湖仓一体·lakehouse
深入分析:Iceberg v3「删除向量(Deletion Vectors, DV)」如何缓解 CDC 场景写放大CDC(Change Data Capture)入湖常见形态是持续 UPDATE/DELETE/INSERT(尤其 Upsert)。在“不可变数据文件(Parquet/ORC)+ 表格式元数据”的体系里,写放大主要来自三层:
hf2000126 个月前
大数据·spark·数据湖·湖仓一体·lakehouse
Apache Iceberg vs Apache Paimon :数据湖表格式深度对比与选型指南在数据湖表格式的演进中,Apache Iceberg 和 Apache Paimon 走出了两条截然不同但又殊途同归的路线: