TDengine 数据模型设计:多列模式与单列模式对比(一)

一、引言

在当今数字化时代,随着物联网、工业互联网等技术的迅猛发展,时序数据的规模呈爆炸式增长。如何高效地存储、管理和分析这些时序数据,成为了众多企业和开发者面临的重要挑战。TDengine 作为一款高性能的开源时序数据库,凭借其独特的设计理念和卓越的性能表现,在时序数据处理领域崭露头角,受到了广泛的关注和应用。

在使用 TDengine 进行数据建模时,多列模式与单列模式是两种常见的选择。这两种模式在数据存储、查询效率、应用场景等方面存在着诸多差异,选择合适的模式对于充分发挥 TDengine 的优势、提升系统性能至关重要。本文将深入探讨 TDengine 中多列模式与单列模式的特点、适用场景,并通过实际案例进行对比分析,帮助读者更好地理解和选择适合自己业务需求的数据模型。

二、TDengine 基础概念速览

2.1 TDengine 简介

TDengine 是一款由涛思数据自主研发的开源、高性能、云原生时序数据库(Time Series Database, TSDB) ,专为物联网、车联网、工业互联网、金融、IT 运维等场景优化设计。它定义了创新的数据存储结构,单核每秒就能处理至少 2 万次请求,插入数百万个数据点,读出一千万以上数据点,比现有通用数据库快了十倍以上。凭借其卓越的性能和丰富的功能,在时序数据处理领域脱颖而出。

TDengine 具有高效处理时序数据的能力,能够轻松应对海量数据的存储和查询需求。它采用了独特的存储引擎和索引结构,使得数据写入和查询速度极快。同时,TDengine 还具备强大的水平扩展能力,能够根据业务需求灵活扩展集群规模,满足不断增长的数据处理需求。

此外,TDengine 还集成了多种实用功能,如缓存、流式计算、数据订阅等。这些功能的集成,使得 TDengine 成为了一个全栈时序数据处理引擎,应用无需再集成 Kafka、Redis、HBase、Spark、HDFS 等软件,大幅降低了应用开发和维护的复杂度成本。

2.2 关键概念解读

在深入探讨多列模式与单列模式之前,我们先来了解一下 TDengine 中的几个关键概念,这些概念对于理解 TDengine 的数据模型和工作原理至关重要。

  • 超级表(Super Table,STable):超级表是指某一特定类型的数据采集点的集合,它是一种抽象的表结构,用于定义一组具有相同数据结构的子表的模板 。超级表本身并不存储实际数据,而是定义了子表的列结构和标签(Tags)。例如,在一个智能电网监测系统中,可以创建一个名为 "electric_meters" 的超级表,用于表示所有电表的数据采集点。超级表的存在,使得对大量同类数据采集点的管理和操作变得更加方便和高效。
  • 子表(Subtable):子表是从超级表派生出来的具体表,它继承了超级表的列结构,并具有自己的标签值 。每个子表对应一个具体的数据采集点,用于存储该采集点的时序数据。例如,"electric_meters" 超级表下可以有多个子表,如 "meter_001"、"meter_002" 等,分别表示不同的电表。子表与超级表的关系就如同实例与类的关系,子表是超级表的具体实例,它们共享相同的列结构,但具有不同的标签值,这些标签值可以用来区分不同的子表。
  • 标签(Tags):标签是指传感器、设备或其他类型采集点的静态属性,不是随时间变化的 。比如设备 ID、设备型号、设备所在地等。标签的数据类型可以是整数、浮点数、字符串、JSON 等。在 TDengine 中,标签用于对数据进行分组和过滤,通过标签可以快速定位和查询到所需的数据。例如,在查询某个地区的所有电表数据时,可以通过 "location" 标签进行过滤,只查询该地区的电表数据,从而提高查询效率。
  • 采集量(Metrics):采集量是指传感器、设备或其他类型采集点采集的物理量,比如电流、电压、温度、压力、GPS 位置等,是随时间变化的参数 。采集量是 TDengine 中存储的主要数据,它们按照时间顺序进行存储,每个采集量都有一个对应的时间戳,用于记录数据的采集时间。例如,电表采集的电流、电压数据,温度传感器采集的温度数据等,都是采集量的具体例子。

三、多列模式深度剖析

3.1 模式定义与结构

多列模式是指在 TDengine 的表结构设计中,将一个数据采集点在同一时刻采集的多个物理量作为不同的列存储在同一张表中 。每个表都有一个时间戳列(TIMESTAMP),用于记录数据的采集时间,这是 TDengine 的核心设计之一,确保了数据的时序性。其他列则为各种采集量,如电流、电压、温度等,这些采集量的数据类型可以是整型、浮点型、字符串型等,具体取决于实际的业务需求。同时,表中还可以定义标签列(TAGS),用于存储设备的静态属性,如设备 ID、设备型号、设备所在地等。

以智能电表为例,假设我们需要采集电表的电流、电压、功率等数据,同时记录电表的位置和所属区域等信息。在多列模式下,我们可以创建如下的超级表:

复制代码

CREATE STABLE meters (

ts TIMESTAMP,

current FLOAT,

voltage INT,

power FLOAT,

phase FLOAT

) TAGS (

location BINARY(64),

area INT

);

在这个超级表中,ts是时间戳列,用于记录数据的采集时间;current、voltage、power和phase是采集量列,分别表示电流、电压、功率和相位;location和area是标签列,分别表示电表的位置和所属区域。通过这种方式,我们可以将一个电表在同一时刻采集的多个数据存储在同一张表中,方便进行数据的管理和查询。

3.2 写入与存储机制

在多列模式下,TDengine 利用其独特的无锁写入和追加操作机制,实现了高效的数据写入。由于每个数据采集点的数据写入是完全独立的,不存在并发冲突的问题,因此 TDengine 可以采用无锁方式进行写入,大大提高了写入速度 。同时,数据按照时间顺序进行追加写入,避免了数据的随机写入,进一步提升了写入性能。

在存储方面,TDengine 采用了列式存储的方式,将同一列的数据存储在一起。这种存储方式使得 TDengine 在读取数据时,只需要读取需要的列,而不需要读取整行数据,从而减少了 I/O 操作,提高了查询效率。此外,TDengine 还针对不同的数据类型采用了不同的压缩算法,如对于整型数据采用 Delta 编码压缩,对于浮点型数据采用专用的浮点压缩算法等,有效地减少了数据的存储空间占用。

3.3 查询性能表现

多列模式在查询性能方面具有显著的优势。TDengine 通过标签过滤机制,可以快速定位到满足条件的表,然后再扫描这些表的时序数据进行聚合操作,大大减少了需要扫描的数据集,从而提高了查询效率。例如,在查询某个区域内所有电表的平均功率时,可以通过area标签进行过滤,只查询该区域内的电表数据,而不需要扫描整个数据库。

同时,由于数据是以块为单位连续存储的,当查询一个时间段的数据时,TDengine 可以利用数据块的连续性,减少随机读取操作,进一步提高查询速度。此外,TDengine 还支持 SQL 查询语言,用户可以使用熟悉的 SQL 语法进行数据查询,方便快捷。

3.4 适用场景分析

多列模式适用于多种场景,尤其是在物联网、工业自动化、智能电网等领域具有广泛的应用。在这些场景中,设备通常会同时采集多个物理量,且这些物理量之间具有较强的关联性,需要同时进行分析和处理。例如:

  • 智能电网:在智能电网中,电表需要实时采集电流、电压、功率等数据,这些数据需要同时进行分析,以监测电网的运行状态、预测电力需求等。多列模式可以将这些数据存储在同一张表中,方便进行数据分析和处理。
  • 工业自动化:在工业自动化生产线上,传感器会同时采集温度、压力、流量等数据,这些数据对于生产过程的监控和优化至关重要。多列模式可以有效地存储和管理这些数据,为工业自动化生产提供有力支持。
  • 环境监测:在环境监测领域,监测设备会同时采集空气质量、水质、噪声等数据,这些数据需要综合分析,以评估环境质量。多列模式可以将这些数据整合在一起,便于进行环境监测和分析。

四、单列模式全面解析

4.1 模式定义与结构

单列模式是指在 TDengine 的表结构设计中,将每个数据采集点采集的每个物理量分别存储在独立的表中,每个表只包含一个采集量列以及时间戳列和标签列 。这种模式下,每个物理量都有自己独立的超级表,每个超级表下再根据不同的数据采集点创建子表。

仍以环境监测系统为例,假设我们需要采集温度、湿度、气压等数据,同时记录监测设备的位置和编号等信息。在单列模式下,我们需要为每个物理量创建一个超级表,如下所示:

复制代码

-- 温度超级表

CREATE STABLE temperature (

ts TIMESTAMP,

value FLOAT

) TAGS (

location BINARY(64),

device_id INT

);

-- 湿度超级表

CREATE STABLE humidity (

ts TIMESTAMP,

value FLOAT

) TAGS (

location BINARY(64),

device_id INT

);

-- 气压超级表

CREATE STABLE pressure (

ts TIMESTAMP,

value FLOAT

) TAGS (

location BINARY(64),

device_id INT

);

在上述代码中,分别创建了temperature、humidity和pressure三个超级表,每个超级表都包含一个时间戳列ts和一个采集量列value,以及标签列location和device_id。通过这种方式,将不同的物理量分别存储在不同的表中,使得数据结构更加清晰和灵活。

4.2 写入与存储机制

在单列模式下,写入机制与多列模式类似,每个子表只有一个写入者,采用无锁方式和追加操作,确保了高效的数据写入 。由于每个表只存储一个采集量,写入时的数据量相对较小,写入操作更加简单和快速。

在存储方面,单列模式同样采用列式存储,将同一列的数据存储在一起,以提高查询效率。但是,由于每个物理量都单独存储在一个表中,表的数量会显著增加,这可能会对存储管理和元数据维护带来一定的挑战。此外,单列模式下的数据压缩率可能会相对较低,因为每个表中的数据量相对较少,压缩算法的效果可能不如多列模式。

4.3 查询性能表现

单列模式在查询性能方面具有一定的特点。由于每个表只存储一个采集量,当查询某个特定物理量的数据时,查询操作只需要扫描对应的表,无需扫描其他无关列的数据,从而减少了数据扫描的范围,提高了查询速度 。特别是在查询单个物理量的时间序列数据时,单列模式的查询性能优势明显。

然而,当需要同时查询多个物理量的数据时,由于这些物理量存储在不同的表中,需要进行多表关联查询,这可能会增加查询的复杂度和执行时间。此外,随着数据量的增大和表数量的增多,元数据管理和查询优化的难度也会相应增加,可能会对查询性能产生一定的影响。

4.4 适用场景分析

单列模式适用于一些特定的场景,主要包括以下几个方面:

  • 互联网业务监控:在互联网业务中,通常需要对各种业务指标进行实时监控,如用户行为数据、系统性能指标等。这些指标的数据结构和采集频率可能各不相同,采用单列模式可以更加灵活地管理和存储这些数据,方便进行实时查询和分析。
  • 科研实验数据采集:在科研实验中,实验数据的采集往往具有多样性和灵活性,不同的实验参数可能需要独立存储和分析。单列模式能够满足这种需求,使得科研人员可以根据实验需求自由地创建和管理数据表格,方便进行数据处理和科研分析。
  • 设备状态监测:在设备状态监测场景中,对于一些关键设备,可能需要对其多个不同的状态参数进行实时监测,如温度、振动、压力等。这些参数的变化规律和监测需求可能不同,采用单列模式可以将每个参数的数据单独存储,便于进行针对性的分析和预警。
相关推荐
StarRocks_labs4 小时前
从InfluxDB到StarRocks:Grab实现Spark监控平台10倍性能提升
大数据·数据库·starrocks·分布式·spark·iris·物化视图
若兰幽竹5 小时前
【Spark分析HBase数据】Spark读取并分析HBase数据
大数据·spark·hbase
R²AIN SUITE6 小时前
金融合规革命:R²AIN SUITE 如何重塑银行业务智能
大数据·人工智能
绿算技术7 小时前
“强强联手,智启未来”凯创未来与绿算技术共筑高端智能家居及智能照明领域新生态
大数据·人工智能·智能家居
只因只因爆8 小时前
spark的缓存
大数据·缓存·spark
Leo.yuan8 小时前
3D 数据可视化系统是什么?具体应用在哪方面?
大数据·数据库·3d·信息可视化·数据分析
只因只因爆9 小时前
spark小任务
大数据·分布式·spark
cainiao0806059 小时前
Java 大视界——Java 大数据在智慧交通智能停车诱导系统中的数据融合与实时更新
java·大数据·开发语言
End92812 小时前
Spark之搭建Yarn模式
大数据·分布式·spark
我爱写代码?12 小时前
Spark 集群配置、启动与监控指南
大数据·开发语言·jvm·spark·mapreduce