【Apache Doris】周FAQ集锦:第 26 期

SQL问题

Q1 doris 3.0存算分离模式下,建表的时是否需要指定表的副本数

不需要,指定了也会忽略;存算分离模式下,数据副本由远端存储去管控。

Q2 doris 通过dbeaver查询时报错:[SXXXX]...

doris的错误码通常都是EXXXX,不是SXXXX。该异常可能是dbeaver客户端的异常导致。

Q3 Mysql Catalog查询报:

ERROR 1105 (HY000): errCode = 2, detailMessage = (10.16.10.6)[INTERNAL_ERROR]UdfRuntimeException: get next block failed: 
CAUSED BY: SQLException: Zero date value prohibited
CAUSED BY: DataReadException: Zero date value prohibited

如下:

这是因为 JDBC 中对于该非法的 DATE/DATETIME 默认处理为抛出异常,可以通过参数 zeroDateTimeBehavior控制该行为。

可选参数为: exception,convertToNull,round,

分别为:异常报错,转为NULL值,转为 "0001-01-01 00:00:00";

需要在创建 Catalog 的 jdbc_url 把JDBC连接串最后增加 zeroDateTimeBehavior=convertToNull ,

如 "jdbc_url" = "jdbc:mysql://127.0.0.1:3306/test?zeroDateTimeBehavior=convertToNull"

这种情况下,JDBC 会把 0000-00-00 或者 0000-00-00 00:00:00 转换成 null,

然后 Doris 会把当前 Catalog 的所有 Date/DateTime 类型的列按照可空类型处理,这样就可以正常读取了。

Mysql Catalog内容可查阅:
https://doris.apache.org/zh-CN/docs/dev/lakehouse/database/mysql

数据操作问题

Q4 doris能否在一级分区中用date二级分区用varchar

当前doris还不支持二级分区,只有一级分区,二级分桶。

Q5 doris 2.1.3版本后hive catalog回写hive时报:

External catalog 'hive_ctl' is not allowed in 'NativeInsertStmt'

通常是新优化器没开导致,正常打开就可以正常写入了。

hive数据湖内容可查询:
https://doris.apache.org/zh-CN/docs/dev/lakehouse/datalake-building/hive-build

Q6 doris能否基于物化视图创建新的物化视图

能。从 Doris 2.1.3 版本开始支持。

但是,在刷新数据时,每个物化视图都是采用单独的刷新逻辑。例如,如果 mv2 是基于 mv1 创建的,而 mv1 又是基于 t1 创建的,那么在刷新 mv2 时,不会考虑 mv1 与 t1 之间的数据是否同步。

Q7 doris能否基于外表构建物化视图

doris 支持的所有外表都能用于创建物化视图,但是目前仅有 Hive 支持分区刷新,后续会陆续支持其他类型。

运维常见问题

doris 3.X版本是否支持ARM体系架构

A8 完全支持。doris 3.x 已经完美支持ARM 了。

Q9 doris如何找出compaction score异常高的tablet?

如下:

配置和数额成正比

# 通过permits的关键词检索分析
grep "permits" be/log/be.INFO | tail -n 100

# 通过compaction_score api查询
curl http://be_ip:be_host/api/compaction_score?top_n=10

其它问题

Q10 峰会快讯:Doris Summit Asia 2024 实况如何?

A10 2024 年 12 月 14 日,由飞轮科技主办,腾讯云和阿里云联合主办的 Doris Summit Asia 2024 在深圳圆满落幕。活动当天,人潮涌动,会场弥漫着浓厚的技术气息。此次峰会吸引了众多大数据及数据库领域技术专家及开源爱好者的关注,现场参会者超过 500 名,线上直播吸引了数万名观众,共同见证了这场数据处理及分析领域技术盛宴。

本届峰会设有主会场以及智慧金融、泛互联网、政企与智造、SelectDB 产品专场 4 大平行论坛,设计 Keynote Speech、Regular Speech 及 Short Speech 三种演讲形式。来自金融、证券、互联网、零售、电商、物流、能源、制造、通信、企业服务等十余行业的 40+ 技术专家纷纷登台,带来精彩演讲,并与现场观众进行互动、答疑与交流,技术氛围十分浓厚。

Doris Summit Asia 2024内容可查阅:Doris Summit Asia 2024 在深圳圆满落幕:现场参会者超过 500 名,线上直播吸引了数万名观众

相关推荐
core51234 分钟前
flink sink doris
大数据·mysql·flink·doris·存储·sink·过程正常
出发行进2 小时前
Hive其四,Hive的数据导出,案例展示,表类型介绍
数据仓库·hive·hadoop
_oP_i3 小时前
Pinpoint 是一个开源的分布式追踪系统
java·分布式·开源
武子康3 小时前
大数据-258 离线数仓 - Griffin架构 配置安装 Livy 架构设计 解压配置 Hadoop Hive
java·大数据·数据仓库·hive·hadoop·架构
lucky_syq5 小时前
Flume和Kafka的区别?
大数据·kafka·flume
AI_NEW_COME5 小时前
构建全方位大健康零售帮助中心:提升服务与体验
大数据·人工智能
it噩梦6 小时前
es 中 terms set 使用
大数据·elasticsearch
中科岩创6 小时前
中科岩创边坡自动化监测解决方案
大数据·网络·物联网
DolphinScheduler社区7 小时前
作业帮基于 Apache DolphinScheduler 3_0_0 的缺陷修复与优化
大数据
SeaTunnel7 小时前
京东科技基于 Apache SeaTunnel 复杂场景适配 #数据集成
大数据