【Apache Doris】周FAQ集锦:第 26 期

SQL问题

Q1 doris 3.0存算分离模式下,建表的时是否需要指定表的副本数

不需要,指定了也会忽略;存算分离模式下,数据副本由远端存储去管控。

Q2 doris 通过dbeaver查询时报错:SXXXX...

doris的错误码通常都是EXXXX,不是SXXXX。该异常可能是dbeaver客户端的异常导致。

Q3 Mysql Catalog查询报:

复制代码
ERROR 1105 (HY000): errCode = 2, detailMessage = (10.16.10.6)[INTERNAL_ERROR]UdfRuntimeException: get next block failed: 
CAUSED BY: SQLException: Zero date value prohibited
CAUSED BY: DataReadException: Zero date value prohibited

如下:

这是因为 JDBC 中对于该非法的 DATE/DATETIME 默认处理为抛出异常,可以通过参数 zeroDateTimeBehavior控制该行为。

可选参数为: exception,convertToNull,round,

分别为:异常报错,转为NULL值,转为 "0001-01-01 00:00:00";

需要在创建 Catalog 的 jdbc_url 把JDBC连接串最后增加 zeroDateTimeBehavior=convertToNull ,

如 "jdbc_url" = "jdbc:mysql://127.0.0.1:3306/test?zeroDateTimeBehavior=convertToNull"

这种情况下,JDBC 会把 0000-00-00 或者 0000-00-00 00:00:00 转换成 null,

然后 Doris 会把当前 Catalog 的所有 Date/DateTime 类型的列按照可空类型处理,这样就可以正常读取了。

Mysql Catalog内容可查阅:
https://doris.apache.org/zh-CN/docs/dev/lakehouse/database/mysql

数据操作问题

Q4 doris能否在一级分区中用date二级分区用varchar

当前doris还不支持二级分区,只有一级分区,二级分桶。

Q5 doris 2.1.3版本后hive catalog回写hive时报:

复制代码
External catalog 'hive_ctl' is not allowed in 'NativeInsertStmt'

通常是新优化器没开导致,正常打开就可以正常写入了。

hive数据湖内容可查询:
https://doris.apache.org/zh-CN/docs/dev/lakehouse/datalake-building/hive-build

Q6 doris能否基于物化视图创建新的物化视图

能。从 Doris 2.1.3 版本开始支持。

但是,在刷新数据时,每个物化视图都是采用单独的刷新逻辑。例如,如果 mv2 是基于 mv1 创建的,而 mv1 又是基于 t1 创建的,那么在刷新 mv2 时,不会考虑 mv1 与 t1 之间的数据是否同步。

Q7 doris能否基于外表构建物化视图

doris 支持的所有外表都能用于创建物化视图,但是目前仅有 Hive 支持分区刷新,后续会陆续支持其他类型。

运维常见问题

doris 3.X版本是否支持ARM体系架构

A8 完全支持。doris 3.x 已经完美支持ARM 了。

Q9 doris如何找出compaction score异常高的tablet?

如下:

配置和数额成正比

复制代码
# 通过permits的关键词检索分析
grep "permits" be/log/be.INFO | tail -n 100

# 通过compaction_score api查询
curl http://be_ip:be_host/api/compaction_score?top_n=10

其它问题

Q10 峰会快讯:Doris Summit Asia 2024 实况如何?

A10 2024 年 12 月 14 日,由飞轮科技主办,腾讯云和阿里云联合主办的 Doris Summit Asia 2024 在深圳圆满落幕。活动当天,人潮涌动,会场弥漫着浓厚的技术气息。此次峰会吸引了众多大数据及数据库领域技术专家及开源爱好者的关注,现场参会者超过 500 名,线上直播吸引了数万名观众,共同见证了这场数据处理及分析领域技术盛宴。

本届峰会设有主会场以及智慧金融、泛互联网、政企与智造、SelectDB 产品专场 4 大平行论坛,设计 Keynote Speech、Regular Speech 及 Short Speech 三种演讲形式。来自金融、证券、互联网、零售、电商、物流、能源、制造、通信、企业服务等十余行业的 40+ 技术专家纷纷登台,带来精彩演讲,并与现场观众进行互动、答疑与交流,技术氛围十分浓厚。

Doris Summit Asia 2024内容可查阅:Doris Summit Asia 2024 在深圳圆满落幕:现场参会者超过 500 名,线上直播吸引了数万名观众

相关推荐
fthux2 小时前
装闭 RenoPit 源码解析(09):AnalysisEngine装修闭坑分析主流程
人工智能·ai·开源·github·open source·renopit
ovO2 小时前
我按下“发送”之后:DeepSeek Harness 如何把一次请求变成 1,177 个增量片段
人工智能·开源·deepseek
Gem_S_6082 小时前
从 Chonkie 到 RAGFlow:主流开源知识库 Chunking 工具横向测评
开源
C++、Java和Python的菜鸟3 小时前
第2章 项目前置课-代码版本控制Git
大数据·elasticsearch·搜索引擎
Sammyyyyy3 小时前
如何在不停项目不停机的情况下切换AI大模型
大数据·人工智能
circuitsosk4 小时前
跨境电商智能化实战:AI如何赋能客服自动回复、广告智能投放与供应链预测
大数据·人工智能·python·langchain·智能客服
数智化管理手记5 小时前
海量数据如何沉淀有效数据资产?数据标准化治理方案如何搭建?
java·大数据·人工智能
刀客Doc5 小时前
即时零售不只是多一个渠道,品牌开始重做终端生意
大数据·数据库
湘美书院--湘美谈教育5 小时前
湘美书院主理人谈AI文学:提示词与Skill的与时俱进
大数据·人工智能·安全·自动化·生活
weixin_549808366 小时前
人力资源数字化转型:从工具堆叠到AI原生架构的组织级跃迁路径
大数据·人工智能