数据仓库 - 转转 - 一面凉经

面试流程

自我介绍

Python 中,如何在数据清洗过程中应对内存不够的情况

如何避免,在使用Pandas处理大规模数据时,经常会遇到"SettingWithCopyWarning"警告

在Hive中,当您使用动态分区功能进行数据插入时,可能会遇到"too many dynamic partitions"错误,如何处理

在Apache Spark中,宽依赖(Wide Dependency)和窄依赖(Narrow Dependency)是两种不同类型的依赖关系,对性能分别有什么影响

在使用Kafka作为消息队列时,消费者出现重复消费的问题是比较常见的,分析原因,怎么处理

在使用Kafka拦截器(Interceptors)时,需要注意什么,以确保其正确性和效率

reduce 的阶段,长时间卡在99%,分析原因,如何排查

Spark 运行任务,出现小文件的问题,如何处理

数据治理过程中,需要下线重复指标,如何验证下游不会受到影响

Jenkins 如何避免多分支冲突

数仓设计中,如何设计 ODS 和 DWD 层的字段颗粒度

从 MySQL 导入数据至 Hive,使用 Scoop 如何解决数据不一致问题

DQC 告警如何判断

如何权衡小文件处理过程中的时间 、 空间 、 资源消耗

数据治理中,代码之外,哪些地方可以优化

看板口径整合,数据一致性如何保障

成果中的指标变化,数据计算方式和来源具体讲解

数据变化是如何评估的

思维题:设计一个高并发的日志采集和分析系统,要求使用 Flume、HDFS、Kafka,分析并详细讲解技术选型,在这个场景中,针对数据丢失的情况,如何做预防,设计一些方法思路

反问环节

相关推荐
程序员小羊!14 小时前
医疗数据仓库ODS层敏感信息防护实战:7大关键策略
数据仓库
欢迎来到祖安!20 小时前
企业微信 API 接口能力介绍:支持消息收发、图片发送、表情互动、联系人管理等多场景应用
java·前端·数据仓库·spring cloud·企业微信
RestCloud2 天前
飞书多维表格落地新思路:ETL做数据导入,豆包做业务智能分析
数据仓库·飞书·etl·数据传输·api对接·豆包
AgentMaster3 天前
元数据、血缘、质量、安全四大模块能力拆解,数据治理方案对比:4 种技术路线深度评测
大数据·数据库·数据仓库·人工智能·原型模式
Gl�ria3 天前
Hadoop Hive 和 YARN 的关系
数据仓库·hive·hadoop
MC丶科4 天前
软考架构师90天冲刺|DAY44·Redis高级应用
数据库·数据仓库·redis·缓存·oracle·容器·规格说明书
lhldsg6 天前
幼儿托管系统开发实战指南:从需求分析到架构设计全流程解析
数据库·数据仓库·需求分析
fastjson_7 天前
Hive 自定义函数
数据仓库·hive·hadoop
lhldsg8 天前
智慧场馆解决方案软件开发实战:从需求分析到落地部署全流程
数据库·数据仓库·需求分析
迈巴赫车主8 天前
Doris简介
大数据·数据仓库·doris