数据仓库 - 转转 - 一面凉经

面试流程

自我介绍

Python 中,如何在数据清洗过程中应对内存不够的情况

如何避免,在使用Pandas处理大规模数据时,经常会遇到"SettingWithCopyWarning"警告

在Hive中,当您使用动态分区功能进行数据插入时,可能会遇到"too many dynamic partitions"错误,如何处理

在Apache Spark中,宽依赖(Wide Dependency)和窄依赖(Narrow Dependency)是两种不同类型的依赖关系,对性能分别有什么影响

在使用Kafka作为消息队列时,消费者出现重复消费的问题是比较常见的,分析原因,怎么处理

在使用Kafka拦截器(Interceptors)时,需要注意什么,以确保其正确性和效率

reduce 的阶段,长时间卡在99%,分析原因,如何排查

Spark 运行任务,出现小文件的问题,如何处理

数据治理过程中,需要下线重复指标,如何验证下游不会受到影响

Jenkins 如何避免多分支冲突

数仓设计中,如何设计 ODS 和 DWD 层的字段颗粒度

从 MySQL 导入数据至 Hive,使用 Scoop 如何解决数据不一致问题

DQC 告警如何判断

如何权衡小文件处理过程中的时间 、 空间 、 资源消耗

数据治理中,代码之外,哪些地方可以优化

看板口径整合,数据一致性如何保障

成果中的指标变化,数据计算方式和来源具体讲解

数据变化是如何评估的

思维题:设计一个高并发的日志采集和分析系统,要求使用 Flume、HDFS、Kafka,分析并详细讲解技术选型,在这个场景中,针对数据丢失的情况,如何做预防,设计一些方法思路

反问环节

相关推荐
醉颜凉1 小时前
数据仓库实战:自动化数据质量检测全流程——精准提升数据准确性与完整性
大数据·数据仓库·自动化
RestCloud11 小时前
信创数据集成实践:某央企ETL全链路国产化迁移架构拆解
数据仓库·架构·数据安全·etl·etlcloud·数据传输·国产化替代
SelectDB技术团队2 天前
雨润集团 统一实时数据仓库:Apache Doris / SelectDB 的技术能力与实践
数据仓库·实时数仓·apache doris·selectdb
Irene19912 天前
剑指大数据:企业级数据仓库项目实战(金融租赁版)读书笔记__大数据测试集群的服务器节点服务分配规划表__解读(附:技术选型清单)
大数据·数据仓库·金融
SelectDB技术团队4 天前
抖音集团 实时数据仓库:Apache Doris / SelectDB 的技术能力与实践
数据仓库·apache
小马过河R4 天前
数据仓库入门:是什么、怎么做、和数据库有什么区别?
大数据·数据库·数据仓库·架构·驾驭工程·fde
慧一居士6 天前
Apache StreamPark 功能和使用场景介绍、使用步骤详细示例
数据仓库
慧一居士7 天前
Hologres 功能及使用场景介绍,实践详细步骤示例
数据仓库
哥本哈士奇7 天前
dbt+SQLServer构建数据仓库(10):macro 以及 data vault的应用实例
大数据·数据仓库·sqlserver