使用腾讯CNB构建Hadoop定制容器镜像

说明

使用腾讯CNB构建Apache Hadoop容器镜像,

文中文件在https://cnb.cool/zhudev-2025/apache-hadoop-dev

配置runner

runner是Apache Hadoop构建容器镜像的基础镜像。用runner构建最终的Hadoop容器镜像。

旧版与当前Hadoop官网使用的相同,可以参考https://cnb.cool/zhudev-2025/apache-hadoop-dev/-/tree/main/base

新版是改造版,可参考https://cnb.cool/zhudev-2025/apache-hadoop-dev/-/tree/main/base.new

对安全有要求,并且要求指定数据存储目录的,务必构建该容器镜像。

配置Hadoop

参考https://cnb.cool/zhudev-2025/apache-hadoop-dev/-/blob/main/Dockerfile

注意,这是标准配置,是Hadoop提供的标准配置。只修改FROM部分为自己构建的runner镜像即可,也可使用Hadoop官方提供的,虽然已经很多漏洞和问题。

配置流水线触发文件

参考https://cnb.cool/zhudev-2025/apache-hadoop-dev/-/blob/main/.cnb.yml,这是重点,可以实现自动构建。

查看结果

在下图所示位置查看构建进展

查看容器镜像制品

相关推荐
IT研究室2 小时前
最新大数据毕业设计选题推荐-基于大数据的城市交通流量数据可视化分析-大数据-Spark-Hadoop-Bigdata
大数据·信息可视化·课程设计
面向Google编程3 小时前
Apache Iceberg Variant 类型:v3 半结构化数据不再「二选一」
大数据·后端
大大大大晴天4 小时前
从数仓建模到 AI 数据底座:重新理解数据治理的位置
大数据
IT大白鼠4 小时前
MySQL 分布式集群系列 · 第四篇——实操部署指南:从零搭建生产级 MySQL NDB 集群
数据库·分布式·mysql
不会写代码的女程序猿4 小时前
中小康养门店选型参考|明理 AI 四诊仪场景适配与投入回报分析
大数据·人工智能·科技·ai·健康医疗
IT大白鼠4 小时前
MySQL 分布式集群系列 · 第三篇——核心原理精讲:NDB 自动分片、多主写入与数据同步
数据库·分布式·mysql
云泽8085 小时前
Git 版本控制系统(下):从 .git 目录结构到冲突解决机制详解
大数据·git·elasticsearch
Elastic 中国社区官方博客5 小时前
教程:使用 ES|QL 进行威胁狩猎
大数据·运维·数据库·elasticsearch·搜索引擎·全文检索·安全威胁分析
weixin_505061455 小时前
原厂技术协同|世强硬创携手星坤连接解锁 IOTE 高可靠互连解决方案
大数据
乐迪信息5 小时前
如何通过AI防爆摄像机精准判断船舶超速?
大数据·人工智能·算法·安全·目标跟踪