云计算作业一hadoop:问题解决备忘

教程地址:https://blog.csdn.net/qq_53877854/article/details/142412784

修改网络配置文件

复制代码
vim /etc/sysconfig/network-scripts/ifcfg-ens33

在root用户下编辑

静态ip地址配置后查看ip与配置不符

注意:确保在这之前已经在VMware的编辑>虚拟网络编辑器调整过NAT的配置 具体步骤可以看这个帖子的第三步:

https://blog.csdn.net/weixin_63721954/article/details/130792569

在/etc/sysconfig/network-scripts/ifcfg-ens33配置了IPADDR=192.168.186.129

但是用ifconfig查看老是186.128,后来用

复制代码
sudo systemctl disable NetworkManager

命令停用了NetworkManager,重启了一下就好了

另外,如果用ifconfig查看没有ens33接口,尝试使用这条语句获取一个ip地址

复制代码
sudo dhclient ens33

集群搭建具体参考

老师发的教程有些地方跳过了,比如克隆虚拟机,虚拟网络配置

更详细:https://blog.csdn.net/weixin_63721954/article/details/130792569

home目录

波浪号(~)的特殊性:

在大多数Unix和Linux shell中,波浪号(~)被用作当前用户家目录的简写。

当你输入 ~ 时,shell会自动将其替换为当前用户的家目录路径,这通常是在 /home 目录下以用户名命名的子目录。不能直接用/home访问当前用户(非root)的home目录

2.2 通过Java 项目访问HDFS

注意程序中修改端口和ip地址,与你之前配置的保持一致

如:

3.2 WordCount示例运行提示加载不出主类

记得加上上个实验的依赖:

xml 复制代码
    <dependencies>
       <dependency>
           <groupId>org.apache.hadoop</groupId>
           <artifactId>hadoop-client</artifactId>
       </dependency>
       <dependency>
           <groupId>junit</groupId>
           <artifactId>junit</artifactId>
           <scope>test</scope>
       </dependency>
   </dependencies>

注意hadoop-minicluster要与client版本一致

hbase下载

版本很老的镜像下载很慢,选择一个稳定版下载即可,我下载的2.5.10

相关推荐
Lx35216 小时前
Hadoop数据处理优化:减少Shuffle阶段的性能损耗
大数据·hadoop
dessler20 小时前
Hadoop HDFS-高可用集群部署
linux·运维·hdfs
容器魔方2 天前
Bloomberg 正式加入 Karmada 用户组!
云原生·容器·云计算
Lx3522 天前
Hadoop容错机制深度解析:保障作业稳定运行
大数据·hadoop
IT毕设梦工厂2 天前
大数据毕业设计选题推荐-基于大数据的客户购物订单数据分析与可视化系统-Hadoop-Spark-数据可视化-BigData
大数据·hadoop·数据分析·spark·毕业设计·源码·bigdata
大数据CLUB2 天前
基于spark的澳洲光伏发电站选址预测
大数据·hadoop·分布式·数据分析·spark·数据开发
AKAMAI2 天前
Sport Network 凭借 Akamai 实现卓越成就
人工智能·云原生·云计算
计算机编程小央姐2 天前
跟上大数据时代步伐:食物营养数据可视化分析系统技术前沿解析
大数据·hadoop·信息可视化·spark·django·课程设计·食物
IT学长编程3 天前
计算机毕业设计 基于Hadoop的健康饮食推荐系统的设计与实现 Java 大数据毕业设计 Hadoop毕业设计选题【附源码+文档报告+安装调试】
java·大数据·hadoop·毕业设计·课程设计·推荐算法·毕业论文
10岁的博客3 天前
《云计算如何驱动企业数字化转型:关键技术与实践案例》
云计算