大数据Hadoop系列——在ubuntu上安装pig数据库

安装环境

虚拟机系统:Ubuntu

⚫ Hadoop 安装模式:伪分布式(单节点)

⚫ 安装包: Pig(0.17.0)

⚫ 下载链接:Index of /pighttps://dlcdn.apache.org/pig/

安装步骤

(1) 解压

根据上面的下载网站,下载对应版本的pig,传递到虚拟机中,也可以直接在虚拟机中下载,然后解压。

tart -zxvf pig-0.17.0.tar.gz

转移到/usr/local/文件夹下

sudo mv pig-0.17.0 /usr/local/

(2) 配置pig环境变量

vim需要下载安装命令:sudo apt install vim

sudo vim /etc/profile

sudo vi /etc/profile

在最下面添加下面代码,如上图所示:

PIG_HOME=/usr/local/pig-0.17.0

PATH=PIG_HOME/bin:PATH

export PIG_HOME PATH

更新环境变量

source /etc/profile

启动pig,先启动dfs,确保你的电脑上有hadoop分布式

start-dfs.sh

pig

(3)pig配置文件

进入**/usr/local/hadoop-2.10.1/etc/hadoop** 路径下

编辑 mapred-site.xml 进行配置

增加下面代,将里面的192.168.254.7改为自己的实际地址

<property>

<name>mapreduce.jobhistory.address</name>

<value>192.168.254.7:10020</value>

</property>

(4)启动

启动 Yarn 的 HistoryServer,记录所有执行过的任务

mr-jobhistory-daemon.sh start historyserver

启动pig

pig

测试

(1)从文件导入数据

emp = LOAD '/usr/data/input/emp.csv' USING PigStorage(',') AS (empno:int,ename:chararray,job:chararray,mgr:int,hiredate:chararray,sal:int,comm:int,deptno:int);

(2)查询

DUMP emp;

相关推荐
问商十三载12 小时前
AI引擎生成式优化实践:刑事辩护律师团队IP构建
大数据·人工智能
会议咨询13 小时前
2026年大数据、信息系统与智能通信国际会议(BDIIC 2026)
大数据·信息系统·智能通信
Raas10013 小时前
MAI Gateway(魔芋企业级AI网关)能力解析:AI网关能做故障转移吗?AI网关核心功能详解
大数据·人工智能·网关·ai·gateway·mai gateway
IT研究所14 小时前
AI-ITR平台如何减少客户问题反复升级?
大数据·运维·人工智能·低代码·自然语言处理·安全架构·企微
回眸&啤酒鸭14 小时前
【回眸】OpenSwarm 多智能体协作系统实战指南
大数据·前端·人工智能
大大大大晴天15 小时前
每天认识一个组件:Apache DolphinScheduler
大数据
yumgpkpm15 小时前
Acceldata ODP(Open Data Platform)3.3.6.4(RHEL9)保姆级完整安装手册
大数据·人工智能·hive·hadoop·kafka·hbase·cloudera
邓工说电15 小时前
智慧断路器安全吗?数据加密、离线保护与合规认证全解读
大数据·数据库·人工智能·智能断路器·炜晔科技
出海客15 小时前
跨境电商多语言客服知识库怎么建:资料结构、检索边界与人工升级
大数据·人工智能
liliangcsdn15 小时前
派息率指标的应用探索和分析
大数据·算法