大数据Hadoop系列——在ubuntu上安装pig数据库

安装环境

虚拟机系统:Ubuntu

⚫ Hadoop 安装模式:伪分布式(单节点)

⚫ 安装包: Pig(0.17.0)

⚫ 下载链接:Index of /pighttps://dlcdn.apache.org/pig/

安装步骤

(1) 解压

根据上面的下载网站,下载对应版本的pig,传递到虚拟机中,也可以直接在虚拟机中下载,然后解压。

tart -zxvf pig-0.17.0.tar.gz

转移到/usr/local/文件夹下

sudo mv pig-0.17.0 /usr/local/

(2) 配置pig环境变量

vim需要下载安装命令:sudo apt install vim

sudo vim /etc/profile

sudo vi /etc/profile

在最下面添加下面代码,如上图所示:

PIG_HOME=/usr/local/pig-0.17.0

PATH=PIG_HOME/bin:PATH

export PIG_HOME PATH

更新环境变量

source /etc/profile

启动pig,先启动dfs,确保你的电脑上有hadoop分布式

start-dfs.sh

pig

(3)pig配置文件

进入**/usr/local/hadoop-2.10.1/etc/hadoop** 路径下

编辑 mapred-site.xml 进行配置

增加下面代,将里面的192.168.254.7改为自己的实际地址

<property>

<name>mapreduce.jobhistory.address</name>

<value>192.168.254.7:10020</value>

</property>

(4)启动

启动 Yarn 的 HistoryServer,记录所有执行过的任务

mr-jobhistory-daemon.sh start historyserver

启动pig

pig

测试

(1)从文件导入数据

emp = LOAD '/usr/data/input/emp.csv' USING PigStorage(',') AS (empno:int,ename:chararray,job:chararray,mgr:int,hiredate:chararray,sal:int,comm:int,deptno:int);

(2)查询

DUMP emp;

相关推荐
GIS阵地1 小时前
git拉取时报错
大数据·git·elasticsearch
ha_lydms1 小时前
3、Spark 函数_d/e/f/j/h/i/j/k/l
大数据·分布式·spark·函数·数据处理·dataworks·maxcompute
ha_lydms3 小时前
AnalyticDB导入MaxCompute数据的几种方式
大数据·数据仓库·阿里云·dataworks·maxcompute·odps·analyticdb
拓端研究室3 小时前
专题:2025电商行业洞察报告:数字化、订阅电商、内容营销、B2B|附200+份报告PDF、数据、可视化模板汇总下载
大数据·人工智能
毕设源码-钟学长3 小时前
【开题答辩全过程】以 基于大数据的化妆品推荐系统为例,包含答辩的问题和答案
大数据
sheji34163 小时前
【开题答辩全过程】以 基于大数据的健康评估管理系统的设计与实现为例,包含答辩的问题和答案
大数据
豌豆学姐4 小时前
123 口播数字人 API 接入实战:附完整前后端开源项目
大数据·php·uniapp·开源软件
不爱吃糖的程序媛4 小时前
cJSON 适配 OpenHarmony PC 完整指南
大数据·elasticsearch·搜索引擎
TDengine (老段)4 小时前
快速掌握时序数据库 + TDengine 学习指南
大数据·数据库·物联网·时序数据库·iot·tdengine·涛思数据
hengcaib4 小时前
美瑞莎携手未来数据集团:大健康赛道的 “数智化” 新探索
大数据·人工智能