大数据Hadoop系列——在ubuntu上安装pig数据库

安装环境

虚拟机系统:Ubuntu

⚫ Hadoop 安装模式:伪分布式(单节点)

⚫ 安装包: Pig(0.17.0)

⚫ 下载链接:Index of /pighttps://dlcdn.apache.org/pig/

安装步骤

(1) 解压

根据上面的下载网站,下载对应版本的pig,传递到虚拟机中,也可以直接在虚拟机中下载,然后解压。

tart -zxvf pig-0.17.0.tar.gz

转移到/usr/local/文件夹下

sudo mv pig-0.17.0 /usr/local/

(2) 配置pig环境变量

vim需要下载安装命令:sudo apt install vim

sudo vim /etc/profile

sudo vi /etc/profile

在最下面添加下面代码,如上图所示:

PIG_HOME=/usr/local/pig-0.17.0

PATH=PIG_HOME/bin:PATH

export PIG_HOME PATH

更新环境变量

source /etc/profile

启动pig,先启动dfs,确保你的电脑上有hadoop分布式

start-dfs.sh

pig

(3)pig配置文件

进入**/usr/local/hadoop-2.10.1/etc/hadoop** 路径下

编辑 mapred-site.xml 进行配置

增加下面代,将里面的192.168.254.7改为自己的实际地址

<property>

<name>mapreduce.jobhistory.address</name>

<value>192.168.254.7:10020</value>

</property>

(4)启动

启动 Yarn 的 HistoryServer,记录所有执行过的任务

mr-jobhistory-daemon.sh start historyserver

启动pig

pig

测试

(1)从文件导入数据

emp = LOAD '/usr/data/input/emp.csv' USING PigStorage(',') AS (empno:int,ename:chararray,job:chararray,mgr:int,hiredate:chararray,sal:int,comm:int,deptno:int);

(2)查询

DUMP emp;

相关推荐
江湖有缘几秒前
Docker开源项目: 基于Ubuntu系统部署ExpenseOwl自托管记账工具实战教程
ubuntu·docker·开源
一直C7 分钟前
【数据结构】哈希表+算法复杂度与经典排序查找(C语言)
java·linux·开发语言·数据结构·算法·ubuntu·散列表
shujudang12 分钟前
从数据闭环到 Agent 协同:企业营销自动化如何演进为智能运营?
大数据·运维·人工智能·数据分析·自动化
动恰客流统计14 分钟前
ReID边缘计算视觉客流统计:无网户外场景的数字化落地路径
大数据·人工智能
小白说大模型34 分钟前
Codex 实战:用 AI 写运维脚本
大数据·运维·网络·人工智能·机器学习·prompt
TDengine (老段)1 小时前
TDengine 应用案例 — 工业大数据与智能制造
大数据·数据库·制造·时序数据库·tdengine·涛思数据
SXkehuirongsheng1 小时前
定制软件开发哪家的售后响应速度更快?
大数据
2601_957879331 小时前
Seedance排队太久怎么办?2026免排队AI视频工具与替代方案怎么选
大数据·人工智能·深度学习
智码看视界1 小时前
Spark 3.5 AQE 调优:10 个生产环境案例让作业提速 3-10 倍
大数据·spark·性能调优·aqe·sparksql·数据倾斜·etl优化
starzy19902 小时前
SparkStreaming 之容错机制深度剖析
大数据·spark