大数据Hadoop系列——在ubuntu上安装pig数据库

安装环境

虚拟机系统:Ubuntu

⚫ Hadoop 安装模式:伪分布式(单节点)

⚫ 安装包: Pig(0.17.0)

⚫ 下载链接:Index of /pighttps://dlcdn.apache.org/pig/

安装步骤

(1) 解压

根据上面的下载网站,下载对应版本的pig,传递到虚拟机中,也可以直接在虚拟机中下载,然后解压。

tart -zxvf pig-0.17.0.tar.gz

转移到/usr/local/文件夹下

sudo mv pig-0.17.0 /usr/local/

(2) 配置pig环境变量

vim需要下载安装命令:sudo apt install vim

sudo vim /etc/profile

sudo vi /etc/profile

在最下面添加下面代码,如上图所示:

PIG_HOME=/usr/local/pig-0.17.0

PATH=PIG_HOME/bin:PATH

export PIG_HOME PATH

更新环境变量

source /etc/profile

启动pig,先启动dfs,确保你的电脑上有hadoop分布式

start-dfs.sh

pig

(3)pig配置文件

进入**/usr/local/hadoop-2.10.1/etc/hadoop** 路径下

编辑 mapred-site.xml 进行配置

增加下面代,将里面的192.168.254.7改为自己的实际地址

<property>

<name>mapreduce.jobhistory.address</name>

<value>192.168.254.7:10020</value>

</property>

(4)启动

启动 Yarn 的 HistoryServer,记录所有执行过的任务

mr-jobhistory-daemon.sh start historyserver

启动pig

pig

测试

(1)从文件导入数据

emp = LOAD '/usr/data/input/emp.csv' USING PigStorage(',') AS (empno:int,ename:chararray,job:chararray,mgr:int,hiredate:chararray,sal:int,comm:int,deptno:int);

(2)查询

DUMP emp;

相关推荐
大大大大晴天16 小时前
Hudi技术内幕:Key Generation原理与实践
大数据
得物技术4 天前
从埋点需求到规则资产:Hermes Agent 重构得物数仓工作流
大数据·llm·ai编程
久美子4 天前
AI驱动数仓建设的Harness工程实践——本体建模、知识分层与上下文工程
大数据
大树885 天前
金刚石散热越强,管路越先见顶
大数据·运维·服务器·人工智能·ai
大志哥1235 天前
ES和Logstash日志链路系统上线后遭遇切片爆炸(解决)
大数据·elasticsearch
果丁智能5 天前
物联网智能锁赋能集中式住宿:身份核验与远程权限管控的全链路技术实践
大数据·人工智能·物联网·智能家居
王小王-1235 天前
基于 Hive 的网易云音乐数据分析及可视化系统
hive·hadoop·数据分析·音乐数据分析·网易云音乐分析·hive音乐分析·hadoop网易云
ApacheSeaTunnel5 天前
实战演示 | 基于 Apache SeaTunnel 与 Apache DolphinScheduler 实现 MySQL 到 Doris 离线定时增量同步
大数据·mysql·开源·doris·数据集成·seatunnel·数据同步
weixin_397574095 天前
PDF复杂表格的1:1还原引擎:跨页表格自动拼接技术实战
大数据·人工智能·pdf
极光代码工作室5 天前
基于数据仓库的电商数据分析平台
大数据·hadoop·python·spark·数据可视化