大数据Hadoop系列——在ubuntu上安装pig数据库

安装环境

虚拟机系统:Ubuntu

⚫ Hadoop 安装模式:伪分布式(单节点)

⚫ 安装包: Pig(0.17.0)

⚫ 下载链接:Index of /pighttps://dlcdn.apache.org/pig/

安装步骤

(1) 解压

根据上面的下载网站,下载对应版本的pig,传递到虚拟机中,也可以直接在虚拟机中下载,然后解压。

tart -zxvf pig-0.17.0.tar.gz

转移到/usr/local/文件夹下

sudo mv pig-0.17.0 /usr/local/

(2) 配置pig环境变量

vim需要下载安装命令:sudo apt install vim

sudo vim /etc/profile

sudo vi /etc/profile

在最下面添加下面代码,如上图所示:

PIG_HOME=/usr/local/pig-0.17.0

PATH=PIG_HOME/bin:PATH

export PIG_HOME PATH

更新环境变量

source /etc/profile

启动pig,先启动dfs,确保你的电脑上有hadoop分布式

start-dfs.sh

pig

(3)pig配置文件

进入**/usr/local/hadoop-2.10.1/etc/hadoop** 路径下

编辑 mapred-site.xml 进行配置

增加下面代,将里面的192.168.254.7改为自己的实际地址

<property>

<name>mapreduce.jobhistory.address</name>

<value>192.168.254.7:10020</value>

</property>

(4)启动

启动 Yarn 的 HistoryServer,记录所有执行过的任务

mr-jobhistory-daemon.sh start historyserver

启动pig

pig

测试

(1)从文件导入数据

emp = LOAD '/usr/data/input/emp.csv' USING PigStorage(',') AS (empno:int,ename:chararray,job:chararray,mgr:int,hiredate:chararray,sal:int,comm:int,deptno:int);

(2)查询

DUMP emp;

相关推荐
Easy_API19 小时前
2.8万亿参数,编程反超GPT-6 Astra:Kimi K3.1 Pro把开源模型推到了哪一步
大数据·人工智能·gpt·深度学习
GlobalInfo19 小时前
2026年机器人多指灵巧手市场分析报告——涵盖行业调查、趋势分析与发展前景
大数据·人工智能·microsoft·微服务·机器人
微订校园外卖平台20 小时前
校园外卖平台选模板还是定制:架构、数据流与验收清单
大数据·架构·外卖系统·本地生活·微订
Eloudy1 天前
Qwen2.5-14B-Instruct-AWQ 模型文件结构分析
大数据·elasticsearch·搜索引擎
重生之高冷汉堡包1 天前
跨境电商运营团队如何安全交接店铺账号?多账号权限管理指南
大数据
玩AI的奶茶1 天前
MiniMax H3 出 30 秒长片:显存账、拼接法和一次的成本
大数据·人工智能·ai·gpu算力·算力租赁
SelectDB1 天前
Doris Arrow Flight SQL 高速读取协议实战:与 Snowflake 客户端取数链路对照
大数据·数据库·数据分析
爱签AI电子合同1 天前
电子合同全维度实测与选型指南
大数据·人工智能
AI办公探索者1 天前
从SaaS到本地部署:大模型推理成本优化与8888元私有化方案的技术解析
大数据·人工智能
做运维的阿瑞1 天前
云项目可观测性与成本治理:告警、日志、Dashboard 与预算标签
大数据·云原生·云计算·terraform