前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >CDH-Hadoop2.6+ Apache Pig0.15安装记录

CDH-Hadoop2.6+ Apache Pig0.15安装记录

作者头像
我是攻城师
发布2018-05-11 18:07:12
6150
发布2018-05-11 18:07:12
举报
文章被收录于专栏:我是攻城师

1,使用CDH的hadoop里面有对应的组件Pig,但版本较低,所以放弃使用了,直接下载 Apache Pig0.15最新的版本(支持Tez,比Hive更容易集成) 下载地址:http://archive.apache.org/dist/pig/pig-0.15.0/pig-0.15.0.tar.gz 直接下载二进制包即可 2,配置Pig的环境变量如下: #Pig export PIG_HOME=/ROOT/server/pig export PIG_CLASSPATH=$HADOOP_HOME/etc/hadoop export PATH=/ROOT/server/pig/bin:$PATH 3,直接执行pig命令,启动程序,会报如下异常 [main]ERROR org.apache.pig.Main -ERROR 2998:Unhandled internal error.Found interface jline.Terminal,but class was expected 原因是由于jline这个包和hadoop的yarn/lib下面的jline的包不一致造成的。 可参考:https://cwiki.apache.org/confluence/display/Hive/Hive+on+Spark%3A+Getting+Started里面的解释 解决方法: 删掉hadoop的yarn/lib下的那个jline版本较高的包,将pig/lib下的jline-1.0.jar包拷贝到yarn/lib下,然后 重新执行pig命令,可正常启动。

然后执行一个pig脚本写的MapReduce作业,发现会报如下异常,但是MR作业是跑成功的:

原因是,Hadoop的jobhistroy进程没有启动。 解决办法: 执行sbin/mr-jobhistory-daemon.sh start historyserver 命令,启动日志守护进程 然后再次跑pig作业,一切正常 !

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2015-06-26,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 我是攻城师 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
专用宿主机
专用宿主机(CVM Dedicated Host,CDH)提供用户独享的物理服务器资源,满足您资源独享、资源物理隔离、安全、合规需求。专用宿主机搭载了腾讯云虚拟化系统,购买之后,您可在其上灵活创建、管理多个自定义规格的云服务器实例,自主规划物理资源的使用。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档