Loading [MathJax]/jax/output/CommonHTML/config.js
前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >Cloudera Manager 安装集群遇到的问题及解决

Cloudera Manager 安装集群遇到的问题及解决

作者头像
星哥玩云
发布于 2022-07-24 02:41:45
发布于 2022-07-24 02:41:45
8810
举报
文章被收录于专栏:开源部署开源部署

多次安装集群,但每次都不能顺利,都会遇到很多很多的坑,今天就过去踩过的坑简单的总结一下,希望已经踩了的和正在踩的童鞋能够借鉴一下,希望对你们能有所帮助。

一、MySQL的配置

1、卸载原有的mysql

查看目前安装的mysql

rpm -qa |grep mysql

卸载自带的mysql

yum -y remove mysql-libs-5.1.73-7.el6.x86_64

2、安装mysql

mysql的安装有三种方式:

  • rpm包安装(本次就采用rmp包的安装方式进行演示)
  • 源码安装(提供了源码安装的脚本)
  • yum安装(虽然安装方便,但是不建议使用)

rpm包的方式安装mysql

#加压tar文件

tar -xvf mysql-5.6.26-1.linux_glibc2.5.x86_64.rpm-bundle.tar -C /files/mysql-rpm/

#安装rpm包

rpm -ivh /files/mysql-rpm/*.rpm

cp /usr/share/mysql/my-default.cnf /etc/my.cnf

#安装数据库

/usr/bin/mysql_install_db

#启动服务

service mysql start

#设置开机自启

chkconfig mysql on

#设置数据库密码

/usr/bin/mysqladmin -u root password '123456'

3、初始化数据库

mysql安装完了之后就是初始化数据库的过程,进去mysql库中

mysql -u root -p123456

执行一下的语句进行初始化建库

create database hive default charset utf8 collate utf8_general_ci; create database hue default charset utf8 collate utf8_general_ci; create database scm default charset utf8 collate utf8_general_ci; create database amon default charset utf8 collate utf8_general_ci; create database sentry default charset utf8 collate utf8_general_ci; create database oozie default charset utf8 collate utf8_general_ci; create database reports default charset utf8 collate utf8_general_ci; grant all privileges on *.* to 'root'@'locolhost'; grant all on *.* to 'root'@'%' identified by '123456' with grant option; grant all on *.* to 'root'@'Hadoop' identified by '123456' with grant option; flush privileges;

然后重启数据库就ok了

service mysql restart

重点说明一下:mysql的安装是前期准备工作的重要一步,不建议使用yum安装,我就是因为图省事,直接用yum安装了mysql,导致在创建cmf数据的时候总是报连不上mysql服务的错误(即执行/opt/cm-5.11.1/share/cmf/schema/scmpreparedatabase.sh mysql cmf -hhadoop -uroot -p123456 --scm-host hadoop scm scm scm 命令),最后只得卸载了yum安装的mysql重新用rmp包安装的。

二、启动cloudera-scm-server

在启动cloudera-scm-server的时候报如下的错误(启来30秒左右自动关闭,查看日志文件:/opt/cm-5.11.1/log/cloudera-scm-server/cloudera-scm-server.log)

Caused by: javax.persistence.PersistenceException: org.hibernate.exception.GenericJDBCException: Could not open connection

错误原因: 1.缺少mysql的驱动包,检查/opt/cm-5.11.1/share/cmf/lib目录下是否有mysql的驱动; 2.检查mysql是否启动; 3.mysql本身的问题,只能卸载mysql重新安装(我就是这种方案解决的);

三、启动cloudera-scm-agent

在启动cloudera-scm-server的时候报如下的错误(启来30秒左右自动关闭,查看日志文件:/opt/cm-5.11.1/log/cloudera-scm-agent/cloudera-scm-agent.log)

ERROR Failed to connect to newly launched supervisor. Agent will exit

这种错误是因为主节点的uuid和从节点的一样,所以造成代理紊乱

错误原因:在主节点启动了agent后,再scp到其他节点,这样会把已经生成好的uuid带过去。所以必须等所有的agent节点都准备好之后,再启动agent

那遇到这种error如何处理: 1.删除/opt/cm-5.11.1/lib/cloudera-scm-agent目录下的所有文件(首先要保证server和agent服务都是关闭的) 2.删除mysql中cmf数据库 3.删除从节点中/opt/cm-5.11.1目录

4.重新复制到从节点

scp -r /opt/cm-5.11.1 root@hadoop001:/opt

5.创建cmf数据库,执行一下代码

/opt/cm-5.11.1/share/cmf/schema/scm_prepare_database.sh mysql cmf -hhadoop -uroot -p123456 --scm-host hadoop scm scm scm

6.重新启动server和agent就ok了

四、启动集群时报错

错误提示:

看服务的状态:

service cloudera-scm-agent status

以上错误的意思是:agent服务死了,但是pid文件换是存在

解决方法:进入到/opt/cm-5.11.1/run/cloudera-scm-agent目录下删除pid文件

五、hive分析运算时报错

错误提示:org.apache.hadoop.security.AccessControlException: Permission denied: user=root, access=WRITE, inode="/user":hdfs:supergroup:drwxr-xr-x

错误原因:我当前所在的用户的是root,root没有操作hdfs文件中/user的权限

当前文件的权限:

执行以下赋权限语句

sudo -u hdfs hadoop fs -chmod -R 777 /user

sudo -u hdfs 说明需要指定hdfs用户来执行赋权限的操作

以上内容仅是个人学习过程中的总结和见解,仅供参考,如果发现有错误也请批评指正!谢谢你的查阅。

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
Cloudera Manager 和CDH6.0.1安装,卸载,各步骤截图
https://www.cloudera.com/documentation/enterprise/6/6.0.html
Java架构师必看
2021/08/12
2.8K0
CDH安装
vim /etc/cloudera-scm-server/db.properties
海风铃
2022/10/26
4630
CentOS 7下CDH搭建Hadoop集群
export PATH=$PATH:$JAVA_HOME/bin:$JAVA_HOME/sbin
星哥玩云
2022/07/26
5550
CentOS 7下CDH搭建Hadoop集群
CDH安装指南
SELinux是Security Enhance Linux的缩写,是NASA开发的一套严格的资源权限管理系统,由于使用起来比较复杂,所以一般选择关闭
俺也想起舞
2019/07/24
1.5K0
CDH快速入门系列(2) | CM集群安装
注意: Cloudera Manager默认用户为cloudera-scm,创建具有此名称的用户是最简单的方法。 安装完成后,将自动使用此用户。
不温卜火
2020/10/28
5850
CDH快速入门系列(2) | CM集群安装
CDH离线安装文档
准备工作 1, 配置hostname vi /etc/sysconfig/network 修改hostname: NETWORKING=yes HOSTNAME=master 通过 service network restart 重启网络服务生效。 vi /etc/hosts ,修改ip与主机名的对应关系
shengjk1
2018/10/24
2K0
CentOS 7安装CDH6简明文档
CentOS7、jdk8、MySQL5.7、Python2.7、CDH61.2文件下载
星哥玩云
2022/07/24
5430
docker 离线安装 cdh 6.2
(此处使用OpenJDK8U-jdk_x64_linux_hotspot_8u302b08.tar)
小石头
2022/11/10
8580
docker 离线安装 cdh 6.2
CDH 部署教程
CDH 全称 Cloudera’s Distribution Including Apache Hadoop,是 Cloudera 公司提供的一个 Apache Hadoop 发行版。CDH 将 Hadoop 与其他十几个关键的开源项目集成,并且加入了集群自动化安装、中心化管理、集群监控、报警等功能。通过 CDH 可以使集群的安装从几天的时间缩短为几个小时。
Se7en258
2021/07/23
4K0
CDH 部署教程
原 荐 Centos 7+CDH5.7.2全
Centos 7+CDH5.7.2全部署流程 一、前期准备 1、虚拟机配置     这个配置是我在网上看到的,我就借用了这个配置:     主节点:8g内存、硬盘80g     从节点:2g内存、硬盘80g     安装系统的时候,我建议将IP和主机名都给配置好,这样就省的在系统中进行配置了,当然下面也有在系统中配置的方法。     所以如果你要使用虚拟机来完成这个配置的话,那么,你的主机的配置内存就不能低于16G了。而且还要找一个盘符较大的磁盘空间,不然到后面操作CDH的时候会很尴尬,我第一次就被卡在了硬
云飞扬
2018/06/13
1.5K0
【CDH实战】CM6.3.1&CDH6.3.2大数据集群搭建详解
【大数据搭建HDP3.x】Ambari2.7.4+HDP3.1.4离线搭建教程(上)
知否大数据
2022/06/17
2.3K1
【CDH实战】CM6.3.1&CDH6.3.2大数据集群搭建详解
超详细!搭建本地大数据研发环境(16G内存+CDH)
工欲善其事必先利其器,在经过大量的理论学习以后,需要有一个本地的研发环境来进行练手。已经工作的可以不依赖于公司的环境,在家也可以随意的练习。而自学大数据的同学,也可以进行本地练习,大数据是一门偏实践的学科,在找工作之前进行一些实践操作,也更利于对大数据知识的理解。
大数据流动
2021/07/29
7.4K6
超详细!搭建本地大数据研发环境(16G内存+CDH)
大数据CDH平台安装部署再也不用愁了
随着公司发展,业务数据量增涨,越来越多的公司都开始利用大数据平台,分析业务,但是大数据平台构建比较复杂,如果完全手动安装(其实非常不方便,组件和版本都要关联对应)。有没有方便一点的安装呢?,有,目前主流大数据平台集成环境安装:分别是CDH 或者Ambari.本文主要介绍CDH 安装。
Linux运维技术之路
2022/06/07
1.3K0
大数据CDH平台安装部署再也不用愁了
关于CDH5.13的安装的记录
背景:写这篇文章是为了后面学习监控yarn的队列,Cloudera的CDH属于即将过时的技术了,但是目前国内很多企业任然以5.x 的版本为主,如果有不会的同学可以参考搭建一下。
Bob hadoop
2020/12/11
6960
【玩转Lighthouse】centos7.6系统CDH6集群安装
前提:所有cdh相关安装文件均放在master节点(cdh节点)的/root/cdh目录下
靠运气的咸鱼
2022/04/12
8410
CentOS 7下Cloudera Manager及CDH 5.14.0安装过程详解
大家都知道,Apache Hadoop的配置很繁琐,而且很零散,为此Cloudera公司提供了Clouder Manager工具,而且还封装了Apache Hadoop,flume,spark,hive,hbase等大数据产品形成自己特色的CDH产品,再使用CM进行安装,很大程度上方便了集群的搭建,并提供了集群的监控功能。
星哥玩云
2022/07/13
9130
CentOS 7下Cloudera Manager及CDH 5.14.0安装过程详解
Cloudera(CDH) 简介和在线安装
本文介绍了在Cloudera Manager上如何部署CDH集群,包括准备环境、安装和配置CDH以及部署Hadoop和Spark。
shaonbean
2018/01/02
8.2K0
Cloudera(CDH) 简介和在线安装
cdh以及phoenix服务的安装详细教程
cdh5.14.2下载:https://archive.cloudera.com/cdh5/parcels/5.14.2/
littleMonkey
2019/03/18
2.5K0
cdh以及phoenix服务的安装详细教程
Cloudera Manager环境搭建【二】
swappiness是Linux的一个内核参数,控制系统在使用swap虚拟内存时,内存使用的相对权重。
Maynor
2022/11/28
9250
Cloudera Manager环境搭建【二】
安装 | 企业版CDH服务器集群配置(详细)
此方案为暂定方案,有可能会变更。如果直接使用CDH会更加方便,但是如果进行自行配置,需要做实验。
木野归郎
2022/04/14
3.5K0
安装 | 企业版CDH服务器集群配置(详细)
相关推荐
Cloudera Manager 和CDH6.0.1安装,卸载,各步骤截图
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档