首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >hive的元数据存储在derby和mysql_桌面云必须部署的组件包括

hive的元数据存储在derby和mysql_桌面云必须部署的组件包括

作者头像
全栈程序员站长
发布2022-11-15 17:36:02
发布2022-11-15 17:36:02
76800
代码可运行
举报
运行总次数:0
代码可运行

??‍?博主介绍:大家好,我是芝士味的椒盐,一名在校大学生,热爱分享知识,很高兴在这里认识大家? ?擅长领域:Java、大数据、运维、电子 ??如果本文章各位小伙伴们有帮助的话,?关注+??点赞+?评论+?收藏,相应的有空了我也会回访,互助!!! ?另本人水平有限,旨在创作简单易懂的文章,在文章描述时如有错,恳请各位大佬指正,在此感谢!!!


文章目录

  • 搭建hive的环境需要hadoop的dfsyarn可以正常运行的情况下。
  • 准备好apache-hive-1.2.1-bin.tar.gzmysql-libs.zip两个包
hive安装

解压apache-hive-1.2.1-bin.tar.gz 到/usr/local/src下,并且将其重命名为hive

代码语言:javascript
代码运行次数:0
运行
复制
tar -zxvf apache-hive-1.2.1-bin.tar.gz
mv apache-hive-1.2.1-bin hive

Jetbrains全家桶1年46,售后保障稳定

复制/hive/conf下的hive-env.sh.template模板并重命名为hive-env.sh

代码语言:javascript
代码运行次数:0
运行
复制
cp hive-env.sh.template hive-env.sh

在重命名的hive-env.sh里配置参数

代码语言:javascript
代码运行次数:0
运行
复制
export HADOOP_HOME=/usr/local/src/hadoop
export HIVE_HOME=/usr/local/src/hive/conf

修改/usr/local/src/hive/bin下的hive脚本

代码语言:javascript
代码运行次数:0
运行
复制
# add Spark assembly jar to the classpath
if [[ -n "$SPARK_HOME" ]]
then
#如果装有spark需要指定Spark目录下的jars目录下的所有的jar包
  sparkAssemblyPath=`ls ${ 
      SPARK_HOME}/jars/*.jar`
  CLASSPATH="${CLASSPATH}:${sparkAssemblyPath}"
fi
  • 否则启动hive将报如下错误

提示ls: 无法访问/home/software/spark-2.0.1-bin-hadoop2.7/lib/spark-assembly-*.jar: 没有那个文件或目录...

启动hadoop的hdfs和yarn

代码语言:javascript
代码运行次数:0
运行
复制
start-dfs.sh
start-yarn.sh

在hdfs上创建tmp和/user/hive/warehouse两个目录,修改为同组可读

代码语言:javascript
代码运行次数:0
运行
复制
#创建文件夹
hadoop fs -mkdir /tmp
hadoop fs -mkdir /user/hive/warehouse
#赋予文件夹权限
hadoop fs -chmod g+w /tmp
hadoop fs -chmod g+w /user/hive/warehouse

将hive下的jline-2.12.jar 复制替换hadoop中的jline-2.12.jar

代码语言:javascript
代码运行次数:0
运行
复制
cp /usr/local/src/hive/lib/jline-2.12.jar /usr/local/src/hadoop/share/hadoop/yarn/lib/
rm jline-2.12.jar -rf
  • 否则启动hive会报如下错误

Exception in thread "main" java.lang.IncompatibleClassChangeError: Found class jline.Termina

hive启动并测试

启动hive并测试查询

代码语言:javascript
代码运行次数:0
运行
复制
#在配了环境变量bin的情况下才能使用
hive

查看数据

代码语言:javascript
代码运行次数:0
运行
复制
hive> show databases;

选择默认数据库

代码语言:javascript
代码运行次数:0
运行
复制
hive> use default;

显示默认数据库中的表

代码语言:javascript
代码运行次数:0
运行
复制
hive> show tables;

  • TIPS:hive在hdfs中的结构
    • 数据库:在hdfs中表现为${hive.metastore.warehouse.dir}目录下一个文件夹
    • 表:在hdfs中表现所属db目录下一个文件夹,文件夹中存放该表中的具体数据
    • 如果使用Metastore自带的derby数据库,在已经有一个对话的时候再打开一个对话将报错 Exception in thread "main" java.lang.RuntimeException: java.lang.RuntimeException: Unable to instantiate
      • 原因:推荐MySQL存储Metastore元数据,替换默认的Derby数据库

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/230736.html原文链接:https://javaforall.cn

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2022年10月31日,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 文章目录
    • hive安装
    • hive启动并测试
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档