前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >[1065]impala查询内存限制Memory limit exceeded

[1065]impala查询内存限制Memory limit exceeded

作者头像
周小董
发布2021-11-11 14:25:24
2.8K0
发布2021-11-11 14:25:24
举报
文章被收录于专栏:python前行者

错误信息:

代码语言:javascript
复制
ERROR: 
Memory limit exceeded
Query did not have enough memory to get the minimum required buffers in the block manager.

原因:

当impala查询的时候,涉及到了group by having或者很多join的时候,会出现以上的错误。

解决方法就是把内存限制取消,或者加大 set mem_limit=-1 #取消 或者 1gb 100mb 1000b等值

如果以上还不行,就要去配置文件修改 Impala Daemon 内存限制 mem_limit=-1b

单池内存限制 default_pool_mem_limit=-1b

说明 : default_pool_mem_limit: 配置使用单个池时用于 Admission Control 的运行查询的最大内存。-1 或 0 表示无限制。已启用“用于 Admission Control 的动态资源池”时忽略。

mem_limit: 由守护程序本身强制执行的 Impala Daemon 的内存限制(以字节为单位)。如果达到该限制,Impalad Daemon 上运行的查询可能会被停止。将其留空可以让 Impala 选择自己的限制。使用 -1 B 值将指定无任何限制。

如图:

参考:https://blog.csdn.net/duyuanhai/article/details/121014721 https://blog.csdn.net/oosongoo/article/details/78435779 https://blog.csdn.net/m0_43393325/article/details/117322660

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2021/11/09 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 原因:
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档