DataGrip 连接 HiveServer2 报错
一、Heap memory
Exception in thread "main" java.lang.OutOfMemoryError: Java heap space
因为 DataGrip 会开好几个 Session,我这里是 4 个 Session
因此有时候如果执行的语句过大,会造成堆内存来不起回收。导致堆内存溢出,反应在 DataGrip 就是执行语句卡住没反应,等很久然后报错。这里有个超时时间,等很久就是超过这个超时时间后报错。
我们可以适当调大 heap 内存:
# 在 hive/bin 目录下的 hive-config.sh,最后一行就是设置 heap 的大小。 69 # Default to use 256MB 70 export HADOOP_HEAPSIZE=${HADOOP_HEAPSIZE:-2048}
二、Too many open files
lzq@hadoop102 ~ ulimit -a -t: cpu time (seconds) unlimited -f: file size (blocks) unlimited -d: data seg size (kbytes) unlimited -s: stack size (kbytes) 8192 -c: core file size (blocks) 0 -m: resident set size (kbytes) unlimited -u: processes 10000 -n: file descriptors 4096 -l: locked-in-memory size (kbytes) 64 -v: address space (kbytes) unlimited -x: file locks unlimited -i: pending signals 31830 -q: bytes in POSIX msg queues 819200 -e: max nice 0 -r: max rt priority 0 -N 15: unlimited
修改最大文件连接数量
- Linux 任何外部设备(socket、文件)都可以看做一个文件,而一个文件就可以通过一个文件描述符来读写。
-n: file descriptors 4096
描述的就是一进程可以打开文件最大的数量- 默认是1024,我们可以通过命令
ulimit -n 4096
把最大打开文件调整到 4096,如果重启会还原成默认值 - 永久设置方法
vim /etc/security/limits.conf 在最后加入 * soft nofile 65535 * hard nofile 65535
安装 lsof
sudo yum install lsof -y
查看当前系统打开的文件数量
lsof | wc -l watch "lsof | wc -l"
lzq@hadoop102 ~ jps 25696 Jps 1522 NameNode 22627 RunJar 1716 DataNode 3140 Kafka 2309 NodeManager 2647 QuorumPeerMain 22889 RunJar 23322 RunJar
查看某一进程的打开文件数量
# RunJar 就是 HiveServer2 的进程 lsof -p pid | wc -l lsof -p 22627 | wc -l lsof -p 22889 | wc -l lsof -p 23322 | wc -l
广告合作:本站广告合作请联系QQ:858582 申请时备注:广告合作(否则不回)
免责声明:本站资源来自互联网收集,仅供用于学习和交流,请遵循相关法律法规,本站一切资源不代表本站立场,如有侵权、后门、不妥请联系本站删除!
免责声明:本站资源来自互联网收集,仅供用于学习和交流,请遵循相关法律法规,本站一切资源不代表本站立场,如有侵权、后门、不妥请联系本站删除!
暂无评论...
更新日志
2024年05月20日
2024年05月20日
- 张杰《第1张》首版 [WAV+CUE][412M]
- 《永劫无间》反击《王者荣耀》:武道无穷,但请尊重“武道”
- 《星之破晓》回应《永劫无间》:蹭蹭精,莫挨,不欢迎!
- 腾讯网易打起来了!网易新游开喷腾讯太子:王者,你不是我的荣耀
- 摩登澡堂
- 冯晓泉.1995-遥远的城镇遥远的人【京文】【WAV+CUE】
- 蒋志光.1990-相逢·走【永高创意】【WAV+CUE】
- 挑战者 Challengers
- 群星.2014-电影歌曲101.6CD【环球】【WAV+CUE】
- 母亲的直觉 Mothers' Instinct
- 凶猛动物在哪里怎么接?任务完成攻略分享
- 原画壁纸及美图第226期,无水印可自取
- 七圣召唤打牌怎么玩?打牌玩法流程介绍
- 恋爱视觉小说游戏《机械恋心》上架Steam!本月发售
- 星穹铁道2.2匹诺康尼大剧院梦境迷钟解密合集 匹诺康尼大剧院迷钟修复攻略