云主机测试Flink磁盘满问题解决

问题描述:

使用云主机测试Flink时,根目录满了。 经排查发现运行Flink任务后根目录空间一直在减少,最后定位持续增加的目录是/tmp目录

解决方法:

修改Flink配置使用一个相对较大的磁盘目录做为Flink运行时目录

Override the directories for temporary files. If not specified, the

system-specific Java temporary directory (java.io.tmpdir property) is taken.

For framework setups on Yarn, Flink will automatically pick up the

containers' temp directories without any need for configuration.

Add a delimited list for multiple directories, using the system directory

delimiter (colon ':' on unix) or a comma, e.g.:

/data1/tmp:/data2/tmp:/data3/tmp

Note: Each directory entry is read from and written to by a different I/O

thread. You can include the same directory multiple times in order to create

multiple I/O threads against that directory. This is for example relevant for

high-throughput RAIDs.

io.tmp.dirs: /dev/shm/tmp

问题解决

相关推荐
夏洛克信徒11 分钟前
从 “工具” 到 “代理”:Gemini 3.0 重构 AI 能力边界,开启智能协作新纪元
大数据·人工智能·神经网络
Caitlin_lee_1 小时前
SCAU数据科学与大数据技术导论期末整理(1-3章)
大数据
讨厌下雨的天空2 小时前
Linux信号
linux·运维·c++
赖small强2 小时前
【Linux C/C++开发】第26章:系统级综合项目理论
linux·c语言·c++
SCandL1522 小时前
安全上下文的修改实验
linux
ragnwang2 小时前
Ubuntu /home 分区安全扩容教程
linux·运维·ubuntu
Azure++2 小时前
Centos安装clickhouse
linux·clickhouse·centos
濊繵2 小时前
Linux网络--应用层自定义协议与序列化
linux·服务器·网络
潇凝子潇3 小时前
Linux 服务器实时监控Shell 脚本
linux·服务器·chrome