云主机测试Flink磁盘满问题解决

问题描述:

使用云主机测试Flink时,根目录满了。 经排查发现运行Flink任务后根目录空间一直在减少,最后定位持续增加的目录是/tmp目录

解决方法:

修改Flink配置使用一个相对较大的磁盘目录做为Flink运行时目录

Override the directories for temporary files. If not specified, the

system-specific Java temporary directory (java.io.tmpdir property) is taken.

For framework setups on Yarn, Flink will automatically pick up the

containers' temp directories without any need for configuration.

Add a delimited list for multiple directories, using the system directory

delimiter (colon ':' on unix) or a comma, e.g.:

/data1/tmp:/data2/tmp:/data3/tmp

Note: Each directory entry is read from and written to by a different I/O

thread. You can include the same directory multiple times in order to create

multiple I/O threads against that directory. This is for example relevant for

high-throughput RAIDs.

io.tmp.dirs: /dev/shm/tmp

问题解决

相关推荐
飘忽不定的bug几秒前
重启Lubuntu系统出现桌面背景变成黑色问题
linux·ubuntu
high2011几秒前
【Auron】-- 让 Spark SQL/DataFrame 跑得更快
大数据·sql·spark
无垠的广袤1 分钟前
【工业树莓派 CM0 NANO 单板计算机】MLX90640 热成像仪
linux·python·树莓派·传感器
编码者卢布2 分钟前
【Azure Container App】Debug Console的调试工具试验(二)-- lsof/ util-linux / netcat / wget
linux·flask·azure
smile_5me3 分钟前
RK3588 Ubuntu显示异常
linux·运维·ubuntu
艾莉丝努力练剑5 分钟前
【MYSQL】MYSQL学习的一大重点:MYSQL库的操作
android·linux·运维·数据库·人工智能·学习·mysql
咋吃都不胖lyh10 分钟前
WSL2(Linux)+ VSCode 运行 D 盘 Python 文件全流程文档
linux·vscode·python
GEO_Huang11 分钟前
定义未来办公:数谷AgentOffice如何实现规模化提效
大数据·运维·人工智能·自动化·aigc
Okailon11 分钟前
Linux上的录屏经历 kazam OBS ffmpeg 及 oCam(Win) filmage screen(Mac)
linux·macos·ffmpeg