删除气流任务日志

编程入门 行业动态 更新时间:2024-10-12 01:21:38
本文介绍了删除气流任务日志的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧! 问题描述

我正在运行5个DAG,在过去的一个月中,它们在 base_log_folder 中总共生成了大约6GB的日志数据。我只是添加了 remote_base_log_folder ,但似乎并不排除登录到 base_log_folder 。

I'm running 5 DAG's which have generated a total of about 6GB of log data in the base_log_folder over a months period. I just added a remote_base_log_folder but it seems it does not exclude logging to the base_log_folder.

有没有自动删除旧日志文件,旋转日志文件或强制气流不将其仅登录到远程存储中的磁盘(base_log_folder)?

Is there anyway to automatically remove old log files, rotate them or force airflow to not log on disk (base_log_folder) only in remote storage?

推荐答案

请参考 github/teamclairvoyant/ airflow-maintenance-dags

此插件具有DAG,可以杀死已暂停的任务并清除日志。 您可以掌握这些概念,并提出可以根据您的要求进行清理的新DAG。

This plugin has DAGs that can kill halted tasks and log-cleanups. You can grab the concepts and can come up with a new DAG that can cleanup as per your requirement.

更多推荐

删除气流任务日志

本文发布于:2023-10-18 23:24:50,感谢您对本站的认可!
本文链接:https://www.elefans.com/category/jswz/34/1505720.html
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。
本文标签:气流   日志

发布评论

评论列表 (有 0 条评论)
草根站长

>www.elefans.com

编程频道|电子爱好者 - 技术资讯及电子产品介绍!