在气流教程中,BashOperator
具有输出(通过echo
)。如果任务在调度程序中运行,您将在何处查看输出?有没有游戏机之类的?我确定我找错地方了。
发布于 2018-07-26 05:05:30
就像@tobi6所说的,您可以根据环境在DAG服务器或控制台中查看DAG运行的输出。
要在您的your服务器中执行此操作:
click of the >选择您刚刚运行的DAG,然后在该DAG中输入您要查看其输出的任务。在接下来的弹出窗口中,单击View Log
.
如果要查看运行时的日志,请在airflow_home
目录中执行此操作。
来自Airflow官方文档的
用户可以在airflow.cfg中指定日志文件夹。默认情况下,它位于AIRFLOW_HOME目录中。
此外,用户还可以提供一个远程位置,用于在云存储中存储日志和日志备份。目前支持亚马逊S3和谷歌云存储。要启用此功能,必须按照以下示例配置airflow.cfg:
core # Airflow可以将日志远程存储在亚马逊网络服务S3或谷歌云存储中。Users #必须提供远程位置URL (以's3://...‘开头)或# 'gs://...')以及提供对存储#位置的访问的气流连接id。remote_base_log_folder = s3://my-bucket/path/ to /logs remote_log_conn_id = MyS3Conn #对存储在S3中的日志使用服务器端加密encrypt_s3_logs = False远程日志记录使用现有的气流连接来读/写日志。如果您没有正确设置连接,则此操作将失败。
在上面的例子中,Airflow将尝试使用S3Hook('MyS3Conn')。
在Airflow Web UI中,本地日志优先于远程日志。如果找不到或访问不到本地日志,将显示远程日志。请注意,日志仅在任务完成(包括失败)后才会发送到远程存储。换句话说,运行任务的远程日志不可用。日志以{dag_id}/{task_id}/{execution_date}/{try_number}.log.的形式存储在日志文件夹中
发布于 2020-03-08 13:30:08
如果任务处于Airflow状态,下面是如何在web UI中查找其日志的方法:
的名称
的弹出窗口中单击[查看日志]按钮
https://stackoverflow.com/questions/51524244
复制相似问题