DAG加载

DAG加载

cd $AIRFLOW_HOME/dags

将DAG python脚本(fso-prod-v2.0.py,wrf-prod-v2.0.py)放入该目录下

ls -all

> fso-prod-v2.0.py   wrf-prod-v2.0.py

DAG基本构架

以wrf-prod-v2.0.py为例,DAG基本框架为:

vim wrf-prod-v2.0.py

>default_args = {
'owner': 'airflow',
'depends_on_past': False,
'start_date': datetime(2018,8,01),  #任务开始执行的日期#
'end_date': datetime(2030, 12, 31),  #任务开始终止的日期#
 }
> dag = DAG(
'wrf-prod-v2.0', #dag_id
default_args=default_args,
user_defined_macros={ 'npe': 12 },  #运行该DAG所占节点数
schedule_interval='00 06,18 * * *') #任务启动时间:每天北京时间06时,18时
> check_gfs_command ="""
  ulimit -s unlimited  \
  && cd /home/FSO \    #FSO主目录
  && SINGULARITYENV_CURR_DATE={{ ts_nodash }} \
  singularity exec -e -B china_FSO:/FSO3.4 -B china_working:/gjx_working -B china_static:/gjx_static -B /data1/raw/gfs:/gfs fso3.simg ./scripts/wrf_check_gfs.py""" # 将主机路径与容器路径绑定,冒号前是主机目录路径,冒号后面是容器目录路径;运行wrf_check_gfs.py