我能跑Spark
工作使用BashOperator
但我想用SparkSubmitOperator
对于它使用Spark
独立模式.
Here's my DAG
for SparkSubmitOperator
and 堆栈跟踪
args = {
'owner': 'airflow',
'start_date': datetime(2018, 5, 24)
}
dag = DAG('spark_job', default_args=args, schedule_interval="*/10 * * * *")
operator = SparkSubmitOperator(
task_id='spark_submit_job',
application='/home/ubuntu/test.py',
total_executor_cores='1',
executor_cores='1',
executor_memory='2g',
num_executors='1',
name='airflow-spark',
verbose=False,
driver_memory='1g',
conf={'master':'spark://xx.xx.xx.xx:7077'},
dag=dag,
)
查看源代码spark_submit_hook它似乎_resolve_connection()
总是设置master=yarn
。我该如何改变master
属性值 by Spark
独立主 URL?我可以设置运行哪些属性Spark
job in 独立模式?