spark 提交submit任务的shell脚本

编程入门 行业动态 更新时间:2024-10-25 12:27:11

sudo -u hdfs /usr/hdp/2.6.5.0-292/spark2/bin/spark-submit
–master yarn
–deploy-mode cluster
–driver-cores 1
–driver-memory 2g
–num-executors 3
–executor-memory 1g
–executor-cores 1
–class main.scala.controllers.test.TestDealData
–conf spark.default.parallelism=9
–conf spark.storage.memoryFraction=0.4
–conf spark.shuffle.memoryFraction=0.4
/bigdata/app_jars/bigdataCount.jar

更多推荐

脚本,spark,submit,shell

本文发布于:2023-05-25 10:42:08,感谢您对本站的认可!
本文链接:https://www.elefans.com/category/jswz/34/226458.html
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。
本文标签:脚本   spark   submit   shell

发布评论

评论列表 (有 0 条评论)
草根站长

>www.elefans.com

编程频道|电子爱好者 - 技术资讯及电子产品介绍!