如何提交一个Spark罐子到EMR集群?

编程入门 行业动态 更新时间:2024-10-12 08:15:48
本文介绍了如何提交一个Spark罐子到EMR集群?的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧! 问题描述

我已经使用了网上AWS控制台启动我的集群以及与Apache的火花。我根据我的Spark应用程序中的脂肪罐子,我已经上传到一个S3桶。 当我尝试它作为一个步骤使用自定义罐发送,该过程将失败。 任何指针将大大AP preciated。

I have used the online AWS console to launch my cluster along with Apache Spark. I have a fat jar based on my Spark app and I have uploaded it to a S3 Bucket. When I try to send it as a Step with a Custom Jar, the process fails. Any pointers would be greatly appreciated.

推荐答案

使用的 EMR引导安装星火,并作为文档中描述提交作业: github/awslabs/emr-bootstrap-actions/blob/master/spark/examples/spark-submit-via-step.md

Use EMR bootstrap to install Spark, and submit the job as described in the documentation: github/awslabs/emr-bootstrap-actions/blob/master/spark/examples/spark-submit-via-step.md

更多推荐

如何提交一个Spark罐子到EMR集群?

本文发布于:2023-11-23 16:30:26,感谢您对本站的认可!
本文链接:https://www.elefans.com/category/jswz/34/1622129.html
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。
本文标签:罐子   集群   Spark   EMR

发布评论

评论列表 (有 0 条评论)
草根站长

>www.elefans.com

编程频道|电子爱好者 - 技术资讯及电子产品介绍!