admin管理员组

文章数量:1618715

Spark任务：Job aborted due to stage failure: Task 0 in stage 2.0 failed 4 times, most recent failure问题

跑Spark任务时报错，复制任务id(application_1111_222)到yarn页面中检索，发现报以下错误：
Job aborted due to stage failure: Task 0 in stage 2.0 failed 4 times, most recent failure

使用sc读取集群某路径下的日志，并且按照分隔符切分"\t"，split("/t",-1)，产生了数组下标越界，原因是在切分时并不能保证每一条的日志都是正常

#解决方案：

所以需要使用try catch 来处理异常即可

本文标签： dueStageabortedSparkjob

版权声明：本文标题：Spark任务：Job aborted due to stage failure: Task 0 in stage 2.0 failed 4 times, most recent failure问题 内容由热心网友自发贡献，该文观点仅代表作者本人， 转载请联系作者并注明出处：https://www.elefans.com/dongtai/1728785760a1173305.html， 本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，一经查实，本站将立刻删除。