NoSuchMethodError: org.apache.hadoop.mapred.TaskID"/>
java.lang.NoSuchMethodError: org.apache.hadoop.mapred.TaskID
在运行Spark程序的时候报错java.lang.NoSuchMethodError: org.apache.hadoop.mapred.TaskID.
显然这是一个hadoop的错误,这里首先想到的就是jar包冲突问题,我们在utils工程中引入了hadoop-client的jar包,然后在saprk工程中依赖了utils工程,spark工程中又自己添加了一次hadoop-client 的jar包,才导致了我们jar包的冲突问题。
解决:去掉冲突的jar包,程序即可正常运行
更多推荐
java.lang.NoSuchMethodError: org.apache.hadoop.mapred.TaskID
发布评论