2. Spark报错,Task is Failed,errorMsg: FileNotFoundException xxxx

编程入门 行业动态 更新时间:2024-10-12 12:22:56

2. Spark<a href=https://www.elefans.com/category/jswz/34/1771188.html style=报错,Task is Failed,errorMsg: FileNotFoundException xxxx"/>

2. Spark报错,Task is Failed,errorMsg: FileNotFoundException xxxx

完整报错信息
21304, Task is Failed,errorMsg: FileNotFoundException: File does not exist: hdfs://xxxx-bigdata-nameservice/user/hive/warehouse/edw_ic.db/xxxx/part-00000-c8a718b3-54b3-42de-b36c-d6eedefd2e02-c000.snappy.parquet It is possible the xxx
报错场景

Airflow 调度脚本更新表xxxx的数据后,使用SparkSQL 查询表xxxx数据报如上错误。

解决方案

刷新表或重新创建相关的Dataset/DataFrame以使缓存失效。
还可以在Spark中通过运行 REFRESH TABLE tableName 命令来刷新表,或者重新创建相关的Dataset/DataFrame。

REFRESH TABLE tableName

更多推荐

2. Spark报错,Task is Failed,errorMsg: FileNotFoundException xxxx

本文发布于:2023-11-15 20:03:36,感谢您对本站的认可!
本文链接:https://www.elefans.com/category/jswz/34/1605498.html
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。
本文标签:报错   Task   Spark   FileNotFoundException   xxxx

发布评论

评论列表 (有 0 条评论)
草根站长

>www.elefans.com

编程频道|电子爱好者 - 技术资讯及电子产品介绍!