在写spark代码的时候,经常会遇到文件夹路径存在的情况,一般有以下的解决方式
1.在shell脚本中 直接调用hadoop fs -rm path
2.通过设置可直接覆盖文件路径,此方法我没有测试
- yourSparkConf.set("spark.hadoop.validateOutputSpecs", "false")
- val sc = SparkContext(yourSparkConf)
3.通过Hadoop方式删除已存在的文件目录
- val path = new Path("hdfs://xxx");
- val hdfs = org.apache.hadoop.fs.FileSystem.get(
- new java.net.URI("hdfs://x"), new org.apache.hadoop.conf.Configuration())
- if (hdfs.exists(path)) hdfs.delete(path, false)
4.通过spark自带的hadoopconf方式删除
- val hadoopConf = sparkContext.hadoopConfiguration
- val hdfs = org.apache.hadoop.fs.FileSystem.get(hadoopConf)
- if(hdfs.exists(path)){
- //为防止误删,禁止递归删除
- hdfs.delete(path,false)
- }