2012-12-11 7 views
1

Amazon의 S3Distcp 도구를 사용하여 EMR에서 MapR을 실행하는 데 문제가 있는지 아는 사람이 있습니까? 내가 그것을 사용하려고하지만,/mnt 아래의/var에서 다음과 같은 예외가 계속있어/로그/하둡/단계 :S3에서 maprfs로 Amazon EMR의 파일 복사

Exception in thread "main" java.lang.RuntimeException: Unable to delete directory hdfs:/tmp/e9333a37-f400-4982-9687-326e33d9b37d/files 
at com.amazon.external.elasticmapreduce.s3distcp.S3DistCp.deleteRecursive(S3DistCp.java:606) 
at com.amazon.external.elasticmapreduce.s3distcp.S3DistCp.run(S3DistCp.java:464) 
at com.amazon.external.elasticmapreduce.s3distcp.S3DistCp.run(S3DistCp.java:216) 
at org.apache.hadoop.util.ToolRunner.run(ToolRunner.java:65) 
at org.apache.hadoop.util.ToolRunner.run(ToolRunner.java:79) 
at com.amazon.external.elasticmapreduce.s3distcp.Main.main(Main.java:12) 
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method) 
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39) 
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25) 
at java.lang.reflect.Method.invoke(Method.java:597) 
at org.apache.hadoop.util.RunJar.main(RunJar.java:186) 
Caused by: java.io.IOException: Incomplete HDFS URI, no host: hdfs:/tmp/e9333a37-f400-4982-9687-326e33d9b37d/files 
at org.apache.hadoop.hdfs.DistributedFileSystem.initialize(DistributedFileSystem.java:85) 
at org.apache.hadoop.fs.FileSystem.createFileSystem(FileSystem.java:1416) 
at org.apache.hadoop.fs.FileSystem.access$100(FileSystem.java:69) 
at org.apache.hadoop.fs.FileSystem$Cache.getInternal(FileSystem.java:1450) 
at org.apache.hadoop.fs.FileSystem$Cache.get(FileSystem.java:1432) 
at org.apache.hadoop.fs.FileSystem.get(FileSystem.java:232) 
at com.amazon.external.elasticmapreduce.s3distcp.S3DistCp.deleteRecursive(S3DistCp.java:603) 

내가 작업 단계를 제출 사용하고 명령 줄은 다음과 같습니다

elastic-mapreduce --jobflow $JOB_ID --jar s3://us-east-1.elasticmapreduce/libs/s3distcp/1.latest/s3distcp.jar \ 
--args '--src,s3n://PVData/raw, \ 
--dest,/PVData/raw' 

--dest 인수에 대해 maprfs : /// PVData/raw 및 hdfs : /// PVData/raw도 시도했지만 어느 것도 작동하지 않습니다.

답변

2

MapR 포럼 (http://bit.ly/S7gzcv)에서이 질문에 대한 답변을 얻었습니다. 문제는 s3distcp에 --tmpDir 인수를 사용하여 maprfs : /// tmp로 임시 디렉토리를 지정해야한다는 것입니다.

관련 문제