6

quick start guide에서 설명한대로 권장 사항 엔진을 배포하려고합니다. 엔진을 구축하기위한 단계를 완료했습니다. 이제 추천 엔진을 교육하고 싶습니다. 나는 퀵 스타트 가이드에서 언급 한대로했다. (pio train 실행). 그런 다음 오랜 오류 로그가 표시되고 여기에 모두 붙여 넣을 수 없습니다. 그래서 나는 처음 몇 줄의 오류를 싣고있다.Predictionio에서 데이터를 학습 할 때 예외가 발생했습니다.

[INFO] [Console$] Using existing engine manifest JSON at /home/PredictionIO/PredictionIO-0.9.6/bin/MyRecommendation/manifest.json 
[INFO] [Runner$] Submission command: /home/PredictionIO/PredictionIO-0.9.6/vendors/spark-1.5.1-bin-hadoop2.6/bin/spark-submit --class io.prediction.workflow.CreateWorkflow --jar/PredictionIO/PredictionIO-0.9.6/bin/MyRecommendation/target/scala-2.10/template-scala-parallel-recommendation_2.10-0.1-SNAPSHOT.jar,file:/home/PredictionIO/PredictionIO-0.9.6/bndation/target/scala-2.10/template-scala-parallel-recommendation-assembly-0.1-SNAPSHOT-deps.jar --files file:/home/PredictionIO/PredictionIO-0.9.6/conf/log4j.properties --driver/home/PredictionIO/PredictionIO-0.9.6/conf:/home/PredictionIO/PredictionIO-0.9.6/lib/postgresql-9.4-1204.jdbc41.jar:/home/PredictionIO/PredictionIO-0.9.6/lib/mysql-connector-jav file:/home/PredictionIO/PredictionIO-0.9.6/lib/pio-assembly-0.9.6.jar --engine-id qokYFr4rwibijNjabXeVSQKKFrACyrYZ --engine-version ed29b3e2074149d483aa85b6b1ea35a52dbbdb9a --et file:/home/PredictionIO/PredictionIO-0.9.6/bin/MyRecommendation/engine.json --verbosity 0 --json-extractor Both --env PIO_ENV_LOADED=1,PIO_STORAGE_REPOSITORIES_METADATA_NAME=pFS_BASEDIR=/root/.pio_store,PIO_HOME=/home/PredictionIO/PredictionIO-0.9.6,PIO_FS_ENGINESDIR=/root/.pio_store/engines,PIO_STORAGE_SOURCES_PGSQL_URL=jdbc:postgresql://localhost/pGE_REPOSITORIES_METADATA_SOURCE=PGSQL,PIO_STORAGE_REPOSITORIES_MODELDATA_SOURCE=PGSQL,PIO_STORAGE_REPOSITORIES_EVENTDATA_NAME=pio_event,PIO_STORAGE_SOURCES_PGSQL_PASSWORD=pio,PIURCES_PGSQL_TYPE=jdbc,PIO_FS_TMPDIR=/root/.pio_store/tmp,PIO_STORAGE_SOURCES_PGSQL_USERNAME=pio,PIO_STORAGE_REPOSITORIES_MODELDATA_NAME=pio_model,PIO_STORAGE_REPOSITORIES_EVENTDGSQL,PIO_CONF_DIR=/home/PredictionIO/PredictionIO-0.9.6/conf 
[INFO] [Engine] Extracting datasource params... 
[INFO] [WorkflowUtils$] No 'name' is found. Default empty String will be used. 
[INFO] [Engine] Datasource params: (,DataSourceParams(MyApp3,None)) 
[INFO] [Engine] Extracting preparator params... 
[INFO] [Engine] Preparator params: (,Empty) 
[INFO] [Engine] Extracting serving params... 
[INFO] [Engine] Serving params: (,Empty) 
[WARN] [Utils] Your hostname, test-digin resolves to a loopback address: 127.0.1.1; using 192.168.2.191 instead (on interface p5p1) 
[WARN] [Utils] Set SPARK_LOCAL_IP if you need to bind to another address 
[INFO] [Remoting] Starting remoting 
[INFO] [Remoting] Remoting started; listening on addresses :[akka.tcp://[email protected]:56574] 
[WARN] [MetricsSystem] Using default name DAGScheduler for source because spark.app.id is not set. 
[INFO] [Engine$] EngineWorkflow.train 
[INFO] [Engine$] DataSource: [email protected] 
[INFO] [Engine$] Preparator: [email protected] 
[INFO] [Engine$] AlgorithmList: List([email protected]) 
[INFO] [Engine$] Data sanity check is on. 
[INFO] [Engine$] duo.TrainingData does not support data sanity check. Skipping check. 
[INFO] [Engine$] duo.PreparedData does not support data sanity check. Skipping check. 
[WARN] [BLAS] Failed to load implementation from: com.github.fommil.netlib.NativeSystemBLAS 
[WARN] [BLAS] Failed to load implementation from: com.github.fommil.netlib.NativeRefBLAS 
[WARN] [LAPACK] Failed to load implementation from: com.github.fommil.netlib.NativeSystemLAPACK 
[WARN] [LAPACK] Failed to load implementation from: com.github.fommil.netlib.NativeRefLAPACK 
Exception in thread "main" org.apache.spark.SparkException: Job aborted due to stage failure: Task serialization failed: java.lang.StackOverflowError 
java.io.ObjectStreamClass.invokeWriteObject(ObjectStreamClass.java:1028) 
java.io.ObjectOutputStream.writeSerialData(ObjectOutputStream.java:1496) 
java.io.ObjectOutputStream.writeOrdinaryObject(ObjectOutputStream.java:1432) 
java.io.ObjectOutputStream.writeObject0(ObjectOutputStream.java:1178) 
java.io.ObjectOutputStream.defaultWriteFields(ObjectOutputStream.java:1548) 
java.io.ObjectOutputStream.writeSerialData(ObjectOutputStream.java:1509) 
java.io.ObjectOutputStream.writeOrdinaryObject(ObjectOutputStream.java:1432) 
java.io.ObjectOutputStream.writeObject0(ObjectOutputStream.java:1178) 
java.io.ObjectOutputStream.defaultWriteFields(ObjectOutputStream.java:1548) 
java.io.ObjectOutputStream.writeSerialData(ObjectOutputStream.java:1509) 
java.io.ObjectOutputStream.writeOrdinaryObject(ObjectOutputStream.java:1432) 
java.io.ObjectOutputStream.writeObject0(ObjectOutputStream.java:1178) 
java.io.ObjectOutputStream.writeObject(ObjectOutputStream.java:348) 
scala.collection.immutable.$colon$colon.writeObject(List.scala:379) 
sun.reflect.GeneratedMethodAccessor3.invoke(Unknown Source) 
sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43) 
java.lang.reflect.Method.invoke(Method.java:498) 
java.io.ObjectStreamClass.invokeWriteObject(ObjectStreamClass.java:1028) 
java.io.ObjectOutputStream.writeSerialData(ObjectOutputStream.java:1496) 
java.io.ObjectOutputStream.writeOrdinaryObject(ObjectOutputStream.java:1432) 
java.io.ObjectOutputStream.writeObject0(ObjectOutputStream.java:1178) 
java.io.ObjectOutputStream.defaultWriteFields(ObjectOutputStream.java:1548) 
java.io.ObjectOutputStream.writeSerialData(ObjectOutputStream.java:1509) 
java.io.ObjectOutputStream.writeOrdinaryObject(ObjectOutputStream.java:1432) 
java.io.ObjectOutputStream.writeObject0(ObjectOutputStream.java:1178) 
java.io.ObjectOutputStream.defaultWriteFields(ObjectOutputStream.java:1548) 
java.io.ObjectOutputStream.writeSerialData(ObjectOutputStream.java:1509) 
java.io.ObjectOutputStream.writeOrdinaryObject(ObjectOutputStream.java:1432) 
java.io.ObjectOutputStream.writeObject0(ObjectOutputStream.java:1178) 
java.io.ObjectOutputStream.defaultWriteFields(ObjectOutputStream.java:1548) 
java.io.ObjectOutputStream.writeSerialData(ObjectOutputStream.java:1509) 
java.io.ObjectOutputStream.writeOrdinaryObject(ObjectOutputStream.java:1432) 
java.io.ObjectOutputStream.writeObject0(ObjectOutputStream.java:1178) 
java.io.ObjectOutputStream.defaultWriteFields(ObjectOutputStream.java:1548) 
java.io.ObjectOutputStream.writeSerialData(ObjectOutputStream.java:1509) 
java.io.ObjectOutputStream.writeOrdinaryObject(ObjectOutputStream.java:1432) 
java.io.ObjectOutputStream.writeObject0(ObjectOutputStream.java:1178) 
java.io.ObjectOutputStream.defaultWriteFields(ObjectOutputStream.java:1548) 

이 발행을 어떻게 극복 할 수 있습니까?

+0

메모리 문제 인 것 같습니다. 드라이버 메모리 제한을 늘려 보셨습니까? – Anzel

+0

4 코어, 6GB RAM 및 Ubuntu 14.04 서버를 사용하고 있습니다. 모델을 교육하는 동안 서버의 성능을 모니터링하지만 스왑 메모리를 사용하지 않았거나 6GB를 모두 사용하지 않았습니다. 그래서 저는 예외가 다른 것이라고 생각합니다. –

+0

그러나 위에서 게시 한 예외로 판단하면 참으로 메모리 관련입니다. '--driver-memory'와'--executor-memory' 플래그를'4G' 이상으로 실행하여 도움이되는지 확인하십시오. – Anzel

답변

4

engine.json 파일에 numIterations parameter을 줄일 수 있다는 내용의 오류 메시지는 java.lang.StackOverflowError입니다. this을 참조하십시오.

-1

8GB MacOS 컴퓨터에서도 비슷한 문제가 발생했습니다. /MyRecommendation/engine.json의 numIterations 매개 변수를 10으로 변경하면 (기본값은 20 이었음) 문제가 해결되었습니다. pio 열차에서 --driver-memory 및 --executor-memory를 사용하지 않았습니다.

+0

스택 오버플로에 오신 것을 환영합니다! 우리가 당신의 대답에 대해 당신에게 감사하지만 그것이 다른 답변들 위에 부가적인 가치를 제공했다면 더 좋을 것입니다. 이 경우 다른 사용자가 이미 해당 솔루션을 게시했기 때문에 귀하의 대답은 추가적인 가치를 제공하지 않습니다. 이전 답변이 도움이 되었다면 동일한 정보를 반복하지 말고 투표해야합니다. –

관련 문제