누구나 Elasticsearch for Hadoop library을 사용하여 Kubernetes 클러스터를 구성한 경험이 있는지 궁금합니다. spark에서 elasticsearch로 쓰기를 시도 할 때 노드 발견 시간 초과 문제가 발생합니다. 발견을 처리하는 ES 용 elasticsearch-cloud-kubernetes 플러그인 덕분에 Elasticsearch가 실행 중입니다. 그러나 kubernetes 클러스터 내의 노드 (포드)를 인식하기 위해 elasticsearch-hadoop을 구성하는 것이 최선인지 모르겠습니다. 나는 spark.es.nodes
을 es-client 서비스에 설정하려고했지만 작동하지 않는 것 같습니다. 또한 es.nodes.wan.only
을 활성화 할 수 있다는 것을 알고 있지만 설명서에 언급 된대로 은 심각하게의 성능에 영향을 미쳐 동일한 클러스터에서 실행되는 것을 막을 수 있습니다. 어떤 도움을 주시면 감사하겠습니다.Kubernetes의 Apache Spark 용 Elasticsearch를 배포하십시오.
3
A
답변
0
나는 elasticsearch-hadoop에서 교육 받았지만 elasticsearch-hadoop을 특정 노드 대신 elasticsearch 서비스로 지정해 보았습니까? 마스터 노드는 일반적으로 ES 클러스터의 모든 것을 관리합니다.
관련 문제
- 1. UDP 용 Apache Spark 사용
- 2. 아파치에 elasticsearch를 연결하는 방법 spark 스트리밍이나 폭풍?
- 3. Heroku에 Apache Spark 배포
- 4. SQLContext :: IndexError가있는 Apache SPARK
- 5. Apache spark- bigdata
- 6. Apache SPARK GroupByKey alternate
- 7. Apache Spark/GraphX지도상의 제한
- 8. Apache Spark 네이티브 라이브러리
- 9. Apache Spark - java.lang.NoSuchMethodError : breeze.linalg.DenseVector
- 10. Apache Spark - 백엔드 서버
- 11. couchbase로 Apache Spark 연결하기
- 12. Apache Spark RDD 스플릿 "|"
- 13. Talend와 Apache Spark?
- 14. Apache Spark mapPartitionsWithIndex
- 15. Apache Spark SQL Documentation
- 16. Sortbykey in apache spark
- 17. spark 다운로드없이 spark 스트리밍 사용 Apache
- 18. Apache Spark K-Means 클러스터링 - 입력 용 RDD
- 19. Apache Spark Maven 앱을 릴리스하고 개발하기위한 종속성
- 20. Apache Spark RDD 값 조회
- 21. Kickstart @ Apache spark with java
- 22. AMPLab Shark on Apache Spark
- 23. Apache Spark, 시계열 분석 기능
- 24. Apache Spark SQL 컨텍스트 dropDuplicates
- 25. Kafka Streaming with apache spark
- 26. Windows 7에서 Apache Spark 실행
- 27. Apache Spark Count 상태 변경
- 28. Apache Zeppelin 구성 (Spark 포함)
- 29. Apache Spark - 상관 관계 계산
- 30. Apache Spark : 스칼라 문제 예