2014-09-03 3 views

답변

2

도움이 될한다 HBase를 통해 스파크를 연결하는 방법에 대한이 게시물 : http://www.vidyasource.com/blog/Programming/Scala/Java/Data/Hadoop/Analytics/2014/01/25/lighting-a-spark-with-hbase

Do I just add the hbase address into spark classpath?

번호 사실, 당신은 스파크 클래스 경로에 HBase와의 configuraion 파일을 넣어해야합니다. 그렇지 않다면 다음과 같이 코드에서 설정해야합니다 :

Configuration hConf = HBaseConfiguration.create(conf); 
    hConf.set("hbase.zookeeper.quorum", "PDHadoop1.corp.CompanyName.com,PDHadoop2.corp.CompanyName.com"); 
    hConf.setInt("hbase.zookeeper.property.clientPort", 10000); 
+1

spbase classpath에 hbase 구성 파일을 저장하는 방법을 알려주시겠습니까? - SPARK_CLASSPATH =/path/to/hbase/conf로 내보내기? – RisJi

+0

예. 그러나 그것은 운전자에게만 사용됩니다. 위의 게시물을 읽을 수 있습니다. 코드에서 hbase-site.xml을 읽습니다. – zsxwing

+0

감사합니다! 하지만 이제 오류가 발생합니다 : java.lang.NoSuchMethodError : org.apache.hadoop.net.NetUtils.getInputStream (Ljava/net/Socket;) Ljava/io/InputStream; \t at org.apache.hadoop.hbase.ipc.HBaseClient $ Connection.setupIOstreams (HBaseClient.java:437) – RisJi

관련 문제