2016-11-11 2 views
0

저는 파이썬에서 데이터를 조작하기 위해 팬더를 사용합니다.Java ResultSet을 Spark DataFrame으로 변환

저는 Spark의 DataFrame을 통해 Java로 개발중인 프로그램에이 구조체를 사용하고자했습니다.

SQL Server에서 데이터를 가지고 있는데, 결과는 ResultSet입니다. 이것을 DataFrame

으로 변환하고 싶습니다. 어떻게 변환합니까? SQL 결과를 DataFrame으로 직접 변환하는 더 쉬운 방법이 있습니까?


편집 : 나는 지금 내가 어디 테이블을 지정할 수있는 방법/Exception in thread "main" java.lang.RuntimeException: Option 'dbtable' not specified 받고 있어요 자세한

public static SparkSession spark = SparkSession 
     .builder() 
      .master("local[*]") 
     .appName("Java Spark SQL basic example") 
     .getOrCreate(); 

    Map<String, String> options = new HashMap<String, String>(); 
    options.put("url", "jdbc:jtds:sqlserver://<clipped>"); 
    spark.read().format("jdbc").options(options).load(); 

    Dataset<Row> sqlDF = spark.sql("SELECT TOP 1 * FROM HEDE); 

아래 SparkSession를 통해 SQL Server에 연결을 시도?

options.put("dbtable", "some_table"); 

또는 JDBC 방법을 사용하여 : :

답변

0

당신은 옵션에서 테이블을 지정할 수 있습니다 propertiesjava.util.Properties

spark.read().jdbc("jdbc:jtds:sqlserver://<clipped>", "some_table", properties) 

입니다.

관련 문제