한 번에 수천 개의 행만 읽을 수있는 dbReadTable 방법이 있습니까?
예를 들어 필자는 600 만 행의 Postgres 데이터베이스에서 dtable을 (필요에 따라) 읽으려고합니다. dtable 전체를 읽으려고 할 때 RStudio는 결국 멈추거나 끝나지 않습니다.
말 1 - 10000 행을 읽은 다음 100,001-200,000 행을 읽은 다음 200,001-300,000 행을 읽도록 지정할 수 있습니까?
프로세스를 신속하게 처리 할 수 있도록 읽을 열을 지정하는 것에 익숙하므로 걱정할 필요가 없습니다.거대한 크기의 PostgreSQL db에서 dbReadTable을 사용하는 방법
0
A
답변
0
는 @ r2evans에서 알 수 있듯이, 10 행마다 테이블을 슬라이스 쿼리에서 읽을 반복 dbGetQuery()
통화와 SQL을 실행 해보십시오 : 그러나
# VECTOR OF 60 SQL STATEMENTS TO QUERY 100,000 ROWS SKIPPING 100000 EACH TIME
sqls <- paste0("SELECT col1, col2, col3, col4, col5 FROM mytable LIMIT 100000 OFFSET ",
seq(0, 5900000, by=100000))
# ROW BIND 60 DATASETS OF 100,000 ROWS
finaldf <- do.call(rbind, lapply(sqls, function(s) dbGetQuery(conn, s))
,이 do.call
가 매우 느리고에 광범위 할 수 있습니다 가정 운영. 포스트 그레스에서 검색 dataframes의 목록 결박 행 타사 패키지 (plyr
, dplyr
을 data.table
) 고려 :/:
postgresdfs <- lapply(sqls, function(s) dbGetQuery(conn, s))
plyr::rbind.fill(postgresdfs)
plyr::ldply(postgresdfs, data.frame)
dplyr::bind_rows(postgresdfs)
data.table::rbindlist(postgresdfs)
관련 문제
- 1. Android 거대한 이미지에서 전체 크기의 webview를 사용하는 방법
- 2. 거대한 페이지 크기의 가치를 얻는 방법?
- 3. DB에서 클라이언트로 거대한 데이터를 스트리밍하는 방법
- 4. greenplum DB에서 작동하는 postgreSQL 쿼리 스케줄링
- 5. PostgreSQL db에서 확장 기능을 만드는 방법
- 6. 거대한 PostgreSQL 테이블의 성능 문제
- 7. 젠드 db에서 유니온을 사용하는 방법
- 8. 오라클 DB에서 Oracle DB로 거대한 데이터를 내보내는 가장 좋은 방법
- 9. SQL 서버에 거대한 크기의 로그 파일이 있습니다.
- 10. 거대한 크기의 배열을 뒤집는 방법은 무엇입니까?
- 11. 키로 무한 크기의 거대한 json 데이터 저장
- 12. PostgreSQL : 거대한 데이터를 테이블에 삽입하는 방법은 무엇입니까?
- 13. 거대한 PostgreSQL 테이블 - 매우 느리게 선택하여 업데이트하십시오.
- 14. PostgreSQL : 거대한 그래프를 저장하고 쿼리하기 위해 데이터베이스를 최적화하는 방법
- 15. Oracle DB에서 이식 중입니다. MySQL 또는 PostgreSQL?
- 16. Doctrine 및 Postgresql, DB에서 모델 생성 문제
- 17. PostgreSQL DB에서 하나씩 레코드를 가져 오는 중
- 18. PostgreSQL DB에서 타임 스탬프의 최대 한도 조회
- 19. heroku에서 호스팅되는 PostgreSQL db에서 스키마를 다운로드하려면 어떻게해야합니까?
- 20. PostgreSQL DB에서 고유 제약 조건을 제거하려면 어떻게해야합니까?
- 21. 거대한 데이터로 itertools 제품을 사용하는 방법
- 22. 거대한 테이블에 인덱스를 사용하는 가장 좋은 방법
- 23. 거대한 콜렉션을 처리하기 위해 pymongo를 사용하는 방법
- 24. HTML5 Indexed Db에서 조인을 사용하는 방법?
- 25. sqlite db에서 아랍어 텍스트를 사용하는 방법?
- 26. 가변 크기의 벡터에 교차 곱을 사용하는 방법
- 27. 거대한 테이블을 다루는 방법?
- 28. DB에서 거대한 데이터를 가져올 때 메모리 부족 예외가 발생했습니다.
- 29. PostgreSQL/Access 조합에서 serial/autonumber를 사용하는 방법
- 30. Postgresql : ENUM 데이터 형식을 사용하는 방법?
당신은 ['LIMIT'과'OFFSET'] (https로 SQL에서이 작업을 수행 할 필요가 /postgresql.org/docs/9.6/static/queries-limit.html). – r2evans