데이터를 MySql에 삽입하는 데 문제가 있습니다. 사용중인 데이터 세트는 크고 사이버 공격에 대한 데이터입니다. 예를 들어 현재 작업중인 데이터에는 약 25,000 개의 레코드가 있고 새 스키마를 만들고 데이터를 삽입 할 때마다 1000 개의 레코드 만로드됩니다. 나는 여러 번 시도했지만 그 결과는 여전히 동일합니다. 제가 읽고 있기 때문에 저를 도와주세요. 그리고 큰 데이터 세트는 MySql에서 문제가되지 않는다고합니다.MySql에 큰 데이터 세트 업로드
답변
MySQL의 LOAD DATA INFILE을 살펴보십시오. 실제 검색 엔진에 들어가기 전에 수백만 행이 포함 된 3 시간 단위의 스냅 샷을 내보내야했습니다. 그래서 우리는 SELECT INTO OUTFILE을 통해 데이터를 내 보낸 다음 에지 노드에서 LOAD DATA INFILE을 수행했습니다. 가장 큰 데이터베이스 (5 백만 +)에 대한 데이터를로드하는 데 약 15 분이 걸렸습니다.
감사합니다, 나는 그것을 시도합니다. 내 데이터는 귀하의 데이터에 비해 매우 작습니다. 희망을 품을 수있을 것입니다. 상태를 알려줍니다. – user1092074
@ user1092074 : 행운을 빕니다. –
아주 오래된 질문입니다. 여기서 비틀 거리는 사람들에게는 2 센트입니다.
25,000 레코드가 너무 작아서 mysql에 문제가 발생하지 않습니다. 우리는 수백만 개의 행을 가진 수백 개의 테이블을 가지고 있습니다. 말하자면, 당신은 라스베리 파이에서 mysql을 돌리고있다.
입력 레코드의 크기는 문제가되지 않습니다. 내가 생각할 수있는 두 가지 잠재적 인 이유는 다음과 같습니다
- 당신이 가지고 당신의로드 INFILE의 옵션 "이 수 LINES 무시".
- 선택에 "LIMIT 1000"옵션이 있습니다. 어떤 종류의 MySQL 클라이언트 프로그램 (예 : SqlYog)을 사용하는 경우, 기본 제한이 있습니다.
- 1. 큰 데이터 세트 -> 텍스트를 MySQL에 다운로드하거나 MySQL에만 다운로드 하시겠습니까?
- 2. 큰 데이터 세트 : innodb로 mysql_unbuffered_query?
- 3. 파싱 JSON 데이터 .... 큰 데이터 세트 아래
- 4. 큰 데이터를위한 분리 세트
- 5. 웹 서비스에서 큰 데이터 세트 출력
- 6. C# 깊이가 3보다 큰 데이터 세트
- 7. Oracle : 테이블에 큰 데이터 세트 삽입
- 8. 다이어그램에서 매우 큰 데이터 세트 플로팅
- 9. PHP로 큰 (객체) 데이터 세트 처리하기
- 10. mySQL에 큰 배열 저장
- 11. MYSQL에 바이트 배열 업로드
- 12. 안드로이드 : 이미지를 mysql에 업로드
- 13. 세트() 데이터
- 14. PHP를 사용하여 mysql에 이미지 업로드
- 15. 대형 데이터 세트 매핑
- 16. , 어떻게 두 데이터 세트
- 17. 데이터 세트 대신 메모리에
- 18. RubyMotion을 사용하여 CoreData로 큰 데이터 세트 가져 오기
- 19. MapReduce 프로그래밍 모델을 사용하여 두 개의 큰 데이터 세트 비교
- 20. CoreData를 사용하여 iPhone에서 큰 데이터 세트 가져 오기
- 21. VCL 구성 요소를 사용하여 그리드에 매우 큰 데이터 세트 표시
- 22. 자동 완성 YUI의 자동 완성 기능을 사용하려고 큰 데이터 세트
- 23. 큰 데이터 세트 (1M +)를 그래프로 표시하기위한 좋은 전략은 무엇입니까?
- 24. PHPExcel 여러 개의 탭이있는 큰 데이터 세트 - 메모리 소모량이 많습니다.
- 25. Python wx에서 Sqlite 데이터베이스의 큰 데이터 세트 표시
- 26. 메모리 또는 클라이언트 측에 큰 데이터 세트 저장
- 27. 큰 데이터 세트 처리 (neo4j, mongo db, hadoop)
- 28. 브라우저에서 큰 데이터 세트 정렬/표시 - JSON의 양이 너무 많습니까?
- 29. WCF로 큰 이미지 업로드 wsHttpBinding
- 30. 매우 큰 android 앱 업로드
그리고 당신의 질문 외에는 무엇이 잘못되었는지 어떻게 알았습니까? – LeleDumbo
mysql에 문제가 없습니다. 어쩌면 그것의 데이터 집합, 또는 사이트에서 데이터를 요청하는 것에 대해 뭔가를 –