Oracle 데이터베이스에서 데이터 테이블을 노출하고 apache kafka에 노출하고 싶습니다. 기술적으로 가능한가? 또한 데이터를 내 Oracle 테이블에서 스트리밍하고 Kafka에 알려야합니다. 이 사용 사례에 대한 훌륭한 문서를 알고 계십니까? 감사합니다.Apache kafka를 사용하는 Oracle 복제 데이터
답변
Kafka Connect을 사용하여 카프카로 데이터를 가져 오거나 내보낼 수 있습니다. Kafka Connect를 사용하면 코드를 작성할 필요가 없기 때문에 매우 간단합니다. 커넥터를 구성하기 만하면됩니다.
커넥터를 사용할 수없고 자신의 커넥터를 제공하려는 경우에만 코드를 작성하면됩니다. 이미 50 개 이상의 커넥터를 사용할 수 있습니다.
https://www.confluent.io/product/connectors/ 당신은 Oracle 데이터베이스에서 데이터를로드 할 수 카프카 연결 JDBC 소스 커넥터가 필요합니다 플루 Inc의에서 Oracle 용 커넥터 ("골든 게이트")이
. Confluent의 오픈 소스 번들 커넥터가 있습니다. 이 패키지는 스키마 레지스트리를 포함하여 나머지 Confluent Platform으로 패키징되어 테스트되었습니다. 이 커넥터를 사용하는 것은 간단한 커넥터 구성을 작성하고 독립형 Kafka Connect 프로세스를 시작하거나 Kafka Connect 클러스터에 REST 요청을하는 것처럼 쉽습니다. 이 커넥터에 대한 문서는 다음에서 찾을 수 있습니다 here
Oracle 트랜잭션 데이터베이스에서 Kafka로 실시간으로 변경 데이터를 이동하려면 오라클과 같은 상업용 라이센스 구매가 필요한 변경 데이터 캡처 (CDC) 독점 도구를 먼저 사용해야합니다. 골든 게이트, Attunity Replicate, Dbvisit Replicate 또는 Striim. 그런 다음 제공하는 Kafka Connect 커넥터를 활용할 수 있습니다. 모두 나열되어 있습니다 here
Redhat의 오픈 소스 CDC 도구 인 Debezium은 Oracle Golden Gate 라이센스에 의존하지 않는 커넥터에서 작업 할 계획입니다. 관련 JIRA는 here입니다.
안녕 슬림, 포괄적 인 대답입니다. 여기서 추가하고 싶은 것은 Striim이 실시간으로 CDC를 읽고 내결함성을 가지고 실시간으로 카프카에 쓸 수 있다는 것입니다. (내가 위에서 언급했듯이, 나는 Striim을 위해 일하므로, 나는 ...- :)을 알았다. – PGK
- 1. Apache Kafka를 데이터베이스에 연결하십시오.
- 2. kafka를 사용하는 양방향 메시징 시스템
- 3. CKAN에서 Kafka를 사용하는 방법
- 4. nagios를 사용하여 apache kafka를 모니터하는 방법은 무엇입니까?
- 5. Apache Kafka를 사용하여 MySQL 테이블 쿼리하기
- 6. Oracle-to-SQL Server 복제 : 복제 중 데이터 조작
- 7. 내 React-Native 앱에서 Apache Kafka를 사용해야합니다.
- 8. 오류 Zookeper -Apache Kafka를 시작하는 동안
- 9. Apache Tomcat 컨테이너에서 Apache kafka를 실행할 수 있습니까? 그렇다면 어떻게?
- 10. Apache Ignite-Cassandra 통합, 데이터 복제?
- 11. 파일을 사용하는 오프라인 복제
- 12. Oracle AQ - 대기열 메시지 복제
- 13. 복제 조언 Oracle 11g
- 14. 자바를 사용하는 Oracle 데이터 펌프
- 15. oracle goldengate DML 복제 모두 oracle 데이터베이스입니다.
- 16. 플 링크와 함께 kafka를 사용하는 이유
- 17. Kubernetes에서 Kafka를 사용하는 것이 좋은 방법입니까?
- 18. 단방향 방화벽을 통한 Oracle DB (인트라넷) -> (DMZ) 데이터 복제
- 19. 람다 아키텍처에서 히스토리 데이터를 저장하기 위해 Apache Kafka를 배치 레이어로 사용할 수 있습니까?
- 20. Apache Kafka를 C++와 함께 사용할 수 있습니까?
- 21. 테이블 복제 (구체화 된보기) Oracle
- 22. Storm과 Kafka를 통합하는 방법
- 23. Java를 사용하여 Apache Spark에서 n 번 데이터 집합의 행 복제
- 24. 데이터 테이블에 데이터 복제
- 25. oracle 데이터베이스에서 트리거가있는 테이블의 양방향 복제
- 26. Oracle 데이터 소스를 사용하는 SSRS 구독
- 27. Kafka를 소스로 사용하여 플립 킹
- 28. Apache Ignite 캐시 데이터 프레임 (scala를 사용하는 RDD)
- 29. Oracle 및 Apache - 중단 요청
- 30. Fedora apache wsgi python oracle
단순히 (쿼리 선택) 읽고 Kafka로 푸시하려면 간단한 JDBC 코드 만 있으면됩니다. 그러나 실시간으로 CDC (데이터 변경 캡처)를 스트리밍하려는 경우 Logminer 또는 xstream을 사용하여 CDC를 읽을 수있는 일종의 제품이 필요합니다. Striim (나는 Striim을 위해 일한다) 그런 제품을 가지고있다. 다른 제품들도 있지만, 내가 알고있는 무료 또는 오픈 소스가 없습니다. 오라클의 골든 게이트 (Golden Gate)는 카프카 (Cafka)의 GG 트레일을 읽을 수 있지만 CDC도 작성할 수 있는지 확신 할 수 없습니다. 희망이 도움이됩니다. – PGK
은 아래의 Slim이 이미 다소 비슷하게 반응했습니다. – PGK