스트림 커넥터 버전 매트릭스
스트림 커넥터 버전 매트릭스 (Stream Connector Version Matrix)
Apache Pinot와 함께 제공되는 모든 스트림 수집 커넥터의 버전·패키징 매트릭스를 다루는 문서예요. 각 스트림 커넥터를 Maven 모듈, 아티팩트 ID, 기본 클라이언트 라이브러리 버전, 소비자 팩토리 클래스에 매핑한 빠른 참조 매트릭스를 제공해요.
출처: 문서
본문
이 페이지는 각 스트림 커넥터를 Maven 모듈, 아티팩트 ID, 기본 클라이언트 라이브러리 버전, 소비자 팩토리 클래스에 매핑한 빠른 참조 매트릭스를 제공해요.
커넥터 매트릭스 (Connector matrix)
| 스트림 | 커넥터 모듈 | Maven 아티팩트 | 클라이언트 라이브러리 버전 | 소비자 팩토리 클래스 | 상태 |
|---|---|---|---|---|---|
| Apache Kafka 3.x | pinot-kafka-3.0 |
org.apache.pinot:pinot-kafka-3.0 |
kafka-clients 3.9.2 | org.apache.pinot.plugin.stream.kafka30.KafkaConsumerFactory |
기본, 바이너리 배포판 포함 |
| Apache Kafka 4.x | pinot-kafka-4.0 |
org.apache.pinot:pinot-kafka-4.0 |
kafka-clients 4.1.1 | org.apache.pinot.plugin.stream.kafka40.KafkaConsumerFactory |
바이너리 배포판 포함 |
| Amazon Kinesis | pinot-kinesis |
org.apache.pinot:pinot-kinesis |
AWS SDK 2.42.16 (software.amazon.awssdk:kinesis) |
org.apache.pinot.plugin.stream.kinesis.KinesisConsumerFactory |
바이너리 배포판 포함 |
| Apache Pulsar | pinot-pulsar |
org.apache.pinot:pinot-pulsar |
pulsar-client 4.0.9 | org.apache.pinot.plugin.stream.pulsar.PulsarConsumerFactory |
선택 사항, -Dplugins.include=pinot-pulsar로 활성화 |
위의 모든 버전 번호는 Pinot
master브랜치(1.5.0-SNAPSHOT) 기준이에요. 배포된 Pinot 버전은 약간 다른 클라이언트 라이브러리 버전을 제공할 수 있어요. 정확한 버전은 Pinot 릴리스의 해당 모듈pom.xml을 확인해 보세요.
호환성 메모 (Compatibility notes)
Kafka 3.x 커넥터 (pinot-kafka-3.0)
- Kafka 브로커 2.x 이상과 호환돼요.
kafka-clients와 함께 Scala 기반 Kafka 라이브러리를 사용해요.- 대부분의 배포에서 권장되는 커넥터예요.
Kafka 4.x 커넥터 (pinot-kafka-4.0)
- Kafka 브로커 4.0 이상을 요구해요.
- 순수 자바
kafka-clients라이브러리만 사용해요(Scala 의존성 없음). - ZooKeeper를 제거한 KRaft 모드 Kafka 클러스터를 위해 설계됐어요.
- 임베디드 Kafka 서버 대신 통합 테스트에 Testcontainers를 사용해요.
Amazon Kinesis 커넥터 (pinot-kinesis)
- AWS SDK v2 (
software.amazon.awssdk)를 사용해요. - 키 기반과 IAM 역할 기반 인증을 모두 지원해요.
- 기본 Pinot 배포판에 포함돼요.
Apache Pulsar 커넥터 (pinot-pulsar)
- 기본 바이너리 배포판에 포함되지 않아요. 시작 시
-Dplugins.include=pinot-pulsar로 활성화하거나, 플러그인 JAR을plugins디렉토리에 추가해요. - Apache Pulsar 클라이언트 라이브러리를 사용해요.
- 토큰 기반, OAuth2, TLS 인증을 지원해요.
제거된 커넥터 (Removed connectors)
| 이전 모듈 | 제거 시점 | 마이그레이션 경로 |
|---|---|---|
pinot-kafka-0.9 |
1.0 이전 | pinot-kafka-3.0으로 마이그레이션 |
pinot-kafka-2.0 |
1.0 이전 | pinot-kafka-3.0(또는 Kafka 4.x 브로커는 pinot-kafka-4.0)으로 마이그레이션 |
마이그레이션하려면 테이블 구성의 stream.kafka.consumer.factory.class.name을 이전 클래스에서 새 클래스로 업데이트하면 돼요. 다른 스트림 구성 변경은 필요 없어요.