데이터 파이프라인 구조
Beluga의 데이터 흐름은 실시간 스트리밍과 오픈 레이크하우스 아키텍처를 결합합니다.
주 데이터 경로는 PostgreSQL → Kafka → Flink → Iceberg → Trino → Superset이며, Airflow는 데이터 자체가 통과하는 경로라기보다 처리 작업을 조율하는 orchestration plane으로 분리됩니다.
Kafka → Flink → Iceberg → Trino → Airflow 엔드투엔드 데이터 흐름 및 결합 구조.
Beluga의 데이터 흐름은 실시간 스트리밍과 오픈 레이크하우스 아키텍처를 결합합니다.
주 데이터 경로는 PostgreSQL → Kafka → Flink → Iceberg → Trino → Superset이며, Airflow는 데이터 자체가 통과하는 경로라기보다 처리 작업을 조율하는 orchestration plane으로 분리됩니다.
프로젝트 상세로 돌아가면 아키텍처, 개발 흐름, 검증 근거와 관련 Field Note를 하나의 맥락에서 볼 수 있습니다.