13분 만에 Postgres를 Iceberg로: Supermetal이 Flink, Kafka Connect, Spark와 비교되는 방식
Postgres to Iceberg in 13 minutes: How Supermetal compares to Flink, Kafka Connect, and Spark

TL;DR AI
1분핵심 요약
단일 노드 TPC-H SF50 벤치마크에서 Supermetal은 Postgres 데이터를 Iceberg로 스냅샷하는 데 13분이 걸렸다.
같은 조건에서 Flink는 90~116분, Kafka Connect/Debezium은 약 120분, Spark는 3시간 이상 소요됐다.
오픈소스 도구들의 가장 큰 병목은 CDC 처리로 지목됐으며, 특히 변경 데이터 반영 단계에서 속도 차이가 컸다.
이번 비교는 Postgres-to-Iceberg 아카이빙 파이프라인을 설계할 때 처리량과 CDC 비용의 트레이드오프를 보여준다.



