Debezium CDC 운영 — Kafka Connect와 Schema Evolution
Kafka Connect의 worker·connector·task 운영과 schema history를 이해하고, coupon_code 추가 예제로 이벤트·소비자·목적지의 안전한 변경 순서를 정리한다.
DATA ENGINEERING
데이터를 연결하고 추천의 품질을 평가하는 과정.
6개의 글Kafka Connect의 worker·connector·task 운영과 schema history를 이해하고, coupon_code 추가 예제로 이벤트·소비자·목적지의 안전한 변경 순서를 정리한다.
초기 적재 경계부터 멱등 upsert, 삭제 버전 보존과 replay까지. orders 예제로 CDC 목적지의 최신 상태를 지키고 복구 완료를 검증하는 방법을 정리한다.
운영 DB를 BigQuery로 복제하는 Datastream과 Debezium·Kafka 기반 이벤트 파이프라인의 데이터 흐름, 운영 책임과 선택 기준을 비교한다.
추천 결과의 적중률과 순서 품질을 Recall@K, Precision@K, NDCG로 계산하고 Offline·Online 평가를 구분한다.
Two-Tower의 벡터를 검색 후보로 연결하고 HNSW·IVF, 필터, 모델·인덱스 버전과 ANN Recall을 구분해 설계한다.
CF와 MF에서 시작해 Two-Tower, Vector Search, Ranking으로 이어지는 현대 추천 시스템 구조를 쉽게 정리했다.