Bỏ qua để đến nội dung

Pipeline connectors

Connector Pipeline Services đưa quy trình xử lý dữ liệu (pipeline/ETL/ELT) vào danh mục — biết dữ liệu được biến đổi và di chuyển như thế nào.

  • Apache Airflow, dbt Cloud, Fivetran, Dagster, Airbyte.
  • Pipeline & task: cấu trúc, trạng thái, lịch chạy.
  • Lineage giữa các bảng: pipeline đọc gì → ghi gì → nền cho lineage.
  • Trạng thái chạy (tùy nền tảng): hỗ trợ quan sát độ tin cậy.
  • Pipeline là mắt xích biến đổi giữa nguồn và đích — không có nó, lineage bị đứt đoạn.
  • Giúp truy nguyên nhân khi dữ liệu sai: pipeline nào tạo ra bảng này?

dbt vừa là pipeline, vừa mang theo nhiều metadata quý (mô tả, test, tag, lineage). OpenMetadata có workflow dbt riêng — xem dbt Workflow.

Chia sẻ: