Bỏ qua để đến nội dung

Các mức và loại lineage: cấp bảng vs cấp cột, kỹ thuật vs nghiệp vụ

Khi nói “vẽ bản đồ dữ liệu”, không phải bản đồ nào cũng cùng độ chi tiết. Có tấm bản đồ chỉ vẽ các tỉnh và đường quốc lộ nối chúng — đủ để nhìn tổng thể. Có tấm vẽ tới từng con hẻm, từng ngã rẽ — chi tiết hơn nhiều nhưng cũng dày đặc hơn. Data lineage cũng vậy: nó có nhiều mức độ chi tiết và nhiều kiểu trình bày, mỗi loại hợp với một mục đích và một nhóm người dùng khác nhau. Trang này dành cho người mới: phân biệt các loại lineage thường gặp, và quan trọng nhất là khi nào cần dùng mức nào.

Để khỏi rối, hãy nhớ rằng lineage được phân loại theo hai trục độc lập, không loại trừ nhau:

  • Trục độ chi tiết: lineage vẽ tới mức bảng hay tới mức từng cột.
  • Trục đối tượng người đọc: lineage trình bày kiểu kỹ thuật cho đội dữ liệu hay kiểu nghiệp vụ cho lãnh đạo.

Một bản đồ lineage hoàn toàn có thể vừa ở “cấp cột” vừa thuộc loại “kỹ thuật”. Hiểu hai trục này rồi, mọi thuật ngữ phía sau sẽ tự sáng tỏ.

Trục độ chi tiết: cấp bảng và cấp cột

Phần tiêu đề “Trục độ chi tiết: cấp bảng và cấp cột”

Lineage cấp bảng (table-level / dataset-level)

Phần tiêu đề “Lineage cấp bảng (table-level / dataset-level)”

Lineage cấp bảng vẽ dòng chảy ở mức “bảng tới bảng”: bảng A cấp dữ liệu cho bảng B, bảng B cấp cho báo cáo C. Nó cho bức tranh tổng thể về các tài sản dữ liệu lớn và mối liên hệ giữa chúng, nhưng không đi sâu vào bên trong từng bảng.

  • Điểm mạnh: gọn, dễ nhìn toàn cảnh, hợp để nắm nhanh kiến trúc dữ liệu của cả hệ thống.
  • Hạn chế: khi báo cáo sai ở một cột, lineage cấp bảng chỉ nói “lỗi nằm đâu đó trong những bảng này” chứ không chỉ đúng cột nào.
  • Ví như bản đồ chỉ vẽ các tỉnh: biết hàng đi qua những tỉnh nào, nhưng không biết qua con đường cụ thể nào trong tỉnh.

Lineage cấp cột đi sâu hơn một bậc: nó truy dòng chảy tới từng cột riêng lẻ. Cột “doanh thu thuần” trên báo cáo được tính từ cột nào của bảng nào, qua công thức biến đổi gì — tất cả hiện rõ.

  • Điểm mạnh: đây là mức mạnh nhất cho phân tích tác động và truy nguyên gốc lỗi, vì nó chỉ thẳng đúng cột gây ảnh hưởng hoặc đúng cột phát sinh lỗi.
  • Khi đổi một cột nguồn, lineage cấp cột chỉ ra chính xác những cột hạ nguồn nào bị ảnh hưởng — không phải cả bảng “có thể bị”.
  • Khi số sai, nó cho phép lần ngược tới đúng cột và đúng bước biến đổi đã làm hỏng con số.
  • Ví như bản đồ vẽ tới từng con hẻm: biết hàng đi qua đúng tuyến đường nào, rẽ ở đâu.

Nói ngắn gọn: cấp bảng để nhìn toàn cảnh, cấp cột để điều tra chính xác. Càng cần truy lỗi và đánh giá ảnh hưởng kỹ, càng cần xuống tới cấp cột.

Trục người đọc: lineage kỹ thuật và lineage nghiệp vụ

Phần tiêu đề “Trục người đọc: lineage kỹ thuật và lineage nghiệp vụ”

Technical lineage trình bày dòng chảy ở mức chi tiết kỹ thuật, đúng như cách dữ liệu thật sự di chuyển trong hệ thống: tên bảng và cột vật lý, các câu lệnh và phép biến đổi cụ thể, các bước trong quy trình xử lý.

  • Ai dùng: kỹ sư dữ liệu, đội phát triển, người quản trị hệ thống.
  • Để làm gì: gỡ lỗi đường ống dữ liệu, đánh giá tác động kỹ thuật của một thay đổi, hiểu chính xác một con số được biến đổi qua những bước nào.
  • Rất chi tiết và chính xác, nhưng cũng dày đặc — người không kỹ thuật nhìn vào dễ “ngợp”.

Business lineage trình bày cùng dòng chảy đó nhưng ở cấp nghiệp vụ, dễ hiểu cho lãnh đạo và người dùng nghiệp vụ. Nó lược bớt chi tiết kỹ thuật rườm rà, dùng tên gọi nghiệp vụ quen thuộc và thuật ngữ chung, để trả lời câu hỏi “đại khái con số này từ đâu mà có” mà không bắt người xem phải đọc tên bảng vật lý.

  • Ai dùng: lãnh đạo, chủ sở hữu dữ liệu (data owner), người dùng nghiệp vụ, kiểm toán viên.
  • Để làm gì: hiểu nhanh nguồn gốc của một chỉ tiêu, kiểm chứng độ tin cậy, trả lời câu hỏi tuân thủ ở mức khái niệm.
  • Cùng một dòng chảy như technical lineage, nhưng kể lại bằng ngôn ngữ kinh doanh thay vì ngôn ngữ kỹ thuật.

Hai loại này không mâu thuẫn — chúng là hai cách kể cùng một câu chuyện cho hai nhóm khán giả. Đội kỹ thuật cần độ chi tiết để hành động; lãnh đạo cần bức tranh gọn để tin tưởng và ra quyết định.

Source-to-target: cách hay gặp khi tích hợp dữ liệu

Phần tiêu đề “Source-to-target: cách hay gặp khi tích hợp dữ liệu”

Một cách trình bày lineage rất phổ biến là source-to-target (từ nguồn tới đích). Nó tập trung mô tả: dữ liệu từ các trường ở nguồn được ánh xạ và biến đổi như thế nào để ra các trường ở đích (thường là kho dữ liệu hoặc báo cáo).

  • Hay xuất hiện trong các dự án tích hợp và di trú dữ liệu, dưới dạng “bảng ánh xạ” mô tả từng trường nguồn tương ứng với trường đích nào, qua quy tắc biến đổi gì.
  • Bản chất vẫn là lineage — nhấn vào quan hệ ánh xạ giữa hai đầu nguồn và đích, đặc biệt hữu ích khi gom dữ liệu từ nhiều hệ thống về một chỗ.
  • Khi làm ở mức từng trường, nó chính là một dạng lineage cấp cột theo hướng source-to-target.

Không phải lúc nào cũng cần mức chi tiết nhất. Chọn đúng mức giúp lineage vừa hữu ích vừa dễ đọc.

  • Nắm nhanh kiến trúc tổng thể → lineage cấp bảng, trình bày nghiệp vụ. Hợp để lãnh đạo và người mới hình dung bức tranh.
  • Phân tích tác động trước một thay đổi cột/công thức → cần cấp cột để biết chính xác cái gì phụ thuộc, kèm góc kỹ thuật cho đội thực thi.
  • Truy nguyên gốc lỗi một con số sai → bắt buộc cấp cộtkỹ thuật, để lần tới đúng cột và đúng bước biến đổi.
  • Báo cáo tuân thủ, giải trình kiểm toán → trình bày nghiệp vụ cho người duyệt hiểu, nhưng có cấp cột ở phía dưới làm bằng chứng truy tới chứng từ gốc.
  • Tích hợp, di trú dữ liệu → ưu tiên góc source-to-target ở mức trường.

Nguyên tắc chung: đi sâu tới cấp cột khi cần điều tra chính xác; trình bày kiểu nghiệp vụ khi cần người không kỹ thuật hiểu và tin. Một nền tảng tốt cho phép xem cùng một lineage ở nhiều mức, tùy nhu cầu từng lúc.

Một ngân hàng có báo cáo “tổng dư nợ theo chi nhánh” trình lên ban điều hành.

  • Cấp bảng để nhìn toàn cảnh: ban đầu, đội dữ liệu vẽ lineage cấp bảng để cả nhóm thấy báo cáo này lấy dữ liệu từ ba hệ thống lõi nào và đi qua mấy bảng tổng hợp trung gian.
  • Cấp cột để truy lỗi: một kỳ, dư nợ một chi nhánh hiển thị sai. Nhờ lineage cấp cột, đội lần được tới đúng cột “dư nợ gốc” ở một bảng trung gian, phát hiện một bước tính bỏ sót nhóm khoản vay mới — sửa đúng chỗ thay vì rà cả ba hệ thống.
  • Nghiệp vụ cho lãnh đạo và kiểm toán: khi thanh tra hỏi nguồn gốc con số, đội trình ra business lineage gọn gàng, cho thấy “tổng dư nợ” bắt nguồn từ các hệ thống cho vay nào — đủ để người duyệt hiểu mà không cần đọc tên bảng kỹ thuật.

Cùng một báo cáo, nhưng mỗi tình huống cần một mức lineage khác nhau — và biết chọn đúng mức chính là điểm mấu chốt.

Bạn đã phân biệt được các mức và loại lineage. Bước tiếp theo là đi sâu vào mức mạnh nhất — lineage cấp cột — và xem cách trình bày nghiệp vụ giúp người không kỹ thuật hiểu nguồn gốc dữ liệu.

Chia sẻ: