Các phụ thuộc ẩn: phần của hệ thống phân tích mà chúng ta đã ngừng đặt câu hỏi

Onur Alp Soner là đồng sáng lập và CEO của Countly.

FinTech phát triển nhanh chóng. Tin tức tràn ngập khắp nơi, sự rõ ràng thì không.

FinTech Weekly cung cấp các câu chuyện và sự kiện chính trong một nơi.

Nhấn vào đây để đăng ký nhận bản tin FinTech Weekly

Được các giám đốc điều hành tại JP Morgan, Coinbase, BlackRock, Klarna và nhiều nơi khác đọc.

Khi một vụ rò rỉ dữ liệu trở thành tin tức, nó thường được xem như một ngoại lệ – một cấu hình sai, một quyền truy cập bị bỏ sót, một lỗi con người có thể xảy ra với bất kỳ ai. Thảo luận thường dừng lại ở đó, như thể chính vụ việc là nguyên nhân. Trên thực tế, các vụ vi phạm thường là tín hiệu hơn là thất bại. Chúng phơi bày các phụ thuộc đã trở nên quá trung tâm và quá mơ hồ từ lâu trước khi có chuyện gì xảy ra. Khi dữ liệu bị rò rỉ, rủi ro thường đã âm thầm tích tụ trong nhiều năm.

Trong một thời gian dài, phân tích dữ liệu nằm trong một phạm trù an toàn về tâm lý. Nó được xem như là quan sát, thứ theo dõi hệ thống chứ không phải là hình thành nó. Khác với thanh toán, danh tính hoặc hạ tầng cốt lõi, phân tích dữ liệu hiếm khi được xem như một lớp có thể ảnh hưởng đáng kể đến kết quả.

Trong fintech, đặc biệt, phân tích dữ liệu giờ đây ảnh hưởng đến cách hệ thống phát triển và cách ra quyết định, định hình hành vi sản phẩm, kiểm soát rủi ro, thậm chí tự động hóa. Tuy nhiên, hạ tầng phía sau vẫn thường là bên thứ ba, chạy trên các nền tảng bên ngoài tổ chức mà tổ chức không kiểm soát trực tiếp.

Đây chính là phụ thuộc vô hình mà chúng ta đã ngừng đặt câu hỏi.

Tại sao “không PII” không còn đủ để định nghĩa an toàn nữa

Khi các nhóm lý giải việc thuê ngoài phân tích dữ liệu, lý lẽ thường xoay quanh dữ liệu cá nhân. Các sự kiện được ẩn danh. Không thu thập tên hoặc email. Không có PII, rủi ro được cho là thấp.

Trong thời kỳ phân tích chủ yếu về đếm người dùng và phiên, logic đó còn hợp lý. Nhưng khi phân tích bắt đầu ghi lại cách hệ thống hoạt động, điều đó không còn đúng nữa.

Dữ liệu sự kiện hiện đại làm nhiều hơn là mô tả từng người dùng riêng lẻ. Nó tiết lộ cấu trúc nội bộ. Tên tính năng, URL nội bộ, biến thể thử nghiệm, trạng thái lỗi, mẫu thời gian, phản hồi từ backend cho thấy cách sản phẩm được thiết kế và cách các quyết định chảy qua nó. Tất cả đều không trực tiếp xác định một người, nhưng cùng nhau, chúng có thể tái tạo phần lớn logic nội bộ của tổ chức.

Đây là nơi hiệu ứng mosaic trở nên thực tế. Các sự kiện riêng lẻ có vẻ vô hại khi xem riêng lẻ. Khi tổng hợp theo thời gian, qua các tính năng và luồng, chúng tiết lộ cách sản phẩm thực sự hoạt động. Trong fintech, điều này có hậu quả thực sự. Ngay cả các sự kiện đã được ẩn danh cũng có thể gợi ý về ngưỡng phê duyệt, quy tắc đánh giá rủi ro hoặc các đường dây leo thăng cấp. Độ nhạy của dữ liệu phân tích ngày nay ít liên quan đến ai nó theo dõi hơn là những gì nó tiết lộ.

Giới hạn của “Chúng tôi xử lý an ninh cho bạn.”

Các nhà cung cấp phân tích xuất sắc về quy mô, hiệu suất và tốc độ tích hợp. Những điểm mạnh đó quan trọng. Những gì họ không tối ưu là an toàn lâu dài, khả năng phòng vệ pháp lý hoặc khả năng giải thích kiến trúc của tổ chức dưới sự kiểm tra.

Khi các nhà cung cấp nói họ “xử lý an ninh,” họ thường có ý là sự phức tạp được giấu đi. Bạn không thể thấy cách dữ liệu được kết hợp, lưu giữ hoặc các tín hiệu phụ được tạo ra. Sự vô hình được bán như là sự đơn giản, nhưng quyền kiểm soát bị thay thế bằng niềm tin. Các tiêu chuẩn như SOC2 xác nhận kiểm soát, chứ không phải các lựa chọn kiến trúc. Một hệ thống có thể hoàn toàn đạt chứng nhận và vẫn tập trung dữ liệu phân tích nhạy cảm theo cách khó có thể biện minh dưới sự kiểm tra.

Thỏa hiệp đó có thể chấp nhận được ở nơi khác. Đối với phân tích dữ liệu ảnh hưởng đến quyết định, nó tạo ra rủi ro cấu trúc bằng cách thay thế an toàn có thể xác minh bằng các hệ thống ẩn và niềm tin giả định.

Sổ cái tài chính đã hoạt động theo logic này: khả năng truy xuất nguồn gốc, khả năng kiểm toán và quyền sở hữu là không thể thương lượng. Phân tích dữ liệu giờ đây ảnh hưởng đến quyết định cũng quan trọng không kém, nhưng chưa được đối xử với kỷ luật tương tự.

Cách rủi ro cấu trúc tích tụ trong hệ thống phân tích dữ liệu

Hầu hết các sự cố phân tích dữ liệu không bắt nguồn từ một lựa chọn xấu đơn lẻ. Chúng phát triển dần dần, khi hệ thống đảm nhận các trách nhiệm mà nó chưa từng được thiết kế để giữ.

Các nhóm thêm nhiều sự kiện hơn, rồi nhiều ngữ cảnh hơn, rồi nhiều siêu dữ liệu hơn. Các cờ tính năng, ID thử nghiệm, mã lỗi nội bộ, trạng thái backend, phân loại người dùng dần dần xuất hiện trong luồng sự kiện. Theo thời gian, phân tích trở thành một bản sao chi tiết cách sản phẩm thực sự hoạt động. Đến lúc đó, nó không còn là lớp báo cáo thụ động nữa mà trở thành dạng trí nhớ tổ chức.

Khi dữ liệu bị lộ, điều bị rò rỉ hiếm khi chỉ là các con số thô. Đó là cấu trúc: cách các tính năng được triển khai, cách các quyết định được sắp xếp, cách các dịch vụ tương tác, và cách xử lý các trường hợp ngoại lệ. Các sự cố gần đây đã cho thấy rõ điều này, với các nhật ký từng được coi là vô hại nay tiết lộ logic định tuyến nội bộ, cấu hình thử nghiệm, đường dẫn quản trị và các mẫu hành vi mà lẽ ra không bao giờ nên rời khỏi kiểm soát của tổ chức.

AI không tạo ra rủi ro này, nhưng nó làm tăng mức độ nghiêm trọng của nó. Phân tích hành vi ngày càng cung cấp dữ liệu cho các hệ thống ra quyết định tự động, nghĩa là việc phơi bày cấu trúc có thể ảnh hưởng đến hành vi của mô hình, thành kiến và logic quyết định. Một sự cố đơn lẻ có thể ảnh hưởng không chỉ đến tính minh bạch mà còn đến cách các hệ thống hành xử trong tương lai.

Trong fintech, tác động còn lớn hơn nữa. Dữ liệu phân tích thường nằm gần các hệ thống đánh giá độ tin cậy, phát hiện gian lận hoặc tự động hóa phê duyệt. Ngay cả khi phân tích không đưa ra quyết định trực tiếp, nó ngày càng định hình các hệ thống đó.

Tiện lợi thay thế cho sự kiểm tra kỹ lưỡng

Đối với các nhóm chịu áp lực phải nhanh chóng tiến hành, các bảng điều khiển tinh vi, tích hợp nhanh và các hiểu biết tức thì rất hấp dẫn. Tuy nhiên, theo thời gian, tiện lợi thường thay thế sự kiểm tra kỹ lưỡng. Ít tổ chức nào chi tiết hóa luồng dữ liệu phân tích của họ, đánh giá mức độ khó khăn để thoát khỏi nền tảng hoặc tính toán lượng kiến thức tổ chức đã thực sự thuê ngoài. Đây hiếm khi là một lựa chọn có chủ ý. Đó là kết quả của việc xem phân tích dữ liệu như công cụ chứ không phải hạ tầng.

Đây không phải là một lập luận chống lại dịch vụ của bên thứ ba nói chung. Thực tế, một số lớp phù hợp để thuê, đặc biệt khi thất bại được kiểm soát và việc thoát ra dễ dàng. Phân biệt quan trọng là liệu một hệ thống có ảnh hưởng đến kết quả hay không.

Nói đơn giản, bất kỳ hệ thống nào ảnh hưởng đến quyền truy cập, niềm tin, đủ điều kiện hoặc trải nghiệm người dùng cốt lõi đều nên rõ ràng, có thể kiểm toán và hoàn toàn hiểu rõ bởi tổ chức phụ thuộc vào nó. Các hệ thống dễ thay thế và không mã hóa logic tổ chức có thể an toàn tồn tại bên ngoài tổ chức.

Một phép thử đơn giản giúp làm rõ ranh giới: nếu hệ thống này biến mất ngày mai, bạn có còn có thể giải thích cách sản phẩm của mình hoạt động và tại sao các quyết định lại được đưa ra như vậy không?

Câu hỏi về trách nhiệm rộng hơn

Các hệ thống fintech ngày càng hoạt động như hạ tầng công cộng. Chúng định hình ai có thể mở tài khoản, tiếp cận tín dụng hoặc tham gia vào nền kinh tế. Thực tế đó thay đổi mô hình trách nhiệm. Các quyết định kiến trúc không còn chỉ là các lựa chọn kỹ thuật nội bộ; chúng mang theo hậu quả xã hội.

Khi các lớp quan trọng như nền tảng đám mây, hệ thống phân tích hoặc mô hình AI tập trung trong một số hệ thống mập mờ, các thất bại và quyết định không rõ lý do có thể lan rộng ra ngoài một công ty duy nhất. Các phụ thuộc vô hình không chỉ làm tăng rủi ro an ninh. Chúng còn làm yếu đi trách nhiệm giải trình.

Cuối cùng, nếu một hệ thống không thể nhìn thấy, nó không thể quản lý được. Và những hệ thống không thể quản lý được thì không nên được tin tưởng để đưa ra các quyết định ảnh hưởng lớn đến cuộc sống của con người. Phân tích dữ liệu đã không còn chỉ là quan sát thuần túy từ lâu rồi. Kiến trúc, tiêu chuẩn và giả định của chúng ta vẫn chưa bắt kịp.