Data Drift Vs Concept Drift trong Machine learning

Không có mô hình nào tồn tại mãi mãi, nó xuống cấp theo thời gian . Tại sao mô hình phân rã xảy ra? Tại sao mô hình đang hoạt động tốt trong vài ngày/tháng qua lại bắt đầu hoạt động khác đi? Chúng ta hãy thử tìm hiểu sâu hơn và hiểu lý do khiến mô hình này suy tàn.

Thủ phạm không ai khác mà chính là dữ liệu. Như chúng ta đã biết Dữ liệu là vua trong thế giới máy móc, nó có thể tạo ra hoặc phá vỡ các mô hình của bạn. Vấn đề chất lượng dữ liệu là một trong những lý do chính dẫn đến thất bại trong sản xuất.

Trong thế giới năng động này, dữ liệu liên tục thay đổi . Các mô hình máy học bị ảnh hưởng bởi sự thay đổi này. Chúng ta có thể định nghĩa sự trôi dạt của mô hình là sự suy giảm khả năng dự đoán của mô hình do những thay đổi trong môi trường.

Hãy hiểu lý do cho sự trôi dạt của mô hình này:

Độ trôi dữ liệu:

Dữ liệu trôi dạt xảy ra khi dữ liệu của một mô hình được huấn luyện về những thay đổi. Việc phân phối dữ liệu/tính năng đầu vào thay đổi . Khi mô hình được đào tạo trên dữ liệu cũ trở nên vô dụng và hoạt động kém trên dữ liệu mới. Độ lệch dữ liệu, độ lệch tính năng, dân số hoặc sự thay đổi đồng biến có nghĩa giống nhau.

Hãy hiểu nó với ví dụ. Hãy xem xét một mô hình ML đã được đào tạo để dự đoán khả năng khách hàng sẽ mua sản phẩm dựa trên thu nhập của họ hay không. Nếu phân phối thu nhập thay đổi, thì mô hình sẽ không hoạt động chính xác trong tương lai.

Dữ liệu trôi dạt có thể xảy ra vì một số lý do: lược đồ dữ liệu đầu vào thay đổi tại nguồn (ví dụ: các cột có thể được thêm/xóa ở trên trong đường dẫn dữ liệu), phân phối tính năng thay đổi theo thời gian hoặc ý nghĩa của dữ liệu thay đổi ngay cả khi cấu trúc / lược đồ không (ví dụ: liệu mức lương có được coi là “trên mức trung bình” hay không có thể thay đổi theo thời gian).

Khái niệm trôi dạt:

Sự trôi dạt khái niệm xảy ra bất cứ khi nào mối quan hệ giữa đầu vào mô hình và mục tiêu thay đổi . Xem xét ví dụ về phát hiện gian lận thẻ tín dụng. Cách mọi người sử dụng thẻ tín dụng đã thay đổi theo thời gian và do đó, các đặc điểm chung của gian lận thẻ tín dụng cũng thay đổi. Vì vậy, khi công nghệ “Chip và Pin” xuất hiện, các giao dịch gian lận bắt đầu chuyển sang trực tuyến nhiều hơn so với ngoại tuyến.

Khái niệm Drift có thể được chia thành bốn loại-Đột ngột, Dần dần, Gia tăng, Tái xuất hiện

Làm thế nào để xác định và đối phó với sự trôi dạt này?

Cách trực tiếp nhất để xác định sự xuống cấp của mô hình là liên tục theo dõi hiệu suất dự đoán của mô hình theo thời gian và đánh giá hiệu suất đó bằng cùng các chỉ số đánh giá được sử dụng trong quá trình đào tạo mô hình. Đánh giá liên tục cung cấp một yếu tố kích hoạt khi nào nên đào tạo lại mô hình . Vì vậy, điều đó có nghĩa là chúng ta nên đào tạo lại mô hình ngay khi hiệu suất bắt đầu giảm? Không, nó phụ thuộc. Đào tạo lại có thể tốn kém. Chúng ta nên xem xét đánh đổi giữa mức độ suy giảm hiệu suất có thể chấp nhận được liên quan đến chi phí này. Chúng tôi có thể lên lịch đào tạo lại công việc tùy thuộc vào một số ngưỡng . Ví dụ: kích hoạt đào tạo lại mô hình khi độ chính xác của mô hình giảm xuống dưới 95%. Chúng ta cũng nên theo dõi dữ liệu mới nhận được trong quá trình phục vụ vàxác định những thay đổi trong phân phối dữ liệu .

Chúc bạn học tập vui vẻ!