Wybór narzędzi do interpretacji zależy od konkretnego modelu uczenia maszynowego i celów analizy. Istnieją podejścia specyficzne dla modelu i niezależne od modelu. Interpretable Machine Learning: A Guide for Making Black Box Models Explainable autorstwa Christopha Molnara wyjaśnił różnicę.

Narzędzia do interpretacji specyficzne dla modelu zostały zaprojektowane w celu wyjaśnienia zachowania określonego modelu uczenia maszynowego. Narzędzia te są dostosowane do konkretnej struktury i parametrów modelu i opierają się na wiedzy o wewnętrznym działaniu modelu. Na przykład, jeśli używasz modelu drzewa decyzyjnego, możesz użyć narzędzia interpretacji, które pokazuje strukturę drzewa i sposób, w jaki model podejmuje decyzje na podstawie cech wejściowych.

Z drugiej strony narzędzia do interpretacji niezależne od modelu są zaprojektowane do pracy z dowolnym modelem uczenia maszynowego. Narzędzia te koncentrują się na relacjach między cechami wejściowymi a przewidywaniami modelu, a nie na wewnętrznych działaniach modelu. Narzędzia niezależne od modelu są często używane, gdy model jest zbyt złożony, aby można go było zinterpretować za pomocą narzędzi specyficznych dla modelu lub gdy model nie jest w pełni zrozumiały.

Podsumowując, narzędzia do interpretacji specyficzne dla modelu są zaprojektowane dla określonego typu modelu i koncentrują się na wewnętrznym działaniu modelu. W przeciwieństwie do tego, narzędzia do interpretacji niezależne od modelu mogą być używane z dowolnym modelem i skupiać się na związku między cechami wejściowymi a przewidywaniami modelu.

Oto kilka przykładów popularnych narzędzi interpretacyjnych zarówno dla podejść specyficznych dla modelu, jak i niezależnych od modelu:

Narzędzia interpretacji specyficzne dla modelu:

1. Drzewa decyzyjne: Wizualizacje drzew decyzyjnych mogą zapewnić wgląd w sposób, w jaki model podejmuje decyzje na podstawie cech wejściowych.
2. Regresja liniowa: Wartości współczynników można wykorzystać do określenia względnego znaczenia każdej cechy wejściowej w przewidywaniu zmiennej wyjściowej.
3. Konwolucyjne sieci neuronowe: Mapy aktywacji mogą wizualizować, które części obrazu są najważniejsze dla danej prognozy.

1. Ważność cechy: poprzez uszeregowanie cech wejściowych według ich ważności w przewidywaniu zmiennej wyjściowej, możliwe jest zidentyfikowanie najbardziej odpowiednich cech.
2. Wykresy częściowej zależności: te wykresy pokazują, jak zmienia się przewidywany wynik w funkcji pojedynczej cechy wejściowej, przy jednoczesnym utrzymaniu wszystkich innych cech na stałym poziomie.
3. Wartości SHAP: Te wartości zapewniają lokalną interpretację tego, w jaki sposób każda cecha wejściowa przyczynia się do przewidywanego wyniku dla danej obserwacji.

Możesz znaleźć kilka metod zastosowanych w moim ostatnim projekcie w repozytorium GitHub :https://github.com/Sahel-Eskandar/RecommenderSystems.git

Bibliografia:

1. Interpretowalne uczenie maszynowe: przewodnik po wyjaśnianiu modeli czarnej skrzynki autorstwa Christopha Molnara