Che cos'è esattamente un modello di machine learning interpretabile?
Da questa pagina del libro Interpretable-ml e da questo articolo su Analytics Vidhya , significa sapere cosa è successo all'interno di un modello ML per arrivare al risultato / previsione / conclusione.
Nella regressione lineare, i nuovi dati verranno moltiplicati con pesi e verranno aggiunti bias per fare una previsione.
E nei modelli di albero potenziati, è possibile tracciare tutte le decisioni come alberi che si traducono in una previsione.
E nelle reti neurali feed-forward, avremo pesi e pregiudizi proprio come la regressione lineare e moltiplichiamo semplicemente i pesi e aggiungiamo pregiudizi a ogni livello, limitando i valori in una certa misura utilizzando una sorta di funzione di attivazione a ogni livello, arrivando finalmente alla previsione.
Nelle CNN è possibile vedere cosa succede all'input dopo essere passato attraverso un blocco CNN e quali caratteristiche vengono estratte dopo il pooling (rif: cosa vede una CNN? ).
Come ho detto sopra, si può facilmente sapere cosa succede all'interno di un modello ML per fare una previsione o una conclusione. E non sono chiaro cosa li renda ininterpretabili !. Quindi, cosa rende esattamente un algoritmo oi suoi risultati non interpretabili o perché questi sono chiamati modelli di scatola nera? Oppure mi sfugge qualcosa?
Risposte
In un semplice modello lineare della forma $y = \beta_0 + \beta_1 x $ possiamo vederlo aumentare $x$ di un'unità aumenterà la previsione su $y$ di $\beta_1$. Qui possiamo determinare completamente quale sarà l'effetto sulla previsione dei modelli aumentando$x$. Con modelli più complessi come le reti neurali è molto più difficile da dire a causa di tutti i calcoli in cui è coinvolto un singolo punto dati. Ad esempio, in una CNN come hai detto, se ho cambiato il valore di un pixel in un'immagine stavamo passando per la CNN non saresti davvero in grado di dirmi esattamente l'effetto che avrebbe sulla previsione come puoi fare con il modello lineare.