Regressione logistica Classificazione multiclasse

L'articolo precedente menzionava la singola classificazione logistica，Spiega alcuni dettagli su come implementare. La prossima cosa da esplorare è la classificazione logistica multiclasse.

Se la classificazione singola logistica è un classificatore singolo, la classificazione multiclasse logistica è:

(1) Classificatore multiclasse.
(2) Il peso è una matrice la cui dimensione è il numero di {caratteristiche} × {il numero di categorie}.
(3) La matrice dei dati di input è la sua dimensione: {il numero di dati} × {il numero di caratteristiche}.

La differenza è che il peso di classificazione singolo (binario) è un singolo vettore e il peso multiclasse è una matrice a causa dell'elevato numero di classificazioni.

Prestare attenzione a Softmax qui è:

Aggiungendo classificatori multistrato per aumentare la profondità dell'apprendimento, dopo il filtraggio strato per strato, determinate situazioni aumenteranno l'accuratezza del valore stimato e non lo saprai fino a quando non lo testerai effettivamente.

Va notato qui che l'operazione di matrice.

confrontiamo Classificatore singolo e Classificatore multiclasse:

Classificatore singolo

Supponiamo che i dati {X} abbiano 100 voci, 3 campi funzione e 3 elementi nel vettore peso W, il programma deve fare attenzione se le dimensioni sono corrette...

Classificatore multiclasse

Supponiamo che i dati {X} abbiano 100 voci, 3 campi funzione, 3 categorie e che il vettore peso W abbia 3x3 elementi, il programma deve fare attenzione se le dimensioni sono corrette:

Riepilogo

1. La fonte di tutto è trovare la funzione di perdita e utilizzare il metodo di discesa del gradiente per differenziare le variabili di peso di ciascuna caratteristica della funzione di perdita per allenarsi e trovare il valore di peso più appropriato di ciascuna caratteristica. Tornando indietro e facendo molti dati passati o dati futuri:
   (1) Regressione
   (2) Classificazione
2. La funzione di perdita della regressione logistica deriva dal quadrato dell'errore. Il significato diretto è minimizzare l'errore del valore previsto generato dal peso della caratteristica.
3. La singola classificazione logistica (classificatore binario) può essere considerata come un singolo classificatore, attraverso la funzione di attivazione Sigmoid, il valore previsto viene compresso tra 0 e 1 e trasformato nel concetto di probabilità. La funzione di perdita è derivata dalla funzione di verosimiglianza . Attraverso la probabilità Viene dall'entropia incrociata, quindi differenzia il concetto di discesa del gradiente sulla funzione di perdita per ottenere il peso della caratteristica per massimizzare la probabilità di previsione della classificazione. Un altro significato è che la possibilità di errore diminuisce.
4. La classificazione logistica multipla consiste nel combinare più vettori di peso del classificatore singolo in una matrice di peso e utilizzare la funzione di attivazione Softmax per giudicare la classificazione in base alla probabilità e la probabilità di ciascuna classificazione prevista da ciascuna somma di dati a 1. Lascia che i risultati previsti appartengano a quale categoria, quale categoria ha il valore di probabilità più alto, e la probabilità corrisponde al valore effettivo, e la matrice dei pesi che rappresenta l'inversione aiuta anche a minimizzare l'errore dei futuri risultati previsti.
5. Lo strato nascosto può essere calcolato con la matrice del peso delle caratteristiche e quindi utilizzare la compressione di valori di dati standardizzati come Sigmoid, Softmax, ReLU, ecc. per trasformarlo in un valore simile alla probabilità; lo strato nascosto può essere multistrato e lo strato finale può generare la classificazione di previsione finale, il suo significato significa anche che attraverso il modo di convertire lo strato nascosto in una probabilità, dopo il filtraggio e il giudizio strato per strato, la migliore classificazione la previsione sarà ottenuta con il concetto di probabilità totale.

1. https://www.kaggle.com/code/manishkc06/multi-class-logistic-regression-beginner-s-guide
2. https://en.wikipedia.org/wiki/Multinomial_logistic_regression
3. https://en.wikipedia.org/wiki/Softmax_function