Classificação multiclasse de regressão logística

O artigo anterior mencionou a classificação logística única，Explique alguns detalhes de como implementar. A próxima coisa a explorar é a classificação multiclasse logística.

Se a classificação logística única for um único classificador, a classificação multiclasse logística será:

(1) Classificador multiclasse.
(2) O peso é uma matriz cuja dimensão é o número de {características} × {o número de categorias}.
(3) A matriz dos dados de entrada é sua dimensão: {o número de dados} × {o número de feições}.

A diferença é que o peso de classificação único (binário) é um único vetor e o peso de várias classes é uma matriz devido ao grande número de classificações.

Preste atenção ao Softmax aqui está:

Ao adicionar classificadores multicamadas para aumentar a profundidade do aprendizado, após a filtragem camada por camada, certas situações aumentarão a precisão do valor estimado e você não saberá até que realmente o teste.

Deve-se notar aqui que a operação da matriz.

vamos comparar o classificador único e o classificador multiclasse:

Classificador único

Suponha que os dados {X} tenham 100 entradas, 3 campos de recursos e 3 elementos no vetor de peso W, o programa deve ter cuidado se as dimensões estão corretas…

Classificador multiclasse

Suponha que os dados {X} tenham 100 entradas, 3 campos de recursos, 3 categorias e o vetor de peso W tenha 3x3 elementos, o programa deve ter cuidado se as dimensões estão corretas:

Resumo

1. A fonte de tudo é encontrar a função de perda e usar o método de descida do gradiente para diferenciar as variáveis ​​de peso de cada recurso da função de perda para treinar e encontrar o valor de peso mais apropriado de cada recurso. Voltando e fazendo muitos dados passados ​​ou dados futuros:
   (1) Regressão
   (2) Classificação
2. A função de perda da regressão logística vem do quadrado do erro. O significado direto é minimizar o erro do valor previsto gerado pelo peso do recurso.
3. A classificação logística única (classificador binário) pode ser considerada como um único classificador, através da função de ativação Sigmóide, o valor previsto é comprimido entre 0 e 1, e transformado no conceito de probabilidade. A função de perda é derivada da função de verossimilhança . Através da probabilidade, vem da entropia cruzada e, em seguida, diferencia o conceito de gradiente descendente na função de perda para obter o peso do recurso para maximizar a probabilidade de previsão da classificação. Outro significado é que a chance de erro se torna menor.
4. A classificação logística múltipla é combinar vários vetores de peso de classificador único em uma matriz de peso e usar a função de ativação Softmax para julgar a classificação por probabilidade, e a probabilidade de cada classificação prevista por cada soma de dados é 1. Deixe os resultados previstos pertencerem a qual categoria, qual categoria tem o valor de probabilidade mais alto, e a probabilidade corresponde ao valor real, e a matriz de peso que representa a inversão também ajuda a minimizar o erro dos resultados futuros previstos.
5. A camada oculta pode ser calculada com a matriz de ponderação de recursos e, em seguida, usar a compactação de valores de dados padronizados, como Sigmoid, Softmax, ReLU, etc., para transformá-la em um valor semelhante à probabilidade; a camada oculta pode ser multicamadas e a camada final pode gerar a classificação de previsão final, seu significado também significa que, por meio da conversão da camada oculta em uma probabilidade, após filtragem e julgamento camada por camada, a melhor classificação a previsão será obtida com o conceito de probabilidade total.

1. https://www.kaggle.com/code/manishkc06/multi-class-logistic-regression-beginner-s-guide
2. https://en.wikipedia.org/wiki/Multinomial_logistic_regression
3. https://en.wikipedia.org/wiki/Softmax_function