Equação de uma rede Perceptron Multi-Layer

Question

Estou escrevendo um artigo sobre gestão de negócios de empresas de vinho onde uso uma Rede Perceptron Multi-Layer.

Meu professor então me pediu para escrever uma equação que me permitisse calcular a saída da rede. Minha resposta foi que, devido à natureza das redes perceptron multicamadas, não existe uma equação única per se. O que tenho é uma tabela de pesos e preconceitos. Posso então usar esta fórmula:

$$f(x) = (\sum^{m}_{i=1} w_i * x_i) + b$$

Onde:

• m é o número de neurônios na camada anterior,
• w é um peso aleatório,
• x é o valor de entrada,
• b é um viés aleatório.

Fazendo isso para cada camada / neurônio nas camadas ocultas e na camada de saída.

Ela me mostrou um exemplo de outro trabalho que ela fez (imagem embaixo), me dizendo que deveria ser algo assim. Olhando para o gráfico, suponho que seja uma regressão logística.

Então, minhas perguntas são as seguintes:

1. Existe alguma equação para prever a saída de uma rede perceptron multicamadas diferente de iterar em cada neurônio com $w*x+b$?
2. Devo apenas dizer ao meu professor que uma regressão logística é um caso diferente e o mesmo não se aplica a este tipo de redes neurais?
3. A primeira fórmula está correta para mostrar que o valor de um neurônio é o produto da soma das camadas anteriores mais o viés?

---

Edição 1 : não escrevi a fórmula, mas também tenho funções de ativação (relu).

Answer 1

Você está esquecendo um elemento do MLP que é a função de ativação. Se sua função de ativação for linear - então você pode simplesmente nivelar todos os neurônios em uma única equação linear. A vantagem do MLP, entretanto, são suas não linearidades, então suspeito que em sua rede você tenha alguma ativação (sigmóide? Tanh? Relu? Etc.).

Quanto ao seu gráfico - você pode simplesmente gerar previsões do seu MLP e traçar o gráfico de dispersão exato que você tem acima. A única diferença seria que você não teria uma maneira simples de expressar essa rede em notação algébrica (como você fez no eixo x existente).

Para descrever redes de forma eficaz em texto, você deve examinar a notação de matriz que descreve os pesos e entradas de cada camada. Talvez dê uma olhada em algo assim para começar:https://www.jeremyjordan.me/intro-to-neural-networks/