Persamaan Jaringan Perceptron Multi-Layer

Oct 15 2020

Saya menulis artikel tentang manajemen bisnis perusahaan anggur tempat saya menggunakan Jaringan Perceptron Multi-Layer.

Guru saya kemudian meminta saya untuk menulis persamaan yang memungkinkan saya menghitung keluaran jaringan. Jawaban saya adalah karena sifat jaringan perceptron multi-layer tidak ada persamaan tunggal. Yang saya miliki adalah tabel bobot dan bias. Saya kemudian dapat menggunakan rumus ini:

$$f(x) = (\sum^{m}_{i=1} w_i * x_i) + b$$

Dimana:

  • m adalah jumlah neuron di lapisan sebelumnya,
  • w adalah bobot acak,
  • x adalah nilai masukan,
  • b adalah bias acak.

Melakukan ini untuk setiap lapisan / neuron di lapisan tersembunyi dan lapisan keluaran.

Dia menunjukkan kepada saya contoh karya lain yang dia buat (gambar di bawah), memberi tahu saya bahwa itu harus seperti itu. Melihat grafik, saya kira ini adalah regresi logistik.

Jadi, pertanyaan saya adalah sebagai berikut:

  1. Apakah ada persamaan untuk memprediksi keluaran jaringan perceptron multi-layer selain melakukan iterasi pada setiap neuron dengan $w*x+b$?
  2. Haruskah saya memberi tahu guru saya bahwa regresi logistik adalah kasus yang berbeda dan hal yang sama tidak berlaku untuk jenis jaringan saraf ini?
  3. Apakah rumus pertama benar untuk menunjukkan bahwa nilai neuron adalah hasil kali dari lapisan sebelumnya ditambah bias?


Sunting 1 : Saya tidak menulis rumus tetapi saya juga memiliki fungsi aktivasi (relu).

Jawaban

1 OliverFoster Oct 15 2020 at 02:59

Anda melupakan salah satu elemen MLP yang merupakan fungsi aktivasi. Jika fungsi aktivasi Anda linier - maka Anda dapat meratakan semua neuron menjadi satu persamaan linier tunggal. Keuntungan dari MLP bagaimanapun adalah non-linearitasnya jadi saya curiga di jaringan Anda, Anda memiliki beberapa aktivasi (sigmoid? Tanh? Relu? Dll ..).

Adapun grafik Anda - Anda cukup mengeluarkan prediksi dari MLP Anda dan memplot plot pencar yang tepat yang Anda miliki di atas. Satu-satunya perbedaan adalah Anda tidak memiliki cara sederhana untuk mengekspresikan jaringan ini dalam notasi aljabar (seperti yang telah Anda lakukan pada sumbu x yang ada).

Untuk mendeskripsikan jaringan secara efektif dalam teks, Anda harus melihat notasi matriks yang menjelaskan bobot dan masukan dari setiap lapisan. Mungkin lihat sesuatu seperti ini untuk memulai:https://www.jeremyjordan.me/intro-to-neural-networks/