Çok Katmanlı Algılayıcı Ağ Denklemi

Oct 15 2020

Çok Katmanlı Algılayıcı Ağı kullandığım şarap şirketlerinin işletme yönetimi hakkında bir makale yazıyorum.

Öğretmenim daha sonra ağın çıktısını hesaplamama izin veren bir denklem yazmamı istedi. Cevabım, çok katmanlı algılayıcı ağlarının doğası gereği, tek başına tek bir denklem olmamasıydı. Sahip olduğum şey bir ağırlık ve önyargı tablosu. Daha sonra şu formülü kullanabilirim:

$$f(x) = (\sum^{m}_{i=1} w_i * x_i) + b$$

Nerede:

  • m önceki katmandaki nöronların sayısıdır,
  • w rastgele bir ağırlıktır
  • x girdi değeridir,
  • b rastgele bir önyargıdır.

Bunu gizli katmanlardaki ve çıktı katmanındaki her katman / nöron için yapmak.

Bana yaptığı başka bir çalışmanın bir örneğini gösterdi (alttaki resim) ve bunun böyle bir şey olması gerektiğini söyledi. Grafiğe baktığımda, bunun lojistik bir gerileme olduğunu düşünüyorum.

Yani sorularım şu:

  1. Çok katmanlı bir algılayıcı ağının çıktısını tahmin etmek için her nöron üzerinde yinelemenin dışında herhangi bir denklem var mı? $w*x+b$?
  2. Öğretmenime lojistik gerilemenin farklı bir durum olduğunu ve aynı durumun bu tür sinir ağları için geçerli olmadığını söylemeli miyim?
  3. İlk formül, bir nöronun bir değerinin önceki katmanların toplamı artı önyargı olduğunu göstermek için doğru mu?


Düzenleme 1 : Formülü yazmadım ama aktivasyon fonksiyonlarına da sahibim (relu).

Yanıtlar

1 OliverFoster Oct 15 2020 at 02:59

MLP'nin aktivasyon işlevi olan bir öğesini unutuyorsunuz. Aktivasyon fonksiyonunuz lineer ise - o zaman tüm nöronları tek bir lineer denklemde düzleştirebilirsiniz. Ancak MLP'nin avantajı doğrusal olmamasıdır, bu yüzden ağınızda bazı aktivasyonlarınız olduğundan şüpheleniyorum (sigmoid? Tanh? Relu? Vb ..).

Grafiğinize gelince - MLP'nizden tahminler çıkarabilir ve yukarıda sahip olduğunuz dağılım grafiğini tam olarak çizebilirsiniz. Tek fark, bu ağı cebirsel gösterimle ifade etmenin basit bir yolunun olmamasıdır (mevcut x ekseninde yaptığınız gibi).

Ağları metinde etkili bir şekilde tanımlamak için, her katmanın ağırlıklarını ve girdilerini açıklayan matris notasyonuna bakmalısınız. Başlamak için belki şuna bir göz atın:https://www.jeremyjordan.me/intro-to-neural-networks/