Le reti neurali sono queste scatole nere in cui dai degli input, questi input passano attraverso diverse funzioni e ne esce un output. Sono estremamente bravi a riconoscere il parlato, i sottotitoli di testo, a prevedere il prossimo stato del gioco.

Prima di immergerci, vediamo come funziona il cervello umano o cosa ancora più profonda, "Human Cognition"!

Storia

"Se il cervello umano fosse così semplice da poterlo capire, noi saremmo così semplici da non poterlo fare." — Emerson M.Pugh .

Associazionismo

Associazione

Tornando a Platone, David Hume a 2.500 anni la teoria per il modello della cognizione umana è "Associazione".

Cos'è l'Associazione?

Il lampo è seguito dal tuono. “Abbiamo appena sentito un tuono; Qualcuno ne è stato colpito?"

Questa è Associazione .

"Questo tipo di associazione è ancora utilizzato nell'apprendimento automatico, ma ci mettiamo un po' di matematica".

Ma dove sono memorizzate queste Associazioni? È ovvio che queste associazioni devono essere memorizzate da qualche parte e invocate inferenze.

Connessionismo

Metà del 1800: il cervello è una massa di neuroni interconnessi. Il cervello è struttura di cellule di rete. Qualcosa con questa struttura ha a che fare con il funzionamento del cervello. Ogni neurone è connesso a molti altri neuroni. Questo ha dato origine al connessionismo

I neuroni si eccitano e si stimolano a vicenda. Diverse combinazioni di input si traducono in diversi set di output. Nell'esempio dato,

Se a e b sono alti, 'x' scatterà,

se b &c sono alti, 'y' sparerà,

se a & c sono alti, 'z' scatterà.

Pertanto, diversi modelli di input si tradurranno in diversi modelli di output. Segnali di intensità diversa possono produrre output diversi. Anche un apprendimento proposto da Alexander Bain a seconda dell'intensità dell'input.

McClloch e Pitts

Queste due persone hanno provato a modellare il primo neurone artificiale.

Un neurone ha fondamentalmente due connessioni. Il neuro si attiva dove il numero totale di input eccitatori di ciascuna connessione supera la soglia, a meno che non ci sia un segnale inibitorio che passa attraverso quel filo inibitorio.

Frank Rosenblatt

Il perceptron di Rosenblatt consiste di tre unità, (i) Unità sensoriali, (ii) Unità associativa, (iii) Unità di risposta.

Il numero di input si combina linearmente moltiplicato con i pesi assegnati al rispettivo input. Questa funzione affine è data come input alla funzione di soglia. Il neurone viene attivato quando il valore supera il valore di soglia.

Y = { 1 se ∑wixi -T ≥ 0; altro 0

Algoritmo di apprendimento:

W = W+η(d(x)-y(x))

Aggiorna i pesi ogni volta che l'output del percettrone è errato. Aggiorna il peso in base al prodotto dell'input e dell'errore tra l'output desiderato e quello effettivo.

Un singolo perceptron o una rete di perceptron può modellare qualsiasi funzione booleana arbitraria. Tuttavia i singoli elementi della rete sono modelli computazionali deboli. Sono richiesti elementi di rete.

Nel prossimo blog vediamo cosa può modellare un Perceptron multistrato e le sue limitazioni.