2.1 Storia

Lo studio sulle reti neurali può vedere le sue origini più antiche nel lontano 1889, quando il medico spagnolo Santiago Ramon y Cajal confermò sperimentalmente l'ipotesi dell'anatomista tedesco H. W. Gottfried von Waldeyer-Hertz: il sistema nervoso sarebbe composto da unità discrete ed elementari dette neuroni. Un neurone riceve dei segnali elettrici dai neuroni adiacenti tramite dei ricevitori che pendono il nome di dendriti. Un neurone compie la media pesata di questi segnali elettrici in input ed il risultato viene inviato ad altri neuroni adiacenti tramite gli assoni. Il contatto tra gli assoni e l'altra cella nervosa viene garantito dalla sinapsi, la quale con una funzione non lineare permette la trasmissione del segnale elettrico. (Figura 2.1)

Solo sette anni dopo il celebre articolo di Turing che diede origini ai primi programmi per calcolatore, si vede la nascita delle prime reti neurali artificiali. Nel 1943 McCulloch e Pitts diedero origine al primo neurone artificiale. Si tratta di un neurone molto semplice che può fornire in output solo i valori 1 e 0. Venne dimostrato che essa era in grado di svolgere le funzioni di una macchina di Turing, ma non era ancora in grado di apprendere. La scoperta del primo neurone artificiale in grado di apprendere è attribuita allo psicologo americano Rosenblatt (1962) il quale inventò una procedura automatica di addestramento di un particolare tipo di neuroni che presero il nome di single-layer perceptron. Dopo un iniziale entusiasmo da parte di tutto il mondo, passarono quindici anni prima di avere un punto di svolta quando Rumelhart nel 1986 inventò l'algoritomo di apprendimento che prese il nome di back-propagation. Esso, utilizzato ancor oggi, segnò una svolta significativa e permise l'utilizzo delle reti neurali per apprendere qualsiasi genere di funzione.

Figure 2.1: Neurone biologico

L'attività sulle reti neurali per il riconoscimento vocale vede il suo inizio in tempi piuttosto recenti, con le prime reti in grado inizialmente di riconoscere solo 10 cifre isolate. Qualche anno dopo con l'avvento dei modelli ibridi markoviani/neurali vennero fatti esperimenti sul riconoscimento di cifre isolate, poi su quelle connesse e sul parlato continuo, arrivando ad ottenere risultati paragonabili alle tecnologie più classiche dei modelli markoviani a misture di densità gaussiane.