La costruzione di una rete neurale comporta diversi passaggi chiave:
-
Raccolta e pre-elaborazione dei dati: Raccogliere e organizzare i dati da utilizzare per addestrare e testare la rete neurale. Ciò potrebbe comportare la pulizia dei dati, la gestione dei valori mancanti e la suddivisione in set di addestramento, convalida e test.
-
Scegliere l'architettura della rete neurale: Decidere il tipo di architettura della rete neurale più adatta al problema. Potrebbe trattarsi di una rete neurale feedforward, di una rete neurale convoluzionale (CNN) per i dati di immagine, di una rete neurale ricorrente (RNN) per i dati sequenziali o di altre architetture specializzate.
-
Inizializzazione del modello: Inizializzare i parametri della rete neurale, come i pesi e le polarizzazioni, di solito in modo casuale o utilizzando tecniche di inizializzazione specifiche.
-
Propagazione in avanti: Eseguire la propagazione in avanti facendo passare i dati di ingresso attraverso la rete per fare previsioni. Ogni livello esegue un'operazione lineare o non lineare sull'input.
-
Calcolo della perdita: confrontare la produzione prevista con quella effettiva per calcolare la perdita, che misura quanto le previsioni si discostano dai valori reali.
-
Retropropagazione: Utilizzare un algoritmo di ottimizzazione (ad esempio la discesa del gradiente) per aggiornare i pesi della rete in modo da minimizzare la perdita. Questa fase prevede il calcolo dei gradienti della funzione di perdita rispetto ai pesi della rete e la conseguente regolazione dei pesi per minimizzare la perdita.
-
Iterare: Ripetere le fasi di propagazione in avanti, calcolo delle perdite e retropropagazione per più iterazioni o epoche per migliorare le prestazioni del modello.
Gli strati di una tipica architettura di rete neurale comprendono:
-
Livello di input: Questo livello riceve i dati in ingresso, siano essi immagini, testi, valori numerici, ecc. Il numero di nodi di questo livello corrisponde al numero di caratteristiche dell'input.
-
Strati nascosti: Questi strati si trovano tra gli strati di ingresso e di uscita e sono responsabili dell'estrazione di caratteristiche rilevanti dai dati di ingresso. Nelle reti neurali profonde, gli strati nascosti possono essere molteplici e ogni strato è composto da neuroni o nodi.
-
Strato di output: Lo strato finale che produce l'output del modello. Il numero di nodi in questo livello dipende dal tipo di problema: ad esempio, per la classificazione binaria, potrebbe esserci un nodo per un singolo output, mentre per la classificazione multiclasse potrebbero esserci più nodi che rappresentano classi diverse.
Le reti neurali sono definite anche da:
-
Funzioni di attivazione: Ogni strato (ad eccezione dello strato di ingresso) comprende tipicamente una funzione di attivazione che introduce una non linearità nella rete, consentendole di apprendere modelli complessi. Le funzioni di attivazione più comuni sono ReLU (Rectified Linear Activation), Sigmoid, Tanh, ecc.
-
Connessioni (o Pesi): Ogni nodo di uno strato è collegato a ogni nodo dello strato successivo con un peso associato a ciascuna connessione. Questi pesi vengono regolati durante il processo di addestramento per ottimizzare le prestazioni della rete.
Le diverse architetture di rete neurale possono avere variazioni o strati aggiuntivi specifici per i loro scopi, ma questi strati costituiscono la struttura di base di una rete neurale.
