Realizzazione e caratterizzazione di una semplice rete neurale per la separazione di due campioni di...

Click here to load reader

  • date post

    01-May-2015
  • Category

    Documents

  • view

    212
  • download

    1

Embed Size (px)

Transcript of Realizzazione e caratterizzazione di una semplice rete neurale per la separazione di due campioni di...

  • Slide 1
  • Realizzazione e caratterizzazione di una semplice rete neurale per la separazione di due campioni di eventi Vincenzo Izzo
  • Slide 2
  • Sommario Le reti neurali Lalgoritmo di apprendimento I risultati Vincenzo Izzo
  • Slide 3
  • 1 Reti neurali biologiche corpo cellulare o soma, dal quale partono collegamenti (dendriti) verso altri neuroni: compito dei dendriti ricevere i segnali dagli altri neuroni collegati il soma ha un collegamento di uscita, o assone, con il quale il neurone trasmette i suoi dati verso i dendriti di altri neuroni
  • Slide 4
  • 2 Vincenzo Izzo Reti neurali artificiali Composta da un certo numero di neuroni collegati tra loro da collegamenti pesati Accetta dati sulle unit in ingresso (input) e presenta i corrispondenti dati sulle unit di uscita; pu avere unit nascoste (hidden) che contribuiscono a codificare i legami tra le variabili di input e quelle di output Ogni neurone riceve una combinazione lineare delle uscite dei neuroni dello strato precedente e tali connessioni sono pesate dai pesi sinaptici w i
  • Slide 5
  • 3 Vincenzo Izzo Lapprendimento (1) Si inizializza la rete scegliendo i pesi in modo casuale; Si fornisce un campione di training composto da coppie Input/output atteso; Si calcola il risultato in output della rete e lo si confronta con loutput atteso; Si modificano i pesi dei collegamenti tra i neuroni in funzione dello scarto tra output e output atteso. La funzione di trasferimento input-output della rete viene ottenuta attraverso un processo di addestramento (training) con dati proposti alla rete La correzione dei pesi avviene secondo una semplice somma w i = w i + w i
  • Slide 6
  • 4 Vincenzo Izzo Lapprendimento (2) Definiamo lerrore commesso dalla rete N 0 = neuroni in uscita, T = eventi del campione di training, Out i = valori in uscita della rete, Y i = valori attesi E = 1 (Y i (t) - Out i (t) ) 2 N0N0 T i=1t=1 N0N0 La correzione sui pesi
  • Slide 7
  • 5 Vincenzo Izzo Lapprendimento (3) Per un solo perceptrone la correzione vale w i = (t-y)x i, Per una rete a tre livelli, tra layer dingresso e nascosto Dove x i sono gli input, i = Out i (t) (Y i - Out i )(1 - Out i (t) ) e w il sono i pesi tra layer di input e layer nascosto; tra layer nascosto e layer di uscita Dove gli h k indicano loutput del k-esimo neurone del layer nascosto
  • Slide 8
  • 6 Vincenzo Izzo I problemi nellapprendimento Si inizializza la rete scegliendo i pesi in modo casuale Si pu risolvere scegliendo diverse velocit di apprendimento
  • Slide 9
  • 7 Vincenzo Izzo La programmazione Insieme S x1x1 11 x2x2 22 x3x3 33 x4x4 44 01111111 Insieme N x1x1 11 x2x2 22 x3x3 33 x4x4 44 41414141 Se un dato appartiene allinsieme S, luscita del neurone dovr essere 1, se appartiene allinsieme N luscita sar 0 La generazione dei dati gaussiani i dati sono mescolati alternando una quadrupla dellinsieme S ed una quadrupla dellinsieme N i dati sono mescolati in modalit casuale basata sullo stesso algoritmo di generazione di numeri casuali
  • Slide 10
  • 8 Vincenzo Izzo I risultati Errore commesso dal neurone, per il campione di training e quello di controllo E = 1 (Y i (t) - Out i (t) ) 2 N0N0 T i=1t=1 N0N0 Risposta in uscita, per il campione di training e quello di controllo Efficienza e contaminazione per gli insiemi S e N del neurone, per il campione di training e quello di controllo
  • Slide 11
  • 9 Vincenzo Izzo I risultati 100 eventi Errore del neurone su 100 eventi: training (a sin.) e controllo
  • Slide 12
  • 10 Vincenzo Izzo I risultati 100 eventi Uscita del neurone per linsieme S: training (a sin.) e controllo
  • Slide 13
  • 11 Vincenzo Izzo I risultati 100 eventi Uscita del neurone per linsieme N: training (a sin.) e controllo
  • Slide 14
  • 12 Vincenzo Izzo I risultati 100 eventi Efficienza del neurone sul campione S in funzione del taglio: training (a sin.) e controllo
  • Slide 15
  • 13 Vincenzo Izzo I risultati 100 eventi Efficienza del neurone sul campione N in funzione del taglio: training (a sin.) e controllo
  • Slide 16
  • 14 Vincenzo Izzo I risultati 100 eventi Contaminazione del campione S in funzione del taglio: training (a sin.) e controllo
  • Slide 17
  • 15 Vincenzo Izzo I risultati 100 eventi Contaminazione del campione N in funzione del taglio: training (a sin.) e controllo
  • Slide 18
  • 16 Vincenzo Izzo I risultati dipendenza da n. eventi Errore del neurone per 50, 100, 200 eventi campione di training
  • Slide 19
  • 17 Vincenzo Izzo I risultati dipendenza da n. eventi Errore del neurone per 50, 100, 200 eventi campione di controllo
  • Slide 20
  • 18 Vincenzo Izzo I risultati dipendenza da n. eventi Output per linsieme N per 50, 100, 200 eventi campione di training
  • Slide 21
  • 19 Vincenzo Izzo I risultati dipendenza da n. eventi Output per linsieme N per 50, 100, 200 eventi campione di controllo
  • Slide 22
  • 20 Vincenzo Izzo I risultati dipendenza da n. eventi Output per linsieme S per 50, 100, 200 eventi campione di training
  • Slide 23
  • 21 Vincenzo Izzo I risultati dipendenza da n. eventi Output per linsieme S per 50, 100, 200 eventi campione di controllo
  • Slide 24
  • 22 Vincenzo Izzo I risultati dipendenza da n. eventi Efficienza per linsieme N per 50, 100, 200 eventi campione di training
  • Slide 25
  • 23 Vincenzo Izzo I risultati dipendenza da n. eventi Efficienza per linsieme N per 50, 100, 200 eventi campione di controllo
  • Slide 26
  • 24 Vincenzo Izzo I risultati dipendenza da n. eventi Efficienza per linsieme S per 50, 100, 200 eventi campione di training
  • Slide 27
  • 25 Vincenzo Izzo I risultati dipendenza da n. eventi Efficienza per linsieme S per 50, 100, 200 eventi campione di controllo
  • Slide 28
  • 26 Vincenzo Izzo I risultati dipendenza da n. eventi Contaminazione per linsieme N per 50, 100, 200 eventi campione di training
  • Slide 29
  • 27 Vincenzo Izzo I risultati dipendenza da n. eventi Contaminazione per linsieme N per 50, 100, 200 eventi campione di controllo
  • Slide 30
  • 28 Vincenzo Izzo I risultati dipendenza da n. eventi Contaminazione per linsieme S per 50, 100, 200 eventi campione di training
  • Slide 31
  • 29 Vincenzo Izzo I risultati dipendenza da n. eventi Contaminazione per linsieme S per 50, 100, 200 eventi campione di controllo
  • Slide 32
  • 30 Vincenzo Izzo I risultati dipendenza da n. eventi Andamento dei pesi in funzione delle epoche, per 50, 100, 200 eventi nel campione
  • Slide 33
  • 31 Vincenzo Izzo I risultati dip. dal parametro Andamento dellerrore in funzione delle epoche, per =0.5, 2, 10 - Training
  • Slide 34
  • 32 Vincenzo Izzo I risultati dip. dal parametro Andamento dellerrore in funzione delle epoche, per =0.5, 2, 10 - Controllo
  • Slide 35
  • 33 Vincenzo Izzo I risultati dip. dal parametro Efficienza per il campione N, per =0.5, 2, 10 - Training
  • Slide 36
  • 34 Vincenzo Izzo I risultati dip. dal parametro Efficienza per il campione N, per =0.5, 2, 10 - Controllo
  • Slide 37
  • 35 Vincenzo Izzo I risultati dip. dal parametro Efficienza per il campione S, per =0.5, 2, 10 - Training
  • Slide 38
  • 36 Vincenzo Izzo I risultati dip. dal parametro Efficienza per il campione S, per =0.5, 2, 10 - Controllo
  • Slide 39
  • 37 Vincenzo Izzo I risultati dip. dal parametro Andamento dei pesi in funzione delle epoche, per =0.5, 2, 10
  • Slide 40
  • 38 Vincenzo Izzo I risultati dip. dal mixing dei dati Andamento dellerrore in funzione delle epoche, modalit alternata (a sin.) e pseudorandom - Training
  • Slide 41
  • 39 Vincenzo Izzo I risultati dip. dal mixing dei dati Andamento dellerrore in funzione delle epoche, modalit alternata (a sin.) e pseudorandom - Controllo
  • Slide 42
  • 40 Vincenzo Izzo I risultati dip. dal mixing dei dati Efficienza per il campione N, modalit alternata (a sin.) e pseudorandom Training
  • Slide 43
  • 41 Vincenzo Izzo I risultati dip. dal mixing dei dati Efficienza per il campione N, modalit alternata (a sin.) e pseudorandom Controllo
  • Slide 44
  • 42 Vincenzo Izzo I risultati dip. dal mixing dei dati Efficienza per il campione S, modalit alternata (a sin.) e pseudorandom Training
  • Slide 45
  • 43 Vincenzo Izzo I risultati dip. dal mixing dei dati Efficienza per il campione S, modalit alternata (a sin.) e pseudorandom Controllo
  • Slide 46
  • 44 Vincenzo Izzo I risultati dip. dal mixing dei dati Andamento dei pesi in funzione delle epoche, modalit alternata (a sin.) e pseudorandom
  • Slide 47
  • 45 Vincenzo Izzo I risultati dip. dalla sovrapposizione dei dati Insieme S x1x1 11 x2x2 22 x3x3 33 x4x4 44 21212121 Insieme N x1x1 11 x2x2 22 x3x3 33 x4x4 44 41414141 Insieme S x1x1 11 x2x2 22 x3x3 33 x4x4 44 01111111 Insi