Palleschi - Tecniche di blind source separation

54
Tecniche di Blind Source Separation per il Recupero di Informazioni Nascoste in Manoscritti, Opere d'Arte, Reperti Archeologici Vincenzo Palleschi Consiglio Nazionale delle Ricerche, Pisa Università degli Studi di Pisa Università di Torino Seminario di Cultura Digitale, 22 marzo 2017

Transcript of Palleschi - Tecniche di blind source separation

Page 1: Palleschi - Tecniche di blind source separation

Tecniche di Blind Source Separation per il Recupero di Informazioni Nascoste in Manoscritti, Opere d'Arte, Reperti Archeologici Vincenzo Palleschi Consiglio Nazionale delle Ricerche, Pisa Università degli Studi di Pisa Università di Torino

Seminario di Cultura Digitale, 22 marzo 2017

Page 2: Palleschi - Tecniche di blind source separation

Imaging Multispettrale

Il termine "imaging multispettrale" indica quelle tecniche digitali di ricostruzione di immagine che si propongono di riprodurre (ed estendere) il meccanismo della visione umana

Page 3: Palleschi - Tecniche di blind source separation

Il meccanismo della visione

´ La radiazione luminosa nell’occhio umano attiva in maniera diversa tre tipi di recettori (coni) della retina

´ Come conseguenza di questo, l’occhio percepisce lunghezze d’onda diverse come colori diversi, attraverso l’elaborazione dei 3 valori di tristimolo provenienti dai coni

Page 4: Palleschi - Tecniche di blind source separation

Imaging Digitale

´  Il sistema di imaging più semplice (e diffuso) è quello delle macchine fotografiche digitali

´  I sensori elettronici delle macchine digitali non sono di per sé sensibili al colore

´ La ricostruzione del colore avviene tipicamente attraverso l’interposizione di un sistema di micro-filtri colorati davanti al sensore

Il filtro ‘Bayer’

Page 5: Palleschi - Tecniche di blind source separation

Imaging Digitale

´ Su un sensore CCD da 24 Mpixel vengono rilevati 6 Mpixel di rosso, 6 Mpixel di blu e 12 Mpixel di verde

´ Il verde è il colore al quale l’occhio umano è più sensibile, e quindi viene campionato al doppio della risoluzione.

Page 6: Palleschi - Tecniche di blind source separation

Sistemi a Filtro Variabile

´  Macchina fotografica digitale simile ad una macchina fotografica convenzionale

´  La selezione spettrale è effettuata attraverso l’interposizione di opportuni filtri di fronte all’obiettivo o tra l’obiettivo e il sensore

Page 7: Palleschi - Tecniche di blind source separation
Page 8: Palleschi - Tecniche di blind source separation

Oltre il visibile

´ La banda di ‘colore’ al di sopra dei 700/750 nm non è percepita dall’occhio umano, ma può essere registrata dai sensori CCD (Charge-Coupled Devices) che si usano per l’imaging multispettrale visibile

300 400 500 600 700 800 900 1000 1100 12000.01

0.1

1

Rel

ativ

e ef

ficie

ncy

Wavelength λ nm

Page 9: Palleschi - Tecniche di blind source separation

Dipendenza dalla lunghezza d'onda

Radiazioni di lunghezza d'onda differente hanno diverse profondità di penetrazione al di sotto della superficie

La componente riflessa a lunghezze d'onda corte (ultravioletto/blu) in genere fornisce informazioni sulla struttura della superficie, mentre quella nell’infrarosso può rivelare la struttura del dipinto al di sotto dello strato pittorico

Page 10: Palleschi - Tecniche di blind source separation

Agnolo Bronzino – La pietà

Olio su tavola cm 223x84,5 in tabernacolo ligneo policromo e dorato cm 323x126x38 Firmata e datata ANGELUS BRONZINUS. 1569 FLOR. FAC.

Page 11: Palleschi - Tecniche di blind source separation

La pietà del Bronzino

Page 12: Palleschi - Tecniche di blind source separation

La pietà del Bronzino

Page 13: Palleschi - Tecniche di blind source separation

La pietà del Bronzino

Page 14: Palleschi - Tecniche di blind source separation

Tomba della Scimmia

Page 15: Palleschi - Tecniche di blind source separation
Page 16: Palleschi - Tecniche di blind source separation
Page 17: Palleschi - Tecniche di blind source separation

arenaria

argilla colore

Page 18: Palleschi - Tecniche di blind source separation
Page 19: Palleschi - Tecniche di blind source separation

Imaging Infrarosso

Page 20: Palleschi - Tecniche di blind source separation

FIGURE ROSSE

Page 21: Palleschi - Tecniche di blind source separation

Imaging Infrarosso

Page 22: Palleschi - Tecniche di blind source separation

Altra figura

Page 23: Palleschi - Tecniche di blind source separation

Immagine IR

Page 24: Palleschi - Tecniche di blind source separation

Andamento IR

850 nm 950 nm

1050 nm

Page 25: Palleschi - Tecniche di blind source separation

Andamento IR

1050 nm

Per ottenere un aumento della leggibilità dell’immagine è importante avere una buona risoluzione spettrale nell’IR Immagine nella banda

complessiva tra 850 e 1050 nm (simulata)

Page 26: Palleschi - Tecniche di blind source separation

ELABORAZIONE DELLE IMMAGINI MULTISPETTRALI

Page 27: Palleschi - Tecniche di blind source separation

Ipercolori

´  In un’immagine RGB, ogni pixel è associato ad un colore, con tre coordinate corrispondenti alle componenti Blu, Verde e Rossa

´  Si può immaginare che ad ogni pixel sia associato un vettore con quelle componenti

Page 28: Palleschi - Tecniche di blind source separation

Colori vicini e colori lontani

G

R B

G

R B

Ø  La distanza tra due colori si può misurare calcolando l’angolo tra i due vettori che li rappresentano, piuttosto che la distanza cartesiana tra i due punti che individuano

Ø  Infatti, i due punti possono essere anche molto distanti tra loro ma se l’angolo che fanno è piccolo, praticamente corrispondono a sfumature dello stesso ‘colore’

Page 29: Palleschi - Tecniche di blind source separation

Ipercolori

´  Cosa succede se abbiamo più di tre bande spettrali?

´  Succede che ad ogni pixel sarà associato un vettore con più di tre componenti

´  Anche se non riusciamo a visualizzare questo vettore in uno spazio a tre dimensioni, tutti i teoremi matematici che valgono per i vettori tridimensionali sono allo stesso modo validi per i vettori con più di tre dimensioni

Page 30: Palleschi - Tecniche di blind source separation

Individuazione di zone con colori ‘simili’

´ Se si hanno a disposizione più di tre bande di colore, nelle nostre immagini si possono individuare delle zone caratterizzate da (iper)colori vicini, andando a marcare i punti distanti meno di un certo valore da un (iper)colore di riferimento

´ Tanto minore è la distanza di ‘soglia’ per definire la similitudine tra i colori, tanto più sarà selettiva la procedura

´  Imponendo un criterio di similitudine troppo ristretto, si corre il rischio di considerare come diverse sfumature di colore simili

Page 31: Palleschi - Tecniche di blind source separation

Immagini rosse – Tomba della Scimmia

Page 32: Palleschi - Tecniche di blind source separation

TRATTAMENTI STATISTICI

Page 33: Palleschi - Tecniche di blind source separation

Elaborazione di gruppi di immagini

Un insieme di immagini multispettrale può essere elaborato per evidenziare particolari altrimenti non immediatamente visibili o migliorare la leggibilità del soggetto applicando il principio di separazione statistica delle immagini

L’idea è quella di considerare le n immagini multispettrali (pari alle bande di ‘colore’ considerate) come la sovrapposizione di altre n immagini ‘indipendenti’, ognuna corrispondente a una caratteristica fisica (substrato, strato pittorico, danneggiamenti superficiali, ‘underdrawing’, ecc…)

Gli algoritmi di separazione tentano di ‘estrarre’ le immagini indipendenti, attraverso una combinazione lineare delle immagini multispettrali originarie

Page 34: Palleschi - Tecniche di blind source separation

Il problema del cocktail party L'esempio classico che si utilizza per spiegare le tecniche di separazione statistica è il cosiddetto 'problema del cocktail party'…

Con opportuni algoritmi di elaborazione del segnale, si possono isolare le singole conversazioni, riducendo i rumori di fondo, riverberi, ecc…

Page 35: Palleschi - Tecniche di blind source separation

Trattamenti Statistici

G

B

R

Separazione nelle 3 componenti di colore (RGB)

Page 36: Palleschi - Tecniche di blind source separation

Trattamenti Statistici

Separazione RGB

R

G

B

Page 37: Palleschi - Tecniche di blind source separation

Ortogonalizzazione

Rotazione nello spazio delle coordinate di colore

Page 38: Palleschi - Tecniche di blind source separation

Trattamento statistico delle immagini

Si cerca una serie di combinazioni lineari (somme e differenze) di tutte le immagini multispettrali, nel nostro caso 4 (IR,R,G,B), che massimizzi la differenza o l’indipendenza statistica delle immagini risultanti. Si possono determinare degli algoritmi che non richiedono un intervento esterno e che per questo sono detti:

BLIND SOURCE SEPARATION METHODS

Page 39: Palleschi - Tecniche di blind source separation

Il Palinsesto di Archimede

La pergamena originale, nella quale erano trascritte alcune opere di Archimede, risale al X secolo. Nel XIII secolo la pergamena fu cancellata per sovrascrivervi un testo di preghiere. Nel 1998 il palinsesto è stato venduto all'asta presso Christie's e acquistato da un anonimo americano (Mr. B.). Da allora è iniziato un lungo lavoro di recupero del testo delle opere Archimede con l'uso di imaging multispetrale, raggi X e luce di sincrotrone.

Page 40: Palleschi - Tecniche di blind source separation

Palinsesto di Archimede

Page 41: Palleschi - Tecniche di blind source separation

Palinsesto di Archimede

Page 42: Palleschi - Tecniche di blind source separation

Le lettere della Contessa d’Albany

Page 43: Palleschi - Tecniche di blind source separation

Lettura di immagini ‘nascoste’

Opera di artista sconosciuto, all’interno dello specchio si intuisce la presenza di una scritta nascosta

Page 44: Palleschi - Tecniche di blind source separation

Lettura di immagini ‘nascoste’

B G

R IR

Page 45: Palleschi - Tecniche di blind source separation

Lettura di immagini ‘nascoste’

ANNO MDCCL XXXIX RIVA

Page 46: Palleschi - Tecniche di blind source separation

Tomba della Scimmia - Chiusi

Page 47: Palleschi - Tecniche di blind source separation

Oggi

Aumento di leggibilità con la sola banda IR

Angelelli (1847)

D'Alessandris (1905)

Gatti (1911)

Bianchi Bandinelli (1939)

Page 48: Palleschi - Tecniche di blind source separation

Aumento di leggibilità con BST

Page 49: Palleschi - Tecniche di blind source separation

Aumento di leggibilità con BST

Analysis of Multispectral Images in Cultural Heritage and Archaeology, J.Appl.Las.Spectrosc.1 (2014) 23–28

Page 50: Palleschi - Tecniche di blind source separation

Figura a sinistra

IR

Angelelli (1847)

D'Alessandris (1905)

Gatti (1911)

Bianchi Bandinelli (1939)

Page 51: Palleschi - Tecniche di blind source separation

Altre figure

Page 52: Palleschi - Tecniche di blind source separation

Altre figure

G B R IR

In  questo  caso  non  si  ha  nessun  miglioramento  di  leggibilità  passando  dal  visibile  all’infrarosso  

Page 53: Palleschi - Tecniche di blind source separation

Trattamento statistico delle immagini

G B R IR

Page 54: Palleschi - Tecniche di blind source separation

Confronto con disegni d’epoca