Click here to load reader

Elaborazione delle Immagini Digitali - · PDF fileElaborazione delle Immagini Digitali Parte I Prof. Edoardo Ardizzone A.A. 2001-2002. E. Ardizzone 2 Università degli Studi di Palermo

  • View
    227

  • Download
    0

Embed Size (px)

Text of Elaborazione delle Immagini Digitali - · PDF fileElaborazione delle Immagini Digitali Parte I...

Universit degli Studi di Palermo

Elaborazione delle Immagini DigitaliParte I

Prof. Edoardo Ardizzone A.A. 2001-2002

E. Ardizzone 2

Universit degli Studidi Palermo

La trasformata di Hotelling o di Karhunen-Loeve (KLT) discretaQuesta trasformata, detta anche analisi delle componenti principali (PCA) o degli autovettori, si basa su propriet statistiche delle rappresentazioni vettoriali. La sua importanza per limage processing sta nel fatto che essa la trasformazione ottima dal punto di vista della decorrelazione dei datiDato un vettore xs a n componenti, linsieme {xs | s I}, dove I linsieme dei valori possibili come indici dei vettori, pu essere rappresentato da una popolazione di vettori random della forma:

Il vettore medio della popolazione :

=

nx

xx

M2

1

x

{ } TnmmmE ),,,( 21 K== xmx

Ciascuna delle componenti xi una variabile random

E. Ardizzone 3

Universit degli Studidi Palermo

La trasformata di Hotelling o di Karhunen-Loeve (KLT) discretaE{} loperatore statistico di expectation. mx dunque un vettore a ncomponenti, ciascuna delle quali :

La matrice di covarianza della popolazione di vettori :

Poich x e mx sono vettori di dimensione n, Cx una matrice di dimensione n x nL'elemento cii di Cx la varianza della i-sima componente xi dei vettori della popolazione, mentre l'elemento cij la covarianza tra le componenti xi e xj dei vettori stessi

( )( ){ }TE xxx mxmxC =

{ } nixEm ii ,,1 K==

E. Ardizzone 4

Universit degli Studidi Palermo

La trasformata di Hotelling o di Karhunen-Loeve (KLT) discreta

La matrice Cx reale (per la natura delle variabili random componenti dei vettori della popolazione) e simmetrica, in quanto la covarianza di xi e xj uguale alla covarianza di xj e xiSe xi e xj sono incorrelati, la loro covarianza nulla, e cij = cji = 0Dal punto di vista implementativo, utilizzando un set di M campioni della popolazione di vettori, il vettore medio e la matrice di covarianza possono essere cos approssimati:

=

=M

kkM 1

1 xmxTT

k

M

kkM xxx

mmxxC = =1

1

E. Ardizzone 5

Universit degli Studidi Palermo

La trasformata di Hotelling o di Karhunen-Loeve (KLT) discretaA titolo di esempio, considerando i 4 vettori

si ottiene:

Si pu notare che le tre componenti dei vettori hanno la stessa varianza (gli elementi della diagonale principale di Cx sono uguali), e che tra le componenti x1 e x2 (x1 e x3) la correlazione positiva, mentre tra le componenti x2 e x3 la correlazione negativa.

=

113

41

xm

=

311131113

161

xC

=

=

=

=

101

011

001

000

4321 xxxx

E. Ardizzone 6

Universit degli Studidi Palermo

La trasformata di Hotelling o di Karhunen-Loeve (KLT) discretaDato che Cx reale e simmetrica, dallalgebra lineare sappiamo che sempre possibile trovare un insieme di n autovettori ortonormali ei (i = 1,2, , n), ai quali corrispondono altrettanti autovalori iPer definizione, data una matrice C di dimensione n x n, gli autovettori e gli autovalori soddisfano la relazione Cei = iei (i = 1,2, , n)Si consideri la matrice A, anchessa di ordine n x n, avente come righe gli autovettori ei, presi nell'ordine decrescente dei corrispondenti autovalori i:

Utilizzando A come una matrice di mapping, la trasformata di Hotelling definita dalla equazione:

La popolazione costituita dai vettori ottenuti da questa trasformazione godedelle seguenti propriet:

)mA(xy x=

Tn ),,,( 21 eeeA K=

E. Ardizzone 7

Universit degli Studidi Palermo

La trasformata di Hotelling o di Karhunen-Loeve (KLT) discreta1 Il vettore medio nullo:

2 La matrice di covarianza :

3 Cy una matrice diagonale i cui elementi non nulli sono gli autovalori di Cx:

Quindi le componenti dei vettori y sono incorrelate (la covarianza tra le componenti yi e yj nulla), mentre le loro varianze coincidono con gli autovalori iInoltre, dato che gli elementi non nulli di una matrice diagonale sono anche i suoi autovalori, Cx e Cy e hanno gli stessi autovalori. Lo stesso avviene per gli autovettori

TAACC xy =

=

n

0

01OyC

0my =

E. Ardizzone 8

Universit degli Studidi Palermo

La trasformata di Hotelling o di Karhunen-Loeve (KLT) discretaLa trasformata inversa di Hotelling definita come:

Poich A-1= AT (infatti le righe di A sono vettori ortonormali), la ricostruzione di ogni vettore x a partire dal corrispondente y sempre possibile:

Interpretazione statisticaSe invece di considerare tutti gli autovettori di Cx nella costruzione della matrice di trasformazione A se ne usano solo K, si ottiene la matrice di trasformazione AK, di ordine K x n, che d luogo a vettori Y a K componenti:

xmyAx +=1

xmyAx +=T

)m(xAY x= K

K x 1 K x nn x 1

E. Ardizzone 9

Universit degli Studidi Palermo

La trasformata di Hotelling o di Karhunen-Loeve (KLT) discretaLa ricostruzione dei vettori x non pi esatta, ma solo approssimata:

Una misura della distorsione introdotta ricostruendo x in maniera approssimativa l'errore quadratico medio tra x e . Si pu dimostrare che questo errore di ricostruzione vale:

avendo indicato con j la varianza della componente j-ma di yLerrore nullo (ricostruzione esatta) se K = n, cio se tutti gli autovettori sono usati nella trasformazioneLerrore comunque minimizzato scegliendo di fare intervenire nella trasformazione i K autovettori corrispondenti ai K autovalori pi grandi

xmYAx +=TK

)

x)

+=+===

===n

KjJ

n

KjJ

K

jJ

n

jJmse

1111

n x 1 n x 1n x K K x 1

E. Ardizzone 10

Universit degli Studidi Palermo

La trasformata di Hotelling o di Karhunen-Loeve (KLT) discreta

Inoltre lerrore di ricostruzione uguale alla somma delle varianze delle componenti dei vettori trascurate nella approssimazioneSe quindi il numero K si sceglie in modo che le varianze delle prime Kcomponenti dei vettori costituiscano una percentuale molto rilevante delle varianze complessive, lerrore di ricostruzione pu risultare molto contenutoLa trasformazione di un set di dati statisticamente dipendenti in un altro set di dati incorrelati, con la possibilit di scaricare i coefficienti poco significativi, che costituisce la cosiddetta interpretazione statistica della trasformata di Hotelling, in realt il fondamento teorico delle tecniche di compressione basate su trasformateDa questo punto di vista la trasformata KLT discreta risulta ottima in quanto minimizza lerrore di ricostruzione

E. Ardizzone 11

Universit degli Studidi Palermo

La trasformata di Hotelling o di Karhunen-Loeve (KLT) discretaInterpretazione geometricaConsideriamo limmagine binaria mostrata sotto come una popolazione 2-D, ovvero ogni pixel delloggetto trattato come un vettore 2-D x = (a,b)T, essendo a e b le coordinate del pixel rispetto agli assi x1 e x2:

x1

x2Questi vettori sono utilizzati per calcolare il vettore medio e la matrice di covarianza dei vettori di coordinate

Applicando quindi la KLT discreta, loggetto risulta riferito ad un nuovo sistema di assi, y1 e y2, che risultano allineati con gli autovettori e1 e e2, e la cui origine coincide con il centroide delloggetto binario y1

y2

E. Ardizzone 12

Universit degli Studidi Palermo

La trasformata di Hotelling o di Karhunen-Loeve (KLT) discretaQuindi la trasformata di Hotelling pu essere vista come una trasformazione geometrica che allinea i dati rispetto agli autovettori (assi principali): nel nuovo sistema di riferimento le coordinate risultano incorrelate, e le loro varianze sono uguali agli autovaloriNellesempio, la varianza nella direzione y1 maggiore della varianza nella direzione y2: se la differenza risultasse molto grande, sarebbe possibile ignorare la componente nella direzione della varianza inferiore, senza sacrificare troppo la qualit dellimmagine x, una volta ricostruitaLinterpretazione geometrica della KLT discreta come analisi dei dati riferiti alle componenti principali trova largo impiego nel pattern recognition e nellanalisi di immagini

E. Ardizzone 13

Universit degli Studidi Palermo

La trasformata di Hotelling o di Karhunen-Loeve (KLT) discreta Vettori di base

Si supponga per semplicit mx = 0. La trasformata diretta e linversa diventano in questa ipotesi:

Dato che le righe della matrice A sono gli autovettori (trasposti) della matrice di covarianza Cx, si pu anche scrivere:

Quindi x pu essere visto come combinazione lineare o somma pesatadegli n vettori di base eiI coefficienti della combinazione lineare sono proprio le componenti dei vettori trasformati y:

Axy = yAx T=

i

n

iiy ex

==

1

),( xeTiiy =prodotto interno

E. Ardizzone 14

Universit degli Studidi Palermo

La trasformata di Hotelling o di Karhunen-Loeve (KLT) discretaIl coefficiente yi pu essere interpretato come una misura della correlazione tra il segnale originale x ed il vettore di base eiI coefficienti yi, con i = 1, , n, sono tra loro incorrelati e, per i > K, la loro varianza diviene poco significativa, consentendo di trascurare i corrispondenti termini della combinazione lineare, senza introdurre distorsione significativa nel segnale ricostruitoAnche le altre trasformate unitarie precedentemente studiate godono, s

Search related