53
Geometría de Señales Espacios de Hilbert y aproximaciones

Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Embed Size (px)

Citation preview

Page 1: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Geometría de SeñalesEspacios de Hilbert y

aproximaciones

Page 2: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

● Teorema de Parseval y Conservación de la Norma.

● Aproximaciones por proyección

● Ejemplos

Temario

Page 3: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Teorema de Parseval ● Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w(k)

:

● Si la combinación lineal del conjunto w(k) representa un

sistema ortonormal entonces:

Geometría Euclidiana

x = ∑k =0

K −1

αk w(k ), αk∈ℂ

∥x∥2 = ∑k =0

K −1

∣αk∣2

Page 4: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Teorema de Parseval ● Generalización del teorema de Pitágoras

Geometría Euclidiana

hb

a

h2 = a2 + b2

Page 5: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Teorema de Parseval ● Generalización del teorema de Pitágoras

Geometría Euclidiana

∥x∥= hb = α1e1

a = α0 e0

∥x∥2 = α02 + α1

2

h2 = a2 + b2

Page 6: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Teorema de Parseval ● Ejemplo: Sist. Coordenado

Geometría Euclidiana

E = {e(0 ) , e(1)}

x = α0 e(0 )+α1e(1)

x

e(0 )

e (1 )

ℝ²

Page 7: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Teorema de Parseval ● Ejemplo: Sist. Coordenado

● Nuevo Sist. Coordenado V

Geometría Euclidiana

E = {e(0 ) , e(1)}

v (0 )

V = {v(0 ) , v(1)}

x = α0 e(0 )+α1e(1)

θ

xℝ²

v (1 )

Page 8: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Teorema de Parseval ● Ejemplo: Sist. Coordenado

● Nuevo Sist. Coordenado V

donde:

Geometría Euclidiana

E = {e(0 ) , e(1)}

v (0 )

V = {v(0 ) , v(1)}

x = α0 e(0 )+α1e(1)

θ

v(0 ) =[ cosθ senθ]T

v(1 ) = [- sinθ cos θ]T

xℝ²

v (1 )

Page 9: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Teorema de Parseval ● Ejemplo: Sist. Coordenado

● Nuevo Sist. Coordenado V

donde:

Geometría Euclidiana

E = {e(0 ) , e(1)}

v (0 )

V = {v(0 ) , v(1)}

x = α0 e(0 )+α1e(1)

θ

v(0 ) =[ cosθ senθ]T

v(1 ) = [- sinθ cos θ]T

xℝ²

x = β0 v (0 )+β1 v (1)

v (1 )

Page 10: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Teorema de Parseval ● Con el nuevo Sist. ortonormal :

● de manera compacta :

● con como la matriz de rotación entre los sistemas original (o) y el rotado (r)

Geometría Euclidiana

v (0 )

v (1 )

V = {v(0 ) , v(1)}

θ

xℝ²

β0 = ⟨ v(0 ), x⟩

β1 = ⟨v(1 ) , x ⟩

[β0

β1] = [ cos θ senθ

- sen θ cos θ ] [α0α1 ] = Ro

Ron

Page 11: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Teorema de Parseval - Comprobación● Norma cuadrada en el sistema ortonormal:

● Norma cuadrada en el sistema rotado :

● Verificación :

Geometría Euclidiana

∥x∥2 = α02 + α1

2

= ( Ror

α)T Ro

β02+ β1

2= [β0β1 ] [β0

β1] = βT

β

∥x∥2 =β02 +β1

2

= αT( Ro

r)

T Ror

α

Page 12: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Teorema de Parseval - Comprobación● Norma cuadrada en el sistema ortonormal:

● Norma cuadrada en el sistema rotado :

● Verificación :

Geometría Euclidiana

∥x∥2 = α02 + α1

2

= ( Ror

α)T Ro

β02+ β1

2= [β0β1 ] [β0

β1] = βT

β

∥x∥2 =β02 +β1

2

= αT( Ro

r)

T Ror

αR T R = I

Page 13: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Teorema de Parseval - Comprobación● Norma cuadrada en el sistema ortonormal:

● Norma cuadrada en el sistema rotado :

● Verificación :

Geometría Euclidiana

∥x∥2 = α02 + α1

2

= ( Ror

α)T Ro

β02+ β1

2= [β0β1 ] [β0

β1] = βT

β

∥x∥2 =β02 +β1

2

= αT( Ro

r)

T Ror

α

= αT

α

α02+ α1

2= [ α 0α1 ] [

α0α1 ]= α

Page 14: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Teorema de Parseval - Comprobación● Norma cuadrada en el sistema ortonormal:

● Norma cuadrada en el sistema rotado :

● Verificación :

Al ser comprobable para 2D

por lo tanto también es válido en nD

Geometría Euclidiana

∥x∥2 = α02 + α1

2

= ( Ror

α)T Ro

β02+ β1

2= [β0β1 ] [β0

β1] = βT

β

∥x∥2 =β02 +β1

2

= αT( Ro

r)

T Ror

α

= αT

α

α02+ α1

2= [ α 0α1 ] [

α0α1 ]= α

Page 15: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Teorema de Parseval - Significado

● Cualquier vector representado en un sistema coordenado ortonormal conservará sus características en el caso que se le observe en cualquier otro sistema ortonormal propuesto.

● Conservación de la Norma del cualquier vector así como de sus Distancias.

● Los otros sistemas coordenados unitarios (sistemas ortonormales) son producto de traslaciones, reflexiones o rotaciones.

Geometría Euclidiana

v(0 )

θ

xℝ²v(1 )

Page 16: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Aproximaciones

● Vector x ∈ V

● Subespacio S ⊆ V

Geometría Euclidiana

e0

e1

ℝ³

e2

x

S → {e0 , e2}V

Page 17: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Aproximaciones

● Vector x ∈ V

● Subespacio S ⊆ V

● Aproximación de x mediante ∈ S

(Proyección ortogonal de x sobre el plano S )

Geometría Euclidiana

e0

e1

ℝ³

e2

x

x̂S

S → {e0 , e2}V

Page 18: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Aproximaciones

¿ Como se logra obtener la proyección ?

● Se toma una base ortonormal para S :

● Se realiza la proyección ortogonal con la fórmula de expansión:

● La proyección generada, resultará la mejor aproximación de x sobre el plano definido por S.

Geometría Euclidiana

{S(k ) } k=0,1, ... , K−1

x̂ = ∑k =0

K −1

⟨s(k ), x⟩ s(k)

Minimización de la norma cuadrática

del error

Page 19: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Aproximaciones

● La proyección ortogonal minimiza la norma del error :

● El error es ortogonal a la aproximación :

Geometría Euclidiana

⟨ x−x̂ , x̂ ⟩ = 0

arg miny ∈ S

∥x−y∥= x̂

Page 20: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Aproximaciones

● La proyección ortogonal minimiza la norma del error :

● El error es ortogonal a la aproximación :

Geometría Euclidiana

x

⟨ x−x̂ , x̂ ⟩ = 0

s ⊆ V

arg miny ∈ S

∥x−y∥= x̂

V

Page 21: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Aproximaciones

● La proyección ortogonal minimiza la norma del error :

● El error es ortogonal a la aproximación :

Geometría Euclidiana

x

⟨ x−x̂ , x̂ ⟩ = 0

s ⊆ V

arg miny ∈ S

∥x−y∥= x̂

V

Page 22: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Aproximaciones

● La proyección ortogonal minimiza la norma del error :

● El error es ortogonal a la aproximación :

Geometría Euclidiana

x

⟨ x−x̂ , x̂ ⟩ = 0

s ⊆ V

arg miny ∈ S

∥x−y∥= x̂

V

Page 23: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Aproximaciones

● La proyección ortogonal minimiza la norma del error :

● El error es ortogonal a la aproximación :

Geometría Euclidiana

x

⟨ x−x̂ , x̂ ⟩ = 0

s ⊆ V

arg miny ∈ S

∥x−y∥= x̂

V

Page 24: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Aproximaciones

● La proyección ortogonal minimiza la norma del error :

● El error es ortogonal a la aproximación :

Geometría Euclidiana

x

⟨ x−x̂ , x̂ ⟩ = 0

s ⊆ V

arg miny ∈ S

∥x−y∥= x̂

V

Page 25: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Aproximaciones

● La proyección ortogonal minimiza la norma del error :

● El error es ortogonal a la aproximación :

Principio de ortogonalidad

Geometría Euclidiana

x

⟨ x−x̂ , x̂ ⟩ = 0

s ⊆ V

arg miny ∈ S

∥x−y∥= x̂

V

Page 26: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Aproximaciones

● El Principio de ortogonalidad

Geometría Euclidiana

⟨ x−x̂ , x̂ ⟩ = 0

x

s ⊆ V

V

x− x̂

Page 27: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Aproximaciones

● El Principio de ortogonalidad

Geometría Euclidiana

⟨ x−x̂ , x̂ ⟩ = 0

x

s ⊆ V

V

x− x̂

Page 28: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Ejemplo: Aproximación polinomial

● Definición de un sub-espacio de polinomios dentro del espacio de Hilbert de señales continuas en L

2 [-1, 1].

● La definición del sub-espacio se establece usando un sistema coordenado con la definición más obvia:

● Sin embargo este sub-espacio no es ortogonal

Geometría Euclidiana

P N [−1,1] ⊂ L2 [−1,1]

s (k ) = t k , k=0, 1, ..., N-1 : {1, t ,t² , t³ , ...}

Page 29: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Espacios de Hilbert

Aproximación polinomial en LN

[-1, 1]

s( k )

={1, }

Page 30: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Espacios de Hilbert

Aproximación polinomial en LN

[-1, 1]

s( k )

={1, t , }

Page 31: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Espacios de Hilbert

Aproximación polinomial en LN

[-1, 1]

s( k )

= {1, t , t² , }

Page 32: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Espacios de Hilbert

Aproximación polinomial en LN

[-1, 1]

s( k )

={1, t , t² , t³ , }

Page 33: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Espacios de Hilbert

Aproximación polinomial en LN

[-1, 1]

⟨1 , t² ⟩[−1,1]

≠0

⟨1 , t² ⟩ =∫−1

1

1⋅t² dt

Page 34: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Espacios de Hilbert

Aproximación polinomial en LN

[-1, 1]

⟨1 , t² ⟩[−1,1]

≠0

⟨ x , y⟩ =∫−1

1

x (t) y(t) dt

NO es

ortogonal

!!!

⟨1 , t² ⟩ =∫−1

1

1⋅t² dt

Page 35: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Polinomios de Legendre● Provienen de la solución de la ecuación diferencial de Legendre. La serie de potencias obtenida converge cuando |x| < 1 y en el caso particular de que n sea un entero no negativo (0, 1, 2,...) las soluciones forman una familia de polinomios ortogonales llamados Polinomios de Legendre.

Geometría Euclidiana

u(0 ) = 1u(1 ) = tu(2 ) = 1 /2 ( 3t²−1)

u(3 ) = 1/ 2 (5t³ −3t)u(4 ) = 1 /8 ( 35t⁴−30t² + 3) ...

s( k)

= {1, t , t² , t³ , }

Page 36: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Espacios de Hilbert

Polinomios de Legendre en PN

[-1, 1]

s( k )

={1,. ..}

Page 37: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Espacios de Hilbert

Polinomios de Legendre en PN

[-1, 1]

s( k )

={1, t , ...}

Page 38: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Espacios de Hilbert

Polinomios de Legendre en PN

[-1, 1]

s( k )

= {1, t , t² , ...}

Page 39: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Espacios de Hilbert

Polinomios de Legendre en PN

[-1, 1]

s( k )

= {1, t , t² , t³ , ... }

Page 40: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Espacios de Hilbert

Polinomios de Legendre en PN

[-1, 1]

s( k )

= {1, t , t² , t³ , t⁴ , ...}

Page 41: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Espacios de Hilbert

Polinomios de Legendre en PN

[-1, 1]

⟨ s(k ) , s( n)⟩ = δ[ n − k ]

Page 42: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Espacios de Hilbert

Polinomios de Legendre en PN

[-1, 1]

⟨1 , t² ⟩[−1,1]

=0

⟨1 , t² ⟩ =∫−1

1

1⋅t² dt

Page 43: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Polinomios derivados de Gram-Schmidt● Derivado de los polinomios de Legendre, el algoritmo de Gram-Schmidt puede ortonormalizar un sistema dado mediante el uso del producto interno (e.g. los polinomiales {1, x, x2,...}) . El sistema coordenado resultante será un sistema ortonormal para el intervalo P

N [-1, 1].

Geometría Euclidiana

s(1 ) s ⊆ V

s(0 )

Page 44: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Polinomios derivados de Gram-Schmidt● Derivado de los polinomios de Legendre, el algoritmo de Gram-Schmidt puede ortonormalizar un sistema dado mediante el uso del producto interno (e.g. los polinomiales {1, x, x2,...}) . El sistema coordenado resultante será un sistema ortonormal para el intervalo P

N [-1, 1].

Geometría Euclidiana

s(1 ) s ⊆ V

⟨u( 0) ,s

( 1) ⟩u( 0 )

s(0 )

u( 0)

Page 45: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Polinomios derivados de Gram-Schmidt● Derivado de los polinomios de Legendre, el algoritmo de Gram-Schmidt puede ortonormalizar un sistema dado mediante el uso del producto interno (e.g. los polinomiales {1, x, x2,...}) . El sistema coordenado resultante será un sistema ortonormal para el intervalo P

N [-1, 1].

Geometría Euclidiana

s(1 ) s ⊆ V

⟨u( 0) ,s

( 1) ⟩u( 0 )

s(0 )

u( 0)

p(1 )

u( 1)

Page 46: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Polinomios derivados de Gram-Schmidt● El sistema coordenado ortonormal resultante para el intervalo P

N [-1, 1].

Geometría Euclidiana

u(0) = √(1/ 2 )

u(1) = √ (3 / 2) t

u(2) = √(5 / 8)(3t²−1)

u(3 )

= ...

Page 47: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Espacios de Hilbert

Polinomios Gram-Schmidt en PN

[-1, 1]

s( k )

= {1, t , t² , ...}

Page 48: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Proyección ortogonal sobre P3 [-1, 1]

● Ahora con el sistema ortonormal calculado mediante el algoritmo Gram-Schmidt se pueden generar una aproximación a una señal No polinomial (e.g.: seno)

Geometría Euclidiana

α 0 = ⟨√1 / 2 ,sin ( t) ⟩ = 0

αk = ⟨u (k ) , x ⟩ = ∫−1

1

uk (t ) sin(t ) dt

α 1 = ⟨√3 / 2 t , sin( t )⟩ ≈0.7377

α 2 = ⟨√5 / 8(3t²−1) , sin( t )⟩ = 0 ...

Page 49: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Proyección ortogonal sobre P3 [-1, 1]

● Usando la proyección ortogonal en el espacio P3 [-1,1]

se obtiene que una aproximación estará representada por:

● Si por el contrario se usa la serie de Taylor

Geometría Euclidiana

sin (t ) = α1 u( 1) ≈ 0.9035t

sin (t )≈ t

Page 50: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Espacios de Hilbert

Proyección ortogonal sobre P3 [-1, 1]

Aproximación del seno

sin(t)t

0.9035 t

Page 51: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Espacios de Hilbert

Proyección ortogonal sobre P3 [-1, 1]

Error de Aproximación del seno

∣sin(t) - t∣∣sin (t)−0.9035 t∣

Page 52: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Proyección ortogonal sobre P3 [-1, 1]

● La norma del error de la proyección ortogonal sobre el espacio P

3 [-1,1] resulta en:

● El error correspondiente a la aproximación por serie de Taylor:

Geometría Euclidiana

∥sin( t )−α 1 u( 1)∥≈ 0.0337

∥sin( t )−t ∥≈ 0.0857

Page 53: Geometría de Señales Espacios de Hilbert y aproximaciones · Teorema de Parseval Sea x la representación de un vector con base en un sistema coordenado formado por K vectores w

Alcances de lo visto● Aplicables a señales periódicas y de longitud finita contenidas en ℂN .

● Aplicable a señales de longitud finita contenidas en ℓ2(ℤ).

● El uso de distintos sistemas coordenados permite observar el comportamiento de la señal dentro de distintas perspectivas.

● Las proyecciones en sub-espacios permite tratar las señales en términos de técnicas de compresión y filtrado.

Resumen Geometría Euclidiana