Analisis Componentes Principales

Embed Size (px)

Citation preview

  • 8/18/2019 Analisis Componentes Principales

    1/130

    PROYECTO FIN DE CARRERA

    ANÁLISIS DECOMPONENTES PRINCIPALES:

    VERSIONES DISPERSAS YROBUSTAS AL RUIDO IMPULSIVO

    Autor: Andrés Sánc!" M#n$#s

    Tutor#: V#n!ss# %&'!" V!rd!(o

    L!$#n!s) *+ d! A,r-. d! */0*

    D!1#rt#'!nto d! T!or2# d! .# S!3#. 4 Co'un-c#c-on!s

  • 8/18/2019 Analisis Componentes Principales

    2/130

    --

  • 8/18/2019 Analisis Componentes Principales

    3/130

    T2tu.o: ANÁLISIS DE COMPONENTES PRINCIPALES: VERSIONES DISPERSASY E5TENSIONES CON DIFERENTES COSTES

    Autor: Andrés Sánc!" M#n$#sD-r!ctor: V#n!ss# %&'!" V!rd!(o

    EL TRIBUNAL

    Pr!s-d!nt!:

    Voc#.:

    S!cr!t#r-o:

    R!#.-"#do !. #cto d! d!6!ns# 4 .!ctur# d!. Pro4!cto F-n d! C#rr!r# !. d2# *+ d! A,r-. d! */0*!n L!$#nés) !n .# Escu!.# Po.-técn-c# Su1!r-or d! .# Un-7!rs-d#d C#r.os III d! M#dr-d)#cu!rd# otor$#r.! .# CALIFICACI8N d!

    VOCAL

    SECRETARIO PRESIDENTE

    ---

  • 8/18/2019 Analisis Componentes Principales

    4/130

    -7

  • 8/18/2019 Analisis Componentes Principales

    5/130

     AgradecimientosEn 1r-'!r .u$#r) #$r#d!c!r # '- 6#'-.-# todo !. #1o4o 4 .os án-'os 9u! '! #n d#do

    dur#nt! todos !stos #3os En !s1!c-#. # '-s 1#dr!s 1or9u! $r#c-#s # !..os ! ..!$#do #st#

    #9u2 4 no .o 1odr2# #,!r .o$r#do s-n !..os S-!'1r! '! #n #1o4#do -ncond-c-on#.'!nt! 4

    '! #n d#do tod#s .#s 6#c-.-d#d!s 1#r# !ncontr#r '- c#'-no

    A '- tutor# V#n!ss# %&'!" V!rd!(o 9u! s-!'1r! '! # #4ud#do 4 '! # 'ostr#do .#

    d-r!cc-&n # s!$u-r cu#ndo sur$2#n co'1.-c#c-on!s Por .# 1#c-!nc-# 4 !. tr#,#(o -n7!rt-dos !n'- A$r#d!c!r.! .# d!d-c#c-&n 4 .os án-'os 1#r# 9u! !st! 1ro4!cto s#.-!r# #d!.#nt!

    T#',-én '! $ust#r2# #$r#d!c!r # '-s co'1#3!ros d! un-7!rs-d#d ;#n s-do 'ucos .os

    co'1#3!ros con .os 9u! ! co'1#rt-do c.#s!s) 1ráct-c#s 4 d!'ás t-!'1o !n .# un-7!rs-d#d

    Todos 4 c#d# uno d! !..os '! #n #1ort#do #.$o 4 #n !co 'ás ..!7#d!ro !st! 7-#(! ;#

    #,-do ,u!nos 4 '#.os r#tos 1!ro $r#c-#s # 7osotros #. 6-n#. s-!'1r! #,2# un# sonr-s# 9u!

    '! 1!r'-t2# 7o.7!r con -.us-&n #. d2# s-$u-!nt!

    A '-s #'-$os 1or s#c#r'! d! .# rut-n# 4 1!r'-t-r'! d!scon!ct#r Por r!st#r.!tr#sc!nd!nc-# # .os 1ro,.!'#s 4 #1ort#r s-!'1r! un# 7-s-&n o1t-'-st# Por !sos

    !

  • 8/18/2019 Analisis Componentes Principales

    6/130

    7-

  • 8/18/2019 Analisis Componentes Principales

    7/130

    Resumen 

    E. #ná.-s-s d! co'1on!nt!s 1r-nc-1#.!s >?Pr-nc-1#. Co'1on!nt An#.4s-s@) PCA !s un

    'étodo d! !

  • 8/18/2019 Analisis Componentes Principales

    8/130

    7---

  • 8/18/2019 Analisis Componentes Principales

    9/130

     Abstract T! Pr-nc-1#. Co'1on!nt An#.4s-s >PCA -s # non su1!r7-s!d 6!#tur! !

  • 8/18/2019 Analisis Componentes Principales

    10/130

  • 8/18/2019 Analisis Componentes Principales

    11/130

    Índice general

    A$r#d!c-'-!ntos 7

    R!su'!n 7--

    A,str#ct -<

    nd-c! $!n!r#.

  • 8/18/2019 Analisis Componentes Principales

    12/130

     #.#.# *mplementación en blo"e.................................................................................................

      *J E(!'1.o s-ntét-coJK

    C#12tu.o J: E

  • 8/18/2019 Analisis Componentes Principales

    13/130

    C#12tu.o : Conc.us-on!s 4 L2n!#s Futur#s00K

     0 Conc.us-on!s 00K

     * L2n!#s Futur#s 0*/

    C#12tu.o : Pr!su1u!sto 0**

    P.#n-6-c#c-&n 0**

    Pr!su1u!sto 0*J

    R!6!r!nc-#s 0*

  • 8/18/2019 Analisis Componentes Principales

    14/130

  • 8/18/2019 Analisis Componentes Principales

    15/130

    Índice de Figuras

    F-$ur# 0: D#tos d! !ntr#d# d!. !(!'1.o s-ntét-co J

    F-$ur# *: Auto7#.or!s o,t!n-dos #. #1.-c#r !. PCA so,r! !. con(unto d! d#tos s-ntét-cos d!.!(!'1.o J

    F-$ur# J: Nu!7#s V#r-#,.!s o,t!n-d#s #. 1ro4!ct#r .os d#tos !n !. nu!7o !s1#c-o En ># !stánr!1r!s!nt#d#s .#s J 7#r-#,.!s 4 !n >,) c) d s! 'u!str#n .#s 7#r-#,.!s d! * !n */

    F-$ur# : Auto7#.or!s d! .# '#tr-" d! co7#r-#n"# !n .# ,#s! d! d#tos S1#'B#s! K

    F-$ur# +: D-6!r!nc-# cos!no !ntr! .os 7!ctor!s d! 1ro4!cc-&n o,t!n-dos con !. PCA or-$-n#. 4.#s 7!rs-on!s d!6.#ct#ndo 4 !n ,.o9u! d!. PCA It!r#t-7o

    F-$ur# : V#r-#c-&n d! .# d-6!r!nc-# !ntr! PCA or-$-n#. 4 PCA -t!r#t-7o !n ,.o9u! s!$n !.n'!ro d! co'1on!nt!s 1r-nc-1#.!s ut-.-"#d#s+/

    F-$ur# : T-!'1o d! !(!cuc-&n r!s1!cto #. n'!ro d! co'1on!nt!s 1r-nc-1#.!s c#.cu.#d#s +/

    F-$ur# K: E7o.uc-&n d!. !rror con !. n'!ro d! co'1on!nt!s 1r-nc-1#.!s us#d#s !n .# ,#s!d! d#tos S1#'B#s! 1#r# .os #.$or-t'os PCA or-$-n#.) PCA -t!r#t-7o !n ,.o9u! 4 PCA -t!r#t-7od!6.#ct#ndo +0

    F-$ur# : Func-&n -ns!ns-,.! 1#r# SVM QJ

    F-$ur# 0/: V#r-#n"# d! .#s co'1on!nt!s 0 4 * s!$n .# 0 ut-.-"#d#*

    F-$ur# 00: E7o.uc-&n d! .os 7#.or!s) cod-6-c#dos !n co.or!s) d! .#s 7#r-#,.!s 1#r# d-6!r!nt!s

  • 8/18/2019 Analisis Componentes Principales

    16/130

    0 J

    F-$ur# 0*: E7o.uc-&n d! .# PEV 4 !. n'!ro d! co'1on!nt!s d-s1!rs#s s!$n #u'!nt# 0 J

    F-$ur# 0J: E7o.uc-&n d!. n'!ro d! c#r$#s no nu.#s !n .# SPC0 1#r# 0///) +// 4 *+/

    o,s!r7#c-on!s K0

    F-$ur# 0: V#.or nor'#.-"#do d! tod#s .#s c#r$#s d! .# SPC0 1#r# 0 -$u#. # /+ 4 +//o,s!r7#c-on!s K*

    F-$ur# 0+: E7o.uc-&n d!. n'!ro d! c#r$#s no nu.#s !n .# SPC0 1#r# 0//) +/ 4 *+o,s!r7#c-on!s KJ

    F-$ur# 0: E7o.uc-&n d!. n'!ro d! c#r$#s no nu.#s !n .# SPC* 1#r# 0///) +// 4 *+/o,s!r7#c-on!s K

    F-$ur# 0: V#.or nor'#.-"#do d! tod#s .#s 7#r-#,.!s d! .# SPC* 1#r# 0 -$u#. # /+ 4 +//o,s!r7#c-on!s K

    F-$ur# 0K: E7o.uc-&n d!. n'!ro d! c#r$#s no nu.#s !n .# SPC* 1#r# 0//) +/ 4 *+o,s!r7#c-on!s K+

    F-$ur# 0: E7o.uc-&n d!. n'!ro d! c#r$#s no nu.#s d! SPC0 1#r# d-6!r!nt!s 0 4 *ut-.-"#ndo +/ o,s!r7#c-on!sK

    F-$ur# */: V#.or Nor'#.-"#do d! .#s 7#r-#,.!s d! .# SPC0 1#r# 0 -$u#. # //) * -$u#. # /0 4+/ o,s!r7#c-on!s K

    F-$ur# *0: E7o.uc-&n d!. n'!ro d! c#r$#s no nu.#s d! SPC* 1#r# d-6!r!nt!s 0 4 *ut-.-"#ndo +/ o,s!r7#c-on!sK

    F-$ur# **: V#.or nor'#.-"#do 1#r# .#s 7#r-#,.!s d! SPC* 1#r# * -$u#. # /0 4 0 -$u#. # // KK

    F-$ur# *J: E7o.uc-&n d! c.#s-6-c#c-&n s!$n !. n'!ro d! co'1on!nt!s 1r-nc-1#.!sut-.-"#d#s 1#r# !. SPCA) PCA 4 us#ndo n-c#'!nt! !. c.#s-6-c#dor SVM) $rá6-c#s # Error d!c.#s-6-c#c-&n 4 1orc!nt#(! d! c#r$#s no nu.#s !n .#s co'1on!nt!s 1r-nc-1#.!s s!$n !.n'!ro d! co'1on!nt!s 1r-nc-1#.!s d!. SPCA) $rá6-c#s ,/

    F-$ur# *: R!1r!s!nt#c-&n d! .os d#tos s-n ru-do #s2 co'o d! .#s PC #..#d#s '!d-#nt! PCA 4PCA

    F-$ur# *+: R!1r!s!nt#c-&n d! .os d#tos con ru-do 4 s-n ru-do Ad!'ás d! .#s dos 1r-'!r#sco'1on!nt!s 1r-nc-1#.!s d! PCA 4 EPCA 1#r# !. c#so con ru-do

    F-$ur# *: %rá6-c#s d! .#s co'1on!nt!s 1r-nc-1#.!s d! PCA 4 PCA 1#r# d#tos con ru-do-'1u.s-7o con 1ot!nc-# -$u#. # .# d! 5*K

    F-$ur# *: %rá6-c#s d! .#s co'1on!nt!s 1r-nc-1#.!s d! PCA 4 PCA 1#r# d#tos con ru-do-'1u.s-7o con 1ot!nc-# do,.! # .# d! 5*

    F-$ur# *K: %rá6-c#s d! .#s co'1on!nt!s 1r-nc-1#.!s d! PCA 4 PCA 1#r# d#tos con ru-do

  • 8/18/2019 Analisis Componentes Principales

    17/130

    -'1u.s-7o con 1ot!nc-# cuádru1.! # .# d! 5*0/0

    F-$ur# *: R!1r!s!nt#c-&n d! .os d#tos s-n ru-do #s2 co'o d! .#s dos 1r-'!r#s co'1on!nt!s1r-nc-1#.!s #..#d#s '!d-#nt! PCA 4 EPCA0/

    F-$ur# J/: R!1r!s!nt#c-&n d! .os d#tos con ru-do 4 s-n ru-do Ad!'ás d! .#s dos 1r-'!r#sco'1on!nt!s 1r-nc-1#.!s d! PCA 4 EPCA 1#r# !. c#so con ru-do0/+

    F-$ur# J0: D!s7-#c-&n d! .# PC0 r!s1!cto d! .# so.uc-&n &1t-'# cu#ndo s! 7#r2#n C 4 conun ru-do -'1u.s-7o con .# '-s'# 1ot!nc-# 9u! .os d#tos0/

    F-$ur# J*: D!s7-#c-&n d! .# PC0 r!s1!cto d! .# so.uc-&n &1t-'# cu#ndo s! 7#r2#n C 4 conun ru-do -'1u.s-7o con 1ot!nc-# do,.! 9u! .os d#tos0/

    F-$ur# JJ: D!s7-#c-&n d! .# PC0 r!s1!cto d! .# so.uc-&n &1t-'# cu#ndo s! 7#r2#n C 4 conun ru-do -'1u.s-7o con 1ot!nc-# cuádru1.! 9u! .os d#tos0/

    F-$ur# J: D!s7-#c-&n d! .# PC0 1#r# d-6!r!nt!s cost!s 4 7#.or!s d! s-n ru-do -'1u.s-7o 0/

    F-$ur# J+: D!s7-#c-&n d! PC0 1#r# d-6!r!nt!s cost!s 4 7#.or!s d! cu#ndo s! -ntroduc!ru-do -'1u.s-7o !n 5 4 5K d! 1ot!nc-# do,.! # .os d#tos00/

    F-$ur# J: D!s7-#c-&n d! PC0 1#r# d-6!r!nt!s cost!s 4 7#.or!s d! cu#ndo s! -ntroduc!ru-do -'1u.s-7o !n tod#s .#s 7#r-#,.!s000

    F-$ur# J: E7o.uc-&n d!. !rror d! c.#s-6-c#c-&n s!$n !. n'!ro d! co'1on!nt!s 1r-nc-1#.!sut-.-"#d#s 1#r# !. PCA) PCA 4 us#ndo n-c#'!nt! !. c.#s-6-c#dor SVM En .# $rá6-c# # s! #us#do .# ,#s! d! d#tos #nd) !n .# , -on) !n .# c .#ndst#t 4 !n .# d #7!00+

  • 8/18/2019 Analisis Componentes Principales

    18/130

  • 8/18/2019 Analisis Componentes Principales

    19/130

    Índice de tablas

    T#,.# 0: Ps!udoc&d-$o d! .# -'1.!'!nt#c-&n #.$or-t'o PCA It!r#t-7o d!6.#ct#do+

    T#,.# *: Ps!udoc&d-$o d! .# -'1.!'!nt#c-&n #.$or-t'o PCA It!r#t-7o !n ,.o9u!

    T#,.# J: Ps!udoc&d-$o d! .# -'1.!'!nt#c-&n #.$or-t'o SPCA d!6.#ct#do+

    T#,.# : Ps!udoc&d-$o d! .# -'1.!'!nt#c-&n #.$or-t'o SPCA !n ,.o9u!/

    T#,.# +: Ps!udoc&d-$o d! .# -'1.!'!nt#c-&n #.$or-t'o PCA d!6.#ct#do

    T#,.# : Ps!udoc&d-$o d! .# -'1.!'!nt#c-&n #.$or-t'o PCA !n ,.o9u!

    T#,.# : R!su.t#dos d! .# s-'u.#c-&n 0 c#r$#s 4 7#r-#n"#

    T#,.# K: T-!'1o d! con7!r$!nc-# >!n s!$undos !'1.!#do 1or !. SPCA 1#r# #..#r c#d# un#d! .#s tr!s 1r-'!r#s co'1on!nt!s 1r-nc-1#.!s d!1!nd-!ndo d! .# -n-c-#.-"#c-&n d! 7

    T#,.# : So.uc-&n co'n d! .#s c#r$#s d! .#s tr!s 1r-'!r#s co'1on!nt!s 1r-nc-1#.!s d!.!(!'1.o 0 1#r# tod#s .#s -n-c-#.-"#c-on!s d! 7

    T#,.# 0/: T-!'1o !'1.!#do 1or !. SPCA 1#r# #..#r c#d# un# d! .#s tr!s 1r-'!r#sco'1on!nt!s 1r-nc-1#.!s d!1!nd-!ndo d! .# -n-c-#.-"#c-&n d! 7

    T#,.# 00: Co'1#r#c-&n !ntr! .#s PC d!. SPCA D!6.#ct#do 4 d!. SPCA !n ,.o9u!

    T#,.# 0*: R!su.t#dos d!. PCA 4 d!. PCA 1#r# d#tos s-n ru-do S! 'u!str#n .#s c#r$#s 4 .#7#r-#n"# d! c#d# co'1on!nt!) #s2 co'o .# d!s7-#c-&n r!s1!cto d! .# d-r!cc-&n d! 'á

  • 8/18/2019 Analisis Componentes Principales

    20/130

    T#,.# 0J: R!su.t#dos d!. PCA 4 d!. PCA 1#r# d#tos con ru-do -'1u.s-7o S! 'u!str#n .#sc#r$#s 4 .# 7#r-#n"# d! c#d# co'1on!nt!) #s2 co'o .# d!s7-#c-&n r!s1!cto d! .# d-r!cc-&n d!'á

  • 8/18/2019 Analisis Componentes Principales

    21/130

  • 8/18/2019 Analisis Componentes Principales

    22/130

    Capítulo 1Introducción

    1.1 Aprendia!e m"#uina $ m%todos dee&tracción de características

    A1r!nd-"#(! 'á9u-n# >?M#c-n! L!#rn-n$@) ML) !s un tér'-no d-62c-. d! d!6-n-r 1or9u!

    #,#rc# un !s1!ctro ,#st#nt! $r#nd! d! conc!1tos nor'#.'!nt! r!.#c-on#dos con .#

    inteli4encia arti!icial Q0 En $!n!r#.) s! !nt-!nd! co'o un# 6#'-.-# d! técn-c#s 9u! 1!r'-t!n

    '!(or#r # un s-st!'# !n !. t-!'1o # 1#rt-r d! .# !

  • 8/18/2019 Analisis Componentes Principales

    23/130

    00 APRENDIAE MÁWUINA Y MXTODOS DE E5TRACCI8N DE CARACTERSTICAS 

    Otro c#so) !. cu#. 7# # ocu1#r !st! 1ro4!cto) #cont!c! cu#ndo #4 d!'#s-#d#s 7#r-#,.!s

    d-s1on-,.!s 4 .# -n6or'#c-&n r!.!7#nt! 1#r# r!so.7!r .# t#r!# s! !ncu!ntr# !n'#sc#r#d# Esto

    9u! d-6-cu.t# cons-d!r#,.!'!nt! !. d-s!3o d!. s-st!'# 4 su!.! d!t!r-or#r sus 1r!st#c-on!s

    P#r# !st! c#so) !s #,-tu#. 4 r!co'!nd#,.! !'1.!#r un# !t#1# d! 1r!1roc!s#do 9u! 1!r'-t#

    r!duc-r !. n'!ro d! 7#r-#,.! !'1.!#d#s) 4# s!# '!d-#nt! un# tr#ns6or'#c-&n d! .#s '-s'#s)

    .o 9u! s! conoc! co'o 'étodos d! !#. t!n!r 9u! tr#,#(#r con un '!nor

    n'!ro d! 7#r-#,.!s 4 un '!(or !nt!nd-'-!nto d!. 1ro,.!'# S! su!.! us#r !n $r#n '!d-d#

    !n s-st!'#s 9u! r!9u-!r#n c.#s-6-c#c-&n o r!$r!s-&n co'o 1or !(!'1.o !n !. r!conoc-'-!nto

    d! 1#tron!sQ

    Otro 'ot-7o 1or !. cu#. !. 1r!1roc!s#do o,t-!n! t#nt# -'1ort#nc-# !n !. co'1ort#'-!nto

    d! c-!rtos s-st!'#s s! !ncu!ntr# cu#ndo !stos t-!n!n 9u! #c!r 6r!nt! # con(untos d! d#tos

    con un# #.t# d-'!ns-on#.-d#d Cu#ndo un con(unto d! d#tos !stá co'1u!sto 1or un# n-c#

    7#r-#,.! 4 d!s1ués s! d-s1on! d! un# 7#r-#,.! #d-c-on#. !. co'1ort#'-!nto d!. s-st!'# su6r!

    un# '!(or# #. t!n!r 'ás -n6or'#c-&n Esto -nd-c#r2# 9u! s! 1odr2# #u'!nt#r -n6-n-t#'!nt! !.

    n'!ro d! 7#r-#,.!s con !. 6-n d! '!(or#r !. s-st!'# P!ro !n .# r!#.-d#d no ocurr! #s2 1or9u!

    ..!$#do # c-!rt# c#nt-d#d d! 7#r-#,.!s !. 6unc-on#'-!nto s! !'1-!"# # d!$r#d#r #. #1#r!c!n

    7#r-#,.!s r!dund#nt!s con .#s #nt!r-or!s o d-r!ct#'!nt! -rr!.!7#nt!s 1#r# .# t#r!#

    ;o4 !n d2# !s ,#st#nt! co'n !ncontr#rs! con con(untos d! d#tos d! #.t#d-'!ns-on#.-d#d 6or'#dos 1or 'ás 0/ 7#r-#,.!s !n á',-tos co'o .# c.#s-6-c#c-&n d! $!n!s

    *J

  • 8/18/2019 Analisis Componentes Principales

    24/130

    CAPITULO 0: INTRODUCCI8N

    Q+) #ná.-s-s 'u.t-!s1!ctr#. d! -'á$!n!s Q) !. r!conoc-'-!nto d! 1#tron!s Q o .os s!nsor!s

    d! #.t# r!so.uc-&n d! cu#.9u-!r t-1oQ Por !st# r#"&n) c#d# 7!" son 'ás #,-tu#.!s .#s !t#1#s

    d! 1r!1roc!s#do 9u! t!n$#n co'o o,(!t-7o d-s'-nu-r .#s d-'!ns-on!s d! .os d#tos d! !ntr#d#

    4 .# !

  • 8/18/2019 Analisis Componentes Principales

    25/130

    0* ANÁLISIS DE COMPONENTES PRINCIPALES

    ;#st# !st! 'o'!nto todos .os 'étodos d! !

  • 8/18/2019 Analisis Componentes Principales

    26/130

    CAPTULO 0: INTRODUCCI8N 

    !s1#c-o 1d-'!ns-on#.) 4 9u! $!o'étr-c#'!nt! o1t-'-"#r#n .os 1ro,.!'#s #c-# .os 9u! s!

    d-r-$2#n .#s co'1on!nt!s 1r-nc-1#.!s P!#rson co'!nt& r!s1!cto # .# co'1ut#c-&n) 'ás d! +/

    #3os #nt!s d! .# $!n!r#.-"#c-&n d! .os ord!n#dor!s) 9u! sus 'étodos 1od2# s!r #1.-c#dos

    6ác-.'!nt! # .os 1ro,.!'#s nu'ér-cos) 4 #un9u! d!c2# 9u! .os cá.cu.os !'1!"#,#n # s!r

    ,#st#nt! 7o.u'-nosos 1#r# cu#tro o 'ás 7#r-#,.!s) s! # d!'ostr#do 9u! !n co'1ut#c-&n son

    6#ct-,.!s

    Por otro .#do !n 0JJ) ;ot!..-n$ Q*/ r!#.-"& un# d!r-7#c-&n d!. á.$!,r# co'n d#ndo un

    r!su.t#do c!rc#no # .# #ctu#. d!6-n-c-&n d!. PCA L# 'ot-7#c-&n d! ;ot!..-n$ !r# 1ro,#r 9u!

    1u!d! #,!r un con(unto 6und#'!nt#. '!nor d! 7#r-#,.!s -nd!1!nd-!nt!s !. cuá. d!t!r'-n!

    .os 7#.or!s d! .#s or-$-n#.!s  p7#r-#,.!s X. !

  • 8/18/2019 Analisis Componentes Principales

    27/130

    0* ANÁLISIS DE COMPONENTES PRINCIPALES

    !. PCA !s 'ás t-.) 1or !so todo !. 1ot!nc-#. d! !st# técn-c# no 1udo s!r !

  • 8/18/2019 Analisis Componentes Principales

    28/130

    CAPTULO 0: INTRODUCCI8N

     1.( )otivación $ ob!etivos de estePro$ecto Fin de Carrera

    A 1!s#r !. $r#n é

    1roc!d!rá # un !stud-o 1or'!nor-"#do d! .#s 7!nt#(#s 4 d!s7!nt#(#s 9u! o6r!c!n c#d# un#

    d! !..#s !n d-7!rsos !sc!n#r-os

    En 1r-'!r .u$#r) !n !. s!$undo c#12tu.o s! 1roc!d!rá # .# !

  • 8/18/2019 Analisis Componentes Principales

    29/130

    0J MOTIVACI8N Y OBETIVOS DE ESTE PROYECTO FIN DE CARRERA

    En !. t!rc!r c#12tu.o s! 1r!s!nt#n .#s !

  • 8/18/2019 Analisis Componentes Principales

    30/130

    CAPTULO 0: INTRODUCCI8N

    J/

  • 8/18/2019 Analisis Componentes Principales

    31/130

    Capítulo ' An"lisis de ComponentesPrincipales

    A cont-nu#c-&n s! 7# # 1r!s!nt#r !. d!s#rro..o t!&r-co 9u! r!#.-"# !. PCA con !. o,(!t-7o6-n#. d! d-s'-nu-r .#s d-'!ns-on!s d! un con(unto d! d#tos d! !ntr#d# '!d-#nt! un#

    tr#ns6or'#c-&n .-n!#. 9u! .os 1ro4!ct! so,r! .#s d-r!cc-on!s d! 'á

  • 8/18/2019 Analisis Componentes Principales

    32/130

    CAPTULO *: ANÁLISIS DE COMPONENTES PRINCIPALES

    E. PCA r!#.-"# !n 1r-'!r .u$#r un# tr#ns6or'#c-&n .-n!#. d! .os d#tos !n un nu!7o

    s-st!'# d! coord!n#d#s orto$on#.!s Los 7!ctor!s d! 1ro4!cc-&n d! .os d#tos !n !. nu!7o

    !s1#c-o son .#s d-r!cc-on!s d! 'á?Pr-nc-1#. Co'1on!nt@) PC En !st! nu!7o

    s-st!'# d! coord!n#d#s .#s co'1on!nt!s 1r-nc-1#.!s !stán ord!n#d#s #uto'át-c#'!nt!

    s!$n .# 7#r-#n"# d! .# 1ro4!cc-&n d! d#tos) !s d!c-r) s!$n .# c#nt-d#d d! -n6or'#c-&n 9u!

    cont!n$#n F-n#.'!nt!) s! 1u!d! r!duc-r .# d-'!ns-&n d! .os d#tos r!su.t#nt!s !n !. nu!7o

    !s1#c-o !.-'-n#ndo .#s co'1on!nt!s 1r-nc-1#.!s 9u! 1r!s!nt!n un# '!nor 7#r-#n"#) !s

    d!c-r) 9u! #1ort!n '!nos -n6or'#c-&n

    L# ,#s! '#t!'át-c# 9u! s! ut-.-"# 1#r# d!s#rro..#r !. PCA !s !. á.$!,r# .-n!#. V!r!'os

    co'o !. PCA !stá 2nt-'#'!nt! r!.#c-on#do con .# técn-c# #.$!,r#-c# d! .# d!sco'1os-c-&n

    !n 7#.or!s s-n$u.#r!s >?S-n$u.#r V#.u! D!co'1os-t-on@) SVD QJK Ad!'ás) .# co'1r!s-&n d!

    co'o !stán r!.#c-on#dos !. PCA 4 .# SVD #4ud#rá #. '!(or !nt!nd-'-!nto d! .#s 1os-,.!s

    #1.-c#c-on!s d! !st! 'étodo

    E. PCA t-!n! dos 1ro1-!d#d!s 'u4 -'1ort#nt!s 9u! #c!n d! !st! 'étodo d! r!ducc-&n

    d! .# d-'!s-on#.-d#d t#n 1o1u.#r QJ/:

    1. L#s co'1on!nt!s 1r-nc-1#.!s o,t-!n!n s!cu!nc-#.'!nt! .# 'á!n !.

    s!nt-do d! !rror d! r!construcc-&n

    '. L#s co'1on!nt!s 1r-nc-1#.!s o,t!n-d#s son orto$on#.!s !ntr! s-) 6#c-.-t#ndo su

    1ost!r-or 1roc!s#do) 4# 9u! 1u!d!n tr#t#rs! -nd!1!nd-!nt!'!nt!

    Los d#tos d! !ntr#d# !st#rán d-s1u!stos !n un# '#tr-" + [ \' < n) dond! m !s !. n'!ro

    d! 7#r-#,.!s d! !ntr#d# 4 n  !s !. n'!ro d! o,s!r7#c-on!s M-!ntr#s 9u! .os d#tos

    1ro4!ct#dos !st#rán !n un# '#tr-" , [ \1 < n) con p 7#r-#,.!s s#.-d# 4 n o,s!r7#c-on!s) dond!

    !. n'!ro d! 7#r-#,.!s d! s#.-d# !s '!nor 9u! !. d! !ntr#d# > p;m C#d# 7!ctor &i  Q

  • 8/18/2019 Analisis Componentes Principales

    33/130

    *0 DESCRIPCI8N DEL PCA

  • 8/18/2019 Analisis Componentes Principales

    34/130

    CAPTULO *: ANÁLISIS DE COMPONENTES PRINCIPALES

    A $r#nd!s r#s$os !. 6unc-on#'-!nto d!. PCA !stá !n6oc#do # !ncontr#r) # 1#rt-r d! un

    con(unto d! d#tos d! !ntr#d#  X  con m 7#r-#,.!s) un 7!ctor d! 1!sos u$ c#1#" d! 1ro4!ct#r

    !st! con(unto d! d#tos so,r! .# d-r!cc-&n d! 'á u$

     X  , y  # > u # X  , =,  y  u I    >**

    P#r# ..!7#r # c#,o .# conc!ntr#c-&n d! .# -n6or'#c-&n !n !. '!nor n'!ro 1os-,.! d!

    co'1on!nt!s 4 9u! d-c# -n6or'#c-&n no !sté r!1!t-d#) .# tr#ns6or'#c-&n t-!n! 9u!

    #s!$ur#r 9u! .#s 7#r-#,.!s r!su.t#nt!s !n !. nu!7o !s1#c-o s!#n orto$on#.!s) r#"&n 1or .#

    9u! s! 6u!r"# .# r!str-cc-&n U  U I  D! !st# 6or'# cu#ndo !.-'-n!'os .os #tr-,utos '!nos

    s-$n-6-c#t-7os 1!rd!r!'os .# '!nor c#nt-d#d d! -n6or'#c-&n P#r# !ncontr#r .# '#tr-" U  9u!

    r!su!.7! !. 1ro,.!'# d#do !n >** 1r-'!ro #4 9u! d!s#rro..#r su !

  • 8/18/2019 Analisis Componentes Principales

    35/130

    *0 DESCRIPCI8N DEL PCA

      maxU 

    tr {U T C  XX  U }

    su(!to # U  U  > I  >*

    Aor# t!n!'os un 1ro,.!'# d! o1t-'-"#c-&n con r!str-cc-on!s) 1or .o t#nto 1#r#

    r!so.7!r !stá !st# !*+co'o .# '#tr-" d! 'u.t-1.-c#dor!s d! L#$r#n$! 4 t!n!'os 9u!

     L p   =   Tr {U T 

    C  XX  U } − ( I −U T 

    U ) 

    d L p

    d U   = 2 C  XX  U  + ( −2U ) =0

    C  XX  U   =   U   >*

    ..!$#'os # un 1ro,.!'# d! #uto7#.or!s 4 #uto7!ctor!s so,r! .# '#tr-" d! co7#r-#n"# d! .os

    d#tos

    D! !st# 6or'# !. PCA s! 1u!d! r!so.7!r co'o un 1ro,.!'# d! #uto7!ctor!s 4

    #uto7#.or!s Los #uto7!ctor!s d! C  @@  1ro1orc-on#n .#s d-r!cc-on!s d! 'á*

    dond! s! conoc! 9u! U   4 V   son '#tr-c!s ortonor'#.!s) 4 U > Qu$  u #  = um  t-!n! !n sus

    co.u'n#s .os #uto7!ctor!s d! XX  .  Σ  !s un# '#tr-" d-#$on#. con .os alores sin4"lares d! XX  

    C#d# 7#.or s-n$u.#r !stá d!6-n-do co'o .# r#2" cu#dr#d# d!. #uto7#.or corr!s1ond-!nt! > i

    ^Bi

    J+

  • 8/18/2019 Analisis Componentes Principales

    36/130

    CAPTULO *: ANÁLISIS DE COMPONENTES PRINCIPALES

    D! !st# 6or'# s! o,t-!n! '!d-#nt! .# SVD d! X  9u!:

     XX T 

    = (U  Σ V T 

    ) (U  ΣV  T 

    )T 

    =   U  Σ2

    U T 

     XX T U   =  U  Σ

    2 >*K

    Est# .t-'# ! I    >*0/

    Aor# s- s! d!s#rro..# !. tér'-no # '-n-'-"#r d! !st# !*00

    T!n-!ndo !n cu!nt# 9u! U  U   > I ) .# !

  • 8/18/2019 Analisis Componentes Principales

    37/130

    ** IMPLEMENTACIONES DEL PCA

    Tr { X T  X } − 2 Tr { X T  UU T  X } + Tr { X UU T  X }= Tr { X T  X } − Tr { X T UU T  X }

    = Tr { X T  X } − Tr {U T  XX T  U }

    >*0*

    F-n#.'!nt!) s- !.-'-n#'os .os tér'-nos 9u! no -n6.u4!n !n .# '-n-'-"#c-&n) !.

    1ro,.!'# d!. PCA co'o '-n-'-"#c-&n d!. !rror d! r!construcc-&n 9u!d# r!su'-do !n .#

    s-$u-!nt! ! I  >*0J

    Por .o 9u! s! 1u!d! co'1ro,#r co'o #',#s 6or'u.#c-on!s r!su!.7!n !. '-s'o

    1ro,.!'# Ad!'ás) !st# nu!7# 6or'u.#c-&n 6#c-.-t#rá .# 'od-6-c#c-&n d!. co'1ort#'-!nto

    d!. #.$or-t'o '!d-#nt! .# #d-c-&n d! nu!7os tér'-nos o .# 'od-6-c#c-&n d!. cost! Esto #c!

    9u! .# 6or'u.#c-&n d!. PCA co'o .# '-n-'-"#c-&n d!. !rror d! r!construcc-&n s!# un

    !

  • 8/18/2019 Analisis Componentes Principales

    38/130

    CAPTULO *: ANÁLISIS DE COMPONENTES PRINCIPALES  

    d#do 9u! !n c#d# 1#so s&.o c#.cu.# un n-co 7!ctor d! 1ro4!cc-&n) c#d# 1#so !s 'ás s!nc-..o

    S! c#.cu.#r#n .os 7!ctor!s d! 1ro4!cc-&n uno 1or uno !n dos !t#1#s:

    1. En !st# 1r-'!r# !t#1# s! !(!cut# !. PCA so,r!  X .  S! #..# !. 1r-'!r 7!ctor d!

    1ro4!cc-&n 4 .# 1r-'!r# co'1on!nt! 1r-nc-1#. S! 1u!d!n ut-.-"#r .#s dos

    6or'u.#c-on!s 1r!s!nt#d#s !n .# s!cc-&n #nt!r-or S- s! us# .# 9u! '#

  • 8/18/2019 Analisis Componentes Principales

    39/130

    *J EEMPLO SINTXTICO

    En .# F-$ur# 0 s! 'u!str# !. con(unto d! d#tos d! !ntr#d#:

    Figura 1: D#tos d! !ntr#d# d!. !(!'1.o s-ntét-co

    En .# F-$ur# * s! 1u!d!n 7!r .os #uto7#.or!s o,t!n-dos !n !. !(!'1.o d! s-ntét-co Los

    #uto7#.or!s -nd-c#n .# c#nt-d#d d! -n6or'#c-&n 9u! #1ort# c#d# co'1on!nt! 1r-nc-1#. En

    !st! c#so !. t!rc!r #uto7#.or !s 1ráct-c#'!nt! / 1or .o 9u! .# t!rc!r# co'1on!nt! 1r-nc-1#.

    no #1ort# -n6or'#c-&n 4 1u!d! s!r !.-'-n#d# s-n n-n$n 1!r(u-c-o 1#r# .#s !t#1#s

    1ost!r-or!s Est! r!su.t#do !r# d! !s1!r#r 1or9u! #,2# un# 7#r-#,.! d!1!nd-!nt! d! .#s

    otr#s dos !n .os d#tos or-$-n#.!s

    Figura ': Auto7#.or!s o,t!n-dos #. #1.-c#r !. PCA so,r! !. con(unto d! d#tos s-ntét-cos d!. !(!'1.o

    Co'o s! r!7!.# !n .# F-$ur# J ># tr#s tr#ns6or'#r con !. PCA .os d#tos d!. !(!'1.o

    s-ntét-co .# r!1r!s!nt#c-&n d! .#s tr!s 7#r-#,.!s # c#',-#do !n !. nu!7o !s1#c-o Aor# #4

    dos 7#r-#,.!s 9u! 7#r2#n 1!rc!1t-,.!'!nt! '-!ntr#s 9u! .# t!rc!r# 7#r-#,.! #1!n#s c#',-#

    S! o,s!r7# '!(or !n .# F-$ur# J >,) c) d .# r!.#c-&n !ntr! .#s 7#r-#,.!s Wu!d#

    J

  • 8/18/2019 Analisis Componentes Principales

    40/130

    CAPTULO *: ANÁLISIS DE COMPONENTES PRINCIPALES 

    d!'ostr#do 9u! .# t!rc!r# 7#r-#,.! !s c.#r#'!nt! 1r!sc-nd-,.! 1or9u! cont-!n! 'u4 1oc#

    -n6or'#c-&n 4# 9u! tod#s .#s 'u!str#s t-!n!n un 7#.or !n torno # / S-n !',#r$o) .# 1r-'!r#

    4 .# s!$und# 7#r-#,.! cont-!n!n c#s- tod# .# -n6or'#c-&n

    Esto t#',-én s! 1u!d! 7!r !n .# r!1r!s!nt#c-&n d! .os #uto7#.or!s d! .os d#tos !n .#

    F-$ur# * dond! !. 1r-'!r #uto7#.or cont-!n! .# '#4or 1#rt! d! .# -n6or'#c-&n) !. s!$undo

    #uto7#.or t#',-én $u#rd# -n6or'#c-&n #un9u! '!nos 4 !. t!rc!r #uto7#.or 9u! !stá 'u4

    c!rc# d! / 1or9u! c#s- no t-!n! -n6or'#c-&n 1or9u! tod# c#s- tod# .# 7#r-#n"# !stá cont!n-d#

    !n .os dos 1r-'!ros #uto7#.or!s

    Figura (: Nu!7#s V#r-#,.!s o,t!n-d#s #. 1ro4!ct#r .os d#tos !n !. nu!7o !s1#c-o En ># !stán r!1r!s!nt#d#s .#s J7#r-#,.!s 4 !n >,) c) d s! 'u!str#n .#s 7#r-#,.!s d! * !n *

    /

    >#

    >, >c >d

  • 8/18/2019 Analisis Componentes Principales

    41/130

    *J EEMPLO SINTXTICO

    0

  • 8/18/2019 Analisis Componentes Principales

    42/130

    Capítulo (/&tensiones del PCA

    En !st! c#12tu.o s! 7#n # 1r!s!nt#r .#s 7!rs-on!s 'od-6-c#d#s d!. PCA 9u! 7#n # s!r

    o,(!to d! !stud-o !n !st! PFC En 1r-'!r .u$#r s! 1.#nt!# un# 6or'u.#c-&n -t!r#t-7# 1#r#

    r!so.7!r !. PCA Est# 6or'u.#c-&n nos 1!r'-t-rá 1.#nt!#r !. PCA d! .# '#n!r# #d!cu#d# 1#r#

    9u! s! .! 1u!d# -ntroduc-r 'od-6-c#c-on!s D!1!nd-!ndo d! .#s 'od-6-c#c-on!s 9u! s!

    r!#.-c!n s! #.c#n"#rán .#s !

  • 8/18/2019 Analisis Componentes Principales

    43/130

    J0 PCA ITERATIVO

    '-n-'-"#c-&n 1#r# c#',-#r !. co'1ort#'-!nto d!. #.$or-t'o Por .o 9u! !. PCA -t!r#t-7o !s

    un !

  • 8/18/2019 Analisis Componentes Principales

    44/130

    CAPTULO J: E5TENSIONES DEL PCA

    Aor# !. 1ro,.!'# s! 7# # r!so.7!r !n dos 1#sos: !n !. 1r-'!ro s! c#.cu.#rá u co'o un

    1ro,.!'# d! '2n-'os cu#dr#dosZ 4 !n !. s!$undo 1#so s! #..#rá v  co'o un 1ro,.!'# con

    r!str-cc-on!s '!d-#nt! .# SVD

     3.1.1.1 Cálculo de u

    Ant!s d! c#.cu.#r u) s! 1ro1on! un d!s#rro..o '#t!'át-co 9u! r!duc! .# 1#rt! #

    '-n-'-"#r con !. corr!s1ond-!nt! #orro co'1ut#c-on#. 4 .# s-'1.-6-c#c-&n d!.

    6unc-on#'-!nto d!. #.$or-t'o QJ/

    S! 1#rt! d! .# !J*:

    ∑i=1n ∣ x i −vuT  x i ∣2= (v−u) X T  X (v−u)

    = vT  X T  X v−vT  X T  X u−uT  X T  X v+u X T  X u >JJ

    S- s! !.-'-n#n .os tér'-nos 9u! no 7#n # s!r o1t-'-"#dos) !s d!c-r) #9u!..os 9u! no

    cont!n$#n u !n .# !J

    D! !st# 6or'#) !. cá.cu.o d! u 9u!d# r!duc-do # un 1ro,.!'# d! o1t-'-"#c-&n) con !.

    7!ctor v  6-(o dur#nt! !st! 1#so

     3.1.1.2 Cálculo de v

    Un# 7!" c#.cu.#do u) !. tér'-no v  X   X u t-!n! 9u! s!r '#

  • 8/18/2019 Analisis Componentes Principales

    45/130

    J0 PCA ITERATIVO

    uno 1or uno) '-!ntr#s 9u! !n .# s!$und# s! ,usc#n .#s '#tr-c!s U  4 V  !n ,.o9u!

     3.1.2.1 PCA Deflactado

    Est# 1r-'!r# 6or'# d! -'1.!'!nt#r !. #.$or-t'o PCA -t!r#t-7o r!su.t# d! #d#1t#r .#

    -'1.!'!nt#c-&n d!. PCA r!curs-7o # .# 7!rs-&n -t!r#t-7# Por .o t#nto) s! #..#rán .os 7!ctor!s

    d! 1ro4!cc-&n -nd-7-du#.'!nt! ;#,rá un ,uc.! 1or c#d# uno d! !..os 4 # '!d-d# 9u! s!

    #..#n s! $u#rd#n !n un# '#tr-" E. o,(!t-7o !s '-n-'-"#r .# d-6!r!nc-# !ntr! ui 4 v i !n c#d#

    co'1on!nt! ;#4 9u! t!n!r !n cu!nt# 9u! # '!d-d# 9u! s! o,t-!n!n .os 7!ctor!s d!

    1ro4!cc-&n #4 9u! d!6.#ct#r .# '#tr-" + con .os d#tos d! !ntr#d# con !. 6-n d! !.-'-n#r .#

    -n6or'#c-&n 9u! cont-!n!n d! .os d#tos !n !. nu!7o !s1#c-o 4 9u! !. s-$u-!nt! 7!ctor s!#

    -nd!1!nd-!nt! d! .#s #nt!r-or!s

    E. 1s!udoc&d-$o d! !st! #.$or-t'o !stá d!scr-to !n .# T#,.# 0

    1. Const#nt!s -n-c-#.!s: cot# 0a0/

    '. P#rt-'os d! .# '#tr-" d! d#tos +

    (. S! !.-'-n# .# '!d-# d! +

    0.  !or  i > QDP  F v  > QP  

    16.  S! #ctu#.-"# .# d-6!r!nc-# !ntr! u 4 v 

    dif   uv=∑i=1

    m

    (ui−v i)/(∣u∣2∣v∣2)

    11. end 

    1'. S! nor'#.-"# u 4 s! $u#rd# !n -

    1(. S! d!6.#ct# +:

     X = X - uT vX 

    14. end 

    1. S! c#.cu.#n .#s co'1on!nt!s 1r-nc-1#.!s '!d-#nt! Y  > U   X 

    abla $: Pse"docódi4o de la implementación al4oritmo PCA *teratio de!lactado.

    +

  • 8/18/2019 Analisis Componentes Principales

    46/130

    CAPTULO J: E5TENSIONES DEL PCA

    3.1.2.2 PCA en Bloque

    En !st# s!$und# 6or'# d! -'1.!'!nt#r !. #.$or-t'o PCA -t!r#t-7o s! #..#n .os 7!ctor!s

    d! 1ro4!cc-&n todos # .# 7!") 1or .o 9u! .# d-6!r!nc-# !ntr! U  4 V ) 9u! s! us# co'o cr-t!r-o d!

    1#r#d#) d!,! !7#.u#rs! so,r! tod#s .os 7!ctor!s # .# 7!"

    E. 1s!udoc&d-$o 1#r# !st# s!$und# -'1.!'!nt#c-&n d!. PCA It!r#t-7o s! 'u!str# !n .#

    T#,.# *

    Aun9u! !. co'1ort#'-!nto d! #',os #.$or-t'os d!,!r2# s!r -$u#. s! !ncu!ntr#n

    1!9u!3#s d-6!r!nc-#s En 1r-'!r .u$#r !n !. #.$or-t'o d!. PCA It!r#t-7o !n ,.o9u! no s!

    contro.# 9u! .#s co'1on!nt!s 1r-nc-1#.!s !stén ord!n#d#s s!$n su 7#r-#n"# '-!ntr#s 9u!!n !. #.$or-t'o d!6.#ct#do s- 9u! s! conoc! #. c#.cu.#rs! un# 1or un#

    1. Const#nt!s -n-c-#.!s: cot# 0a0/

    '. P#rt-'os d! .# '#tr-" d! d#tos +

    (. S! !.-'-n# .# '!d-# d! +

    0. S! !.-$! !. n'!ro QDP   F V  > QP  

    16. S! #ctu#.-"# .# d-6!r!nc-# !ntr! U  4 V 

    dif   UV =1

     p∑i=1

     p1

    ∣U i ∣2∣V i ∣

    2 ∑ j=1

    m

    uij−vij

    11. end 

    1'. S! nor'#.-"#n .#s co.u'n#s d! -

    1(. S! c#.cu.#n .#s co'1on!nt!s 1r-nc-1#.!s '!d-#nt! ,   -T+

    abla #: Pse"docódi4o de la implementación al4oritmo PCA *teratio en blo"e.

    L#s d-6!r!nc-#s 7-!n!n d#d#s no so.o 1or .# '#n!r# d! -'1.!'!nt#r !. #.$or-t'o s-no

    t#',-én 1or .# 7#r-#,.! d-6!r!nc-# Est# 7#r-#,.!) .# cu#. s! !ncu!ntr# !n #',#s

    -'1.!'!nt#c-on!s) !s .# '!d-d# d! s-'-.-tud 9u! !s ,usc#d# !ntr! .os 7!ctor!s d!

    1ro4!cc-&n u !n U 7 4 .os 7!ctor!s d! r!construcc-&n v  !n V . R!cord#r 9u! !. 'od!.o d!. PCA

  • 8/18/2019 Analisis Componentes Principales

    47/130

    J0 PCA ITERATIVO

    -t!r#t-7o 1#r# 9u! s!# !

  • 8/18/2019 Analisis Componentes Principales

    48/130

    CAPTULO J: E5TENSIONES DEL PCA

    Figur 4! A"toalores de la matri' de coarian'a en la base de datos SpamIase

    En .# F-$ur# + s! 1u!d!n o,s!r7#r .#s d-6!r!nc-#s !ntr! .#s co'1on!nt!s 1r-nc-1#.!s d!

    #',os 'étodos d!. PCA It!r#t-7o 4 .#s co'1on!nt!s d!. PCA or-$-n#. P#r# !st#

    co'1#r#c-&n s! # ut-.-"#do .# d-6!r!nc-# cos!no

    L# d-6!r!nc-# cos!no !s !. cos!no d!. án$u.o 9u! 6or'#n .os dos 7!ctor!s 1or .o 9u! s-

    t-!n! un 7#.or 1r&

  • 8/18/2019 Analisis Componentes Principales

    49/130

    J0 PCA ITERATIVO

    S! co'1ru!,# 9u! !. PCA It!r#t-7o !n ,.o9u! !s !. 'étodo 9u! 1roduc! co'1on!nt!s

    1r-nc-1#.!s 'ás c!rc#n#s #. PCA or-$-n#. S-n !',#r$o) .#s dos .t-'#s co'1on!nt!s no son

    -$u#.!s # .#s co'1on!nt!s d!. PCA or-$-n#. Esto !s d!,-do # 9u! co'o s!$n s! #..#n 'ás

    co'1on!nt!s) sus 7#r-#,.!s 1os!!n un 7#.or #,so.uto 'ás 1!9u!3o Por .o t#nto) !s 'ás

    costoso #.c#n"#r !. 7#.or corr!cto 4 .os !rror!s 1!r'-t-dos s! #cu'u.#n !n !st#s .t-'#sco'1on!nt!s 9u! 1!s#n '!nos so,r! !. !rror d! r!construcc-&n En !. c#so 9u! s! u,-!s!n

    r!9u!r-do 'ás co'1on!nt!s .os !rror!s u,-!s!n 1#s#do # .#s u.t-'#s co'1on!nt!s co'o

    s! 1u!d! 7!r !n .# F-$ur#

    T#',-én s! 7! !n .# F-$ur# + co'o .#s co'1on!nt!s 1r-nc-1#.!s d!. PCA It!r#t-7o

    d!6.#ct#do # 1#rt-r d! .# t!rc!r# co'1on!nt! c#d# 7!" s! d!s72#n 'ás d! .#s co'1on!nt!s

    d!. PCA or-$-n#. Esto d! d!,! # 9u! 1#r# !st# -'1.!'!nt#c-&n .os !rror!s no s! #cu'u.#n

    !n .#s .t-'#s co'1on!nt!s 1r-nc-1#.!s co'o ocurr2# !n .# 7!rs-&n !n ,.o9u!) s-no 9u! s!

    1!r'-t!n 'ás !rror!s # .# or# d! c#.cu.#r c#d# co'1on!nt! Ad!'ás !stos !rror!s s! 7#n

    1ro1#$#ndo d! un# co'1on!nt! # .# s-$u-!nt! !n !. 1roc!so d! d!6.#cc-&n D! tod#s 6or'#s

    s! 1u!d! co'1ro,#r 9u! !st! !6!cto #1#r!c! # 1#rt-r d!. c#.cu.o d! .#s co'1on!nt!s '!nos

    s-$n-6-c#t-7#s 4 7#r-#,.!s con 7#.or!s 'ás c!rc#nos # c!ro 1or .o 9u! .#s co'1on!nt!s con

    'ás -n6or'#c-&n son -$u#.!s 9u! .#s #..#d#s '!d-#nt! !. PCA or-$-n#.

    Figura : D-6!r!nc-# cos!no !ntr! .os 7!ctor!s d! 1ro4!cc-&n o,t!n-dos con !. PCA or-$-n#. 4 .#s7!rs-on!s d!6.#ct#ndo 4 !n ,.o9u! d!. PCA It!r#t-7o

    1 2 3 4 5 6 7 8 9 100.82

    0.84

    0.86

    0.88

    0.9

    0.92

    0.94

    0.96

    0.98

    1

    1.02 

    Componentes Principales

       D   i  s   t  a  n  c   i  a  c  o  s  e  n  o

     

    PCA it. en bloqe

    PCA it. !e"lactan!o

  • 8/18/2019 Analisis Componentes Principales

    50/130

    CAPTULO J: E5TENSIONES DEL PCA

    En cu#nto #. t-!'1o d! !(!cuc-&n) co'o s! o,s!r7# !n .# F-$ur# ) !. PCA It!r#t-7o

    d!6.#ct#do ut-.-"# un t-!'1o '!nor #. c#.cu.#r 1oc#s co'1on!nt!s 1r-nc-1#.!s P#r# !st!

    c#so !. t-!'1o !s '!(or #st# 9u! s! #..#n s-!t! co'1on!nt!s Cu#ndo s! r!9u-!r! c#.cu.#r

    'ás co'1on!nt!s !. PCA -t!r#t-7o !n ,.o9u! n!c!s-t# '!nos t-!'1o 1or .o $!n!r#.) #un9u!

    su !7o.uc-&n no !s t#n !st#,.! co'o !n !. PCA -t!r#t-7o d!6.#ct#do Esto d# 7!nt#(# #. PCA !n,.o9u! 1or9u! cu#ndo s! #..#n 1oc#s co'1on!nt!s .# d-6!r!nc-# con !. PCA d!6.#ct#do !s

    n-c#'!nt! d! déc-'#s d! s!$undo) '-!ntr#s 9u! 1#r# #..#r 'uc#s co'1on!nt!s .#s

    d-6!r!nc-#s #u'!nt#n # s!$undos) s-!ndo !. PCA d!6.#ct#do ,#st#nt! 1!or

    +/

    Figura 2: V#r-#c-&n d! .# d-6!r!nc-# !ntr! PCA or-$-n#. 4 PCA -t!r#t-7o !n ,.o9u! s!$n !. n'!rod! co'1on!nt!s 1r-nc-1#.!s ut-.-"#d#s

    Figura 3: T-!'1o d! !(!cuc-&n r!s1!cto #. n'!ro d! co'1on!nt!s 1r-nc-1#.!s c#.cu.#d#s

    0 5 10 15 20 25 30 35 400

    1

    2

    3

    4

    5

    6

    7

    Componentes principales

       #   i  e  m  p  o   !  e  e   $  e  c    c   i   %  n   &   '  e  (   )

     

    PCA it. !e"lactan!o

    PCA it. en bloqe

  • 8/18/2019 Analisis Componentes Principales

    51/130

    J0 PCA ITERATIVO

    E. #ná.-s-s PCA !nc#(# 1!r6!ct#'!nt! !n 1ro,.!'#s d! c.#s-6-c#c-&n 4 r!$r!s-&n) dond!

    .os d#tos d! !ntr#d# t-!n!n 'uc#s 7#r-#,.!s P#r# co'1ro,#r 9u! !st! 'étodo 6unc-on#

    corr!ct#'!nt! 4 9u! 1od!'os r!duc-r #tr-,utos s-n 1!rd!r -n6or'#c-&n s-$n-6-c#t-7#

    #1.-c#r!'os un c.#s-6-c#dor tr#s .# !

  • 8/18/2019 Analisis Componentes Principales

    52/130

    CAPTULO J: E5TENSIONES DEL PCA

    R!s1!cto # .#s d-6!r!nc-#s !ntr! .#s tr!s cur7#s) 7!'os 9u! #un9u! s-$u!n !7o.uc-on!s

    s-'-.#r!s .# d!. PCA or-$-n#. o6r!c! un '!nor !rror Esto s! d!,! # 9u! !n !. PCA -t!r#t-7o

    #4 9u! !ncontr#r !. co'1ro'-so !ntr! .# con7!r$!nc-# d! u 4 v ) 4 !. cost! co'1ut#c-on#.)

    co'o s! !

  • 8/18/2019 Analisis Componentes Principales

    53/130

    J* SPARSE PCA

    Con !. o,(!t-7o d! r!so.7!r !st! 1ro,.!'# 4 6#c-.-t#r .# -nt!r1r!t#c-&n d! .#s

    co'1on!nt!s 1r-nc-1#.!s #n sur$-do 7#r-#s técn-c#s A.$unos !?.!#st #,so.ut! sr-n#$!

    #nd s!.!ct-on o1!r#tor@  9u! s-'u.tán!#'!nt! 1roduc! 'od!.os 1r!c-sos 4 d-s1!rsos Más

    #d!.#nt!) ou ;#st-! QJ 1ro1us-!ron  .# técn-c# d! .# red elástica >?!.#st-c n!t@) un#

    $!n!r#.-"#c-&n d! .# #nt!r-or) !n .# 9u! s! co',-n# un tér'-no d! r!$u.#r-"#c-&n 5$ con otrod! r!$u.#r-"#c-&n 5 #. 

    F-n#.'!nt! # 1#rt-r d! !st#s dos técn-c#s sur$! un# nu!7# #1ro

  • 8/18/2019 Analisis Componentes Principales

    54/130

    CAPTULO J: E5TENSIONES DEL PCA

    r!d !.ást-c# !s d-r!ct# d!ntro d! .os cr-t!r-os d! r!$r!s-&n 1roduc-!ndo 7!ctor!s d!

    1ro4!cc-&n con co!6-c-!nt!s d-s1!rsos) # c#',-o d! s#cr-6-c#r orto$on#.-d#d !n .os 7!ctor!s

    d! 1ro4!cc-&n 4 7#r-#n"# !n .#s co'1on!nt!s 1r-nc-1#.!s

    En !. s-$u-!nt! #1#rt#do s! !J

    Dond! !s un 7#.or no n!$#t-7o 9u! 6u!r"# # .os co!6-c-!nt!s # #nu.#rs! S!$n #u'!nt#

    su 7#.or) 'ás co!6-c-!nt!s s! #nu.#n Pr-'!ro s! #nu.#rán .os 9u! t!n$#n un 7#.or 'ás

    r!duc-do 4# 9u! #1ort#n '!nos -n6or'#c-&n

    E

  • 8/18/2019 Analisis Componentes Principales

    55/130

    J* SPARSE PCA

    !st#s c#r#ct!r2st-c#s .#sso cons-$u! s-'u.tán!#'!nt! 1r!c-s-&n 4 un 'od!.o d-s1!rso)

    cr!#ndo un 'od!.o d! s!.!cc-&n d! 7#r-#,.!s ,#st#nt! ,u!no

    S-n !',#r$o) .# 6or'u.#c-&n .#sso t-!n! 7#r-#s .-'-t#c-on!s QJ L# 'ás r!.!7#nt! !s

    9u! !. n'!ro d! 7#r-#,.!s s!.!cc-on#d#s 1or .#sso !stá .-'-t#do #. n'!ro d!

    o,s!r7#c-on!s D!,-do # !st# .-'-t#c-&n .#sso no !s #d!cu#d# 1#r# #9u!..os con(untos d!

    d#tos 9u! t!n$#n 'ás 7#r-#,.!s 9u! o,s!r7#c-on!s

    Con !. 6-n d! so.uc-on#r !st# .-'-t#c-&n s! 1ro1uso .# 6or'u.#c-&n d! la red elástica QJ)

    9u! !s un# $!n!r#.-"# .# 6or'u.#c-&n .#sso -ntroduc-!ndo un tér'-no d! r!$u.#r-"#c-&n 5*

    #d-c-on#. #. 5$) 1or .o 9u! t-!n! s-'-.#r!s c#r#ct!r2st-c#s !n !. 1roc!so d! o1t-'-"#c-&n Aor#

    t!ndr!'os  0 4  * co'o 1#rá'!tros no n!$#t-7os 1#r# .# !st-'#c-&n d! .# r!d !.ást-c#) 4 .osco!6-c-!nt!s d! r!$r!s-&n 7!ndrán d#dos 1or .# r!so.uc-&n d!  :

    û en = arg minu ∣"  − ∑i=1

     p

     X i ui ∣2

    + λ 2 ∑i=1

     p

    ∣ui∣2

    + λ 1∑i=1

     p

    ∣ui∣ >J0/

    Co'o s! 1u!d! o,s!r7#r .# r!d !.ást-c# !s un# co',-n#c-&n con7! I  p >J00

    Dond! p !s !. n'!ro d! co'1on!nt!s 1r-nc-1#.!s 9u! son ,usc#d#s ;#4 9u! t!n!r !ncu!nt# 9u!) #. -$u#. 9u! !n .# !J*) .# r!so.uc-&n d! .# !J00 !stá

    ++

  • 8/18/2019 Analisis Componentes Principales

    56/130

    CAPTULO J: E5TENSIONES DEL PCA

    d!t!r'-n#d# 1or .# cond-c-&n d! con7!r$!nc-# !ntr! .os 7#.or!s d! u 4 v .

    N&t!s! 9u! !. PCA It!r#t-7o !s un# c#so 1#rt-cu.#r d! >J) #. #c!r  0/ s! o,t-!n!

    >J*

    Otr# cons-d!r#c-&n # .# 9u! #4 9u! #c!r r!6!r!nc-# !s 9u! !n .# !

  • 8/18/2019 Analisis Componentes Principales

    57/130

    J* SPARSE PCA

     3.2.3.2 Cálculo de v

    Un# 7!" o,t!n-do u s! 6-(# su 7#.or 1#r# 1od!r '# I  p

    Est! .t-'o 1ro,.!'# d! o1t-'-"#c-&n s! r!su!.7! !J

     (.'.0 Implementaciones del PCA

    A cont-nu#c-&n s! 1r!s!nt#n dos 6or'#s d! -'1.!'!nt#r !. #.$or-t'o SPCA 1#r# #..#r

    .#s 1r-'!r#s

  • 8/18/2019 Analisis Componentes Principales

    58/130

    CAPTULO J: E5TENSIONES DEL PCA

    L#s 7!nt#(#s d! ut-.-"#r !. SPCA d!6.#ct#do son 7#r-#s:

    Por un .#do s! o,t-!n! .o '!(or d! c#d# uno d! .os #.$or-t'os PCA 4 SPCA 1or9u!)

    co'o 4# s! # !

  • 8/18/2019 Analisis Componentes Principales

    59/130

    J* SPARSE PCA

    1. Const#nt!s -n-c-#.!s: cot# 0a0/

    '. P#rt-'os d! .# '#tr-" d! d#tos +

    (. S! !.-'-n# .# '!d-# d! +

    0.  !or  i > < co'1on!nt!s 1r-nc-1#.!s

    .  In-c-#.-"#r v #.!#tor-#'!nt!

    2. di! "   0

    3. DEile di! "  b cot#

    4. S! #..# u '!d-#nt!:

    û  =   minu

    (uT  X T  X u−2vT  X T  X u) + ∑ j=1

    λ1, j∣u j∣1

    5. S! #..# v '!d-#nt!: SVD d! X   X u

     X   X u > QDP   F v  > QP  

    16. S! #ctu#.-"# .# d-6!r!nc-# !ntr! u 4 v 

    dif   u v=∑i=1

    m

    (ui−vi )/(∣u∣2∣v∣

    2)

    11. end 

    1'. S! nor'#.-"# u 4 s! $u#rd# !n -

    1(. S! d!6.#ct# +:  X = X- uT vX 

    14. end 

    1. S! c#.cu.#n .#s co'1on!nt!s 1r-nc-1#.!s '!d-#nt! ,   -T+

    abla : Pse"docódi4o de la implementación al4oritmo SPCA de!lactado.

     3.2.4.2 SPCA en Bloque

    En !st# s!$und# 6or'# d! -'1.!'!nt#r !. #.$or-t'o SPCA -t!r#t-7o s! #..#n .#s

    co'1on!nt!s 1r-nc-1#.!s tod#s # .# 7!" P#r# !..o s! r!9u-!r! .# 1r!1#r#c-&n d! un# '#tr-"

    9u! cont!n$# .os d#tos !n su d-#$on#. t#nt#s 7!c!s co'o co'1on!nt!s s! 9u-!r#n #..#rAor# #. c#.cu.#rs! tod#s .#s co'1on!nt!s 1r-nc-1#.!s s-'u.tán!#'!nt! .# d-6!r!nc-# !ntr! u

    4 v s! !7#.# 1#r# tod#s .#s co'1on!nt!s (unt#s

    E. 1s!udoc&d-$o 1#r# !st! #.$or-t'o 9u!d# r!6.!(#do !n .# T#,.#

    +

  • 8/18/2019 Analisis Componentes Principales

    60/130

    CAPTULO J: E5TENSIONES DEL PCA

    1. Const#nt!s -n-c-#.!s: cot# 0a0/

    '. P#rt-'os d! .# '#tr-" d! d#tos +

    (. S! !.-'-n# .# '!d-# d! +

    0. S! !.-$! !. n'!ro QDP   F V  > QP  

    16. S! #ctu#.-"# .# d-6!r!nc-# !ntr! U  4 V 

    dif  UV =1

     p∑i=1

     p1

    ∣U i ∣2∣V i ∣

    2 ∑ j= 1

    m

    uij−vij

    11. end 

    1'. S! nor'#.-"#n .#s co.u'n#s d! -

    1(. S! c#.cu.#n .#s co'1on!nt!s 1r-nc-1#.!s '!d-#nt! ,   -T+

    abla /: Pse"docódi4o de la implementación al4oritmo SPCA en blo"e.

     (.(

  • 8/18/2019 Analisis Componentes Principales

    61/130

    JJ PCA

    Es 1os-,.! !ncontr#r 1.#nt!#'-!ntos 1#r!c-dos 9u! ,usc#n #3#d-r ro,ust!" #. PCA QJ*)

    QJJ) QJ) QJ+ 4 QJ En QJ s! 1r!s!nt#n dos 'étodos 9u! r!su!.7!n 1ro,.!'#s no

    .-n!#.!s con !. !rn!. PCA us#ndo un# 6unc-&n d! cost! ?ε-insensibleM. En !. 1r-'!r 'étodo

    r!su!.7!n .#s !cu#c-on!s '!d-#nt! 1ro$r#'#c-&n cu#drát-c# s!cu!nc-#. >?s!9u!nt-#.

    9u#dr#t-c 1ro$r#''-n$@) SWP co'o un 1ro,.!'# d! #uto7#.or!s 4 #uto7!ctor!sZ 4 !n !.

    s!$undo 1ro1on! un !s9u!'# s-'1.-6-c#do d! 1!sos 1#r# r!so.7!r un 1ro,.!'# d!

    #uto7#.or!s $!n!r#.-"#dos -t!r#t-7os

    A 1#rt-r d! !st# -d!#) 1!ro !'1.!#ndo un 1roc!d-'-!nto d-6!r!nt! con un# 6or'u.#c-&n

    .-n!#. s! d!s#rro..#rá un# nu!7# 7!rs-&n d!. PCA A !st! nu!7o #.$or-t'o s! .! ..#'# PCA

    1or9u! .# 6unc-&n d! cost! 9u! s! ut-.-"#rá s!rá d!. t-1o ? ε-insensibleM 4 !. 1#rá'!tro 'ás-'1ort#nt! !s .# to.!r#nc-# #. !rror ε %r#c-#s # !st! 1#rá'!tro s! cons!$u-rá r!duc-r !.

    -'1#cto d!. !rror o ru-do -'1u.s-7o #soc-#do # .os d#tos) co'o s! !

  • 8/18/2019 Analisis Componentes Principales

    62/130

    CAPTULO J: E5TENSIONES DEL PCA

    r!so.7!r 1ro,.!'#s d! #1r!nd-"#(! 'á9u-n# d! t-1o su1!r7-s#do Un# d! sus 1r-nc-1#.!s

    c#r#ct!r2st-c#s !s su ,u!n# c#1#c-d#d d! $!n!r#.-"#c-&n) .o 9u! # !co 9u! s! #4#n

    !'1.!#do !n 'u.t-tud d! #1.-c#c-on!s Q

    L# -stor-# d! .os #.$or-t'os d! 7!ctor!s so1ort! co'-!n"# !n .os #3os s!s!nt# d!. s-$.o

    55 !n Rus-# con !. tr#,#(o d! V#1n-) L!rn!r 4 C!r7on!s-s so,r! t!or2# d!. #1r!nd-"#(!

    !st#d2st-co QK 4 Q En .# 6or'# #ctu#.) .#s SVM #n s-do d!s#rro..#d#s !n .os .#,or#tor-os

    ATT B!.. L#,or#tor-!s 1or V#1n- 4 sus #4ud#nt!s D!,-do # !st! !ntorno d! d!s#rro..o .#s

    SVM !stán 6u!rt!'!nt! or-!nt#d#s # #1.-c#c-on!s r!#.!s E. 1r-nc-1#. c#'1o dond! 6u!ron

    #1.-c#dos 4 dond! son s-st!'#s #.t#'!nt! co'1!t-t-7os !s !n !. á',-to d!. r!conoc-'-!nto

    &1t-co d! c#r#ct!r!s Q) d!s1ués su uso s! # !&0) $0) )>&n ) $ne ∈ ℝH×ℝ ) dond! X  son .#s o,s!r7#c-on!s o d#tos

    d!. !s1#c-o d! !ntr#d# ! Y .#s 7#r-#,.!s # !st-'#r !n !. !s1#c-o d! s#.-d#

    En .# SVR Q+/) !. o,(!t-7o !s !ncontr#r un# 6unc-&n  ̂$  =   f   ( x)   .# cu#. t!n$# 1#r#

    c#d# d#to d! !ntr!n#'-!nto # co'o d!s7-#c-&n 'á

  • 8/18/2019 Analisis Componentes Principales

    63/130

    JJ PCA

    A cont-nu#c-&n s! 7#n # d!scr-,-r .# 6or'u.#c-&n .-n!#. d! .# SVR Est! c#so !s !. 'áss!nc-..o 4) #d!'ás) !s !. 9u! 7# # s!r us#do 1#r# -'1.!'!nt#r !. PCA L#s 6unc-on!s

    .-n!#.!s to'#n .# s-$u-!nt! 6or'#:

     f  ( x ) = wT  x + % donde   w ∈ℝ & , % ∈ℝ >J0

    Con !. o,(!t-7o d! 9u! .# 6unc-&n s! .o 'ás su#7! 1os-,.! *) fw ?'  t-!n! 9u! s!r .o 'ás

    1!9u!3# 1os-,.! Un# 6or'# d! cons!$u-r !st! 1ro1&s-to !s -nc.u-r .# '-n-'-"#c-&n d! !st!

    tér'-no !n !. 1ro,.!'# d! o1t-'-"#c-&n T!n-!ndo !n cu!nt# 9u! .# s#.-d# d! .# 'á9u-n#

    7-!n! d#d# 1or >J0 4 9u! s!$n !. cost! ? -ns!ns-t-7!@ .os !rror!s d! !st-'#c-&n d!,!ns!r '!nor!s 9u! ) .# SVR r!su!.7! !. s-$u-!nt! 1ro,.!'# d! o1t-'-"#c-&n:

    w  = minw

    1

    2∥w∥2

    su(!to # { $i−wT  x i −%ε

    wT  x i +%− $iε   i=1,2,... , N 

    >J0

    S! #su'! tác-t#'!nt! 9u! !n >J0 .# 6unc-&n  !(N) !

  • 8/18/2019 Analisis Componentes Principales

    64/130

    CAPTULO J: E5TENSIONES DEL PCA

     w  =  minw

    1

    2∥w∥

    2

    +C ∑i =1

    n

    (ζi+ζ i! )

    su&eto a >J0K

    L# const#nt! C b / d!t!r'-n# !. co'1ro'-so !ntr! .# su#7-d#d d!  !(N) 4 .# c#nt-d#d d!

    !rror!s o d!s7-#c-on!s '#4or!s d! 1!r'-t-dos Esto corr!s1ond! con !. co'1ort#'-!nto

    d! .# 6unc-&n d! 1!rd-d#s -ns!ns-,.! d!scr-t# #nt!r-or'!nt! 1or >J0+

    %n  .# F-$ur# ) 1r!s!nt#d# #. -n-c-o d! !st# s!cc-&n) s! 1u!d! o,s!r7#r !.

    6unc-on#'-!nto d! >J0 Los 1untos d!ntro d! .# "on# '#rc#d# t-!n!n un !rror to.!r#,.! #.

    !st#r # un# d-st#nc-# '!nor 9u! M-!ntr#s 9u! .os 1untos 6u!r# d! .# "on# '#rc#d#

    contr-,u4!n #. cost! 9u! 1!n#.-"# #. #.$or-t'o Est# 6unc-&n d! cost! 1!r'-t! r!so.7!r un

    1ro,.!'# d! r!$r!s-&n '!d-#nt! un 1ro,.!'# d! o1t-'-"#c-&n con r!str-cc-on!s so,r! .os

    d#tos A d-6!r!nc-# d!. t21-co !rror cu#drát-co '!d-o) !st! cost! 1!n#.-"# .-n!#.'!nt! >no d!

    6or'# cu#drát-c# .#s d!s7-#c-on!s 'ás #..á d! ) .o 9u! #c! 9u! s!# 'ás ro,usto !n

    1r!s!nc-# d! ru-do -'1u.s-7o

    T#',-én con !st# 6or'u.#c-&n s! 1u!d!n #d#1t#r d! '#n!r# 'ás s!nc-..# .#s SVM #

    6unc-on!s no.-n!#.!s '!d-#nt! !. uso d! !rn!.s Q+J S-n !',#r$o) !n !st! 1ro4!cto so.o s!

    7# # tr#,#(#r con 6unc-on!s .-n!#.!s 1or .o 9u! .# #1roo,(!t-7o d! !st! 1ro4!cto

     (.(.( )odelo del J0K 1#r# r!so.7!r !. PCA) !s d!c-r) t!ndrá 9u!

    '-n-'-"#r !. 7!ctor u d! 1ro4!cc-&n d! .os d#tos

    Cu#ndo s! #d#1t# >J0K #. c#so d!. PCA #4 9u! t!n!r !n cons-d!r#c-&n 9u! s! ,usc#

    9u! u y v  t!n$#n .# '#4or s-'-.-tud 1#r# 9u! .os d#tos d! !ntr#d#  X  #. tr#ns6or'#rs! !n otr#

    d-'!ns-&n Y   1u!d#n s!r r!cu1!r#dos con .# '!nor 1érd-d# d! -n6or'#c-&n 1os-,.! En1r-'!r .u$#r #4 9u! t!n!r !n cu!nt# 9u! s! 7# # '-n-'-"#r u) 1or .o 9u! u sust-tu4! # w . En

    { $ i−wT  x −%   ε + ζiw

    T  x +%− $i   ε + ζi

    !

    ζ i , ζ i! "   0

  • 8/18/2019 Analisis Componentes Principales

    65/130

    JJ PCA

    s!$undo .u$#r) !. r!su.t#do 6-n#. y i !s !9u-7#.!nt! vx i Por .t-'o) no #4 9u! o.7-d#rs! d!.

    tér'-no b 1#r# !9u-.-,r#r .os d#tos >!.-'-n#r !. s!s$o d!. !st-'#dor P#r# !st! 1ro4!cto s!

    !stá tr#,#(#ndo con d#tos nor'#.-"#dos #nt!s d! !ntr#r !n !. #.$or-t'o 1or .o 9u! b no !s

    n!c!s#r-#

    S- s! #3#d!n tod#s .#s 'od-6-c#c-on!s #nt!r-or!s # >J0 r!su.t# .# s-$u-!nt! !J* 1#r# !. PCA:

      minu

    1

    2∥u∥

    2

    +C ∑i=1

    n

    (ζi +ζ i! )  

    su&eto a >J0

    Dur#nt! todo !st! 1ro4!cto s! !stán #n#.-"#ndo d-6!r!nt!s 'od!.os d!. PCA) 9u! #st#

    #or# ,usc#,#n n-c#'!nt! un# ,u!n# 1r!c-s-&n o un# '!(or -nt!r1r!t#c-&n d! .os

    r!su.t#dos s-n 1r!ocu1#rs! n- d!. cost! n- d!. ru-do #soc-#do # .os d#tos Por .o t#nto) .os

    1#rá'!tros 9u! 1od2#n s!r 7#r-#dos !n .#s r!#.-"#c-on!s d! c#d# uno d! .os #.$or-t'os

    #nt!r-or!s !r#n) d!1!nd-!ndo d!. t-1o d! 'od!.o: !. n'!ro d! co'1on!nt!s 1r-nc-1#.!s) .#

    d-6!r!nc-# '2n-'# !ntr! u 4 v  1#r# .# con7!r$!nc-# d!. #.$or-t'o) d! d-s1!rs-&n > 0 4 d!

    do,.! r!$u.#r-"#c-&n > * Con .# ut-.-"#c-&n d! !st# nu!7# 6unc-&n d! cost! !n !. PCA s!

    '#n!(#r#n dos 1#rá'!tros 'ás) 4 C) 9u! 1!r'-t-rán un $o,-!rno 'ás !

  • 8/18/2019 Analisis Componentes Principales

    66/130

    CAPTULO J: E5TENSIONES DEL PCA

    1. Const#nt!s -n-c-#.!s: cot# 0a0/) Cost! 0/) 0a0/J

    '. P#rt-'os d! .# '#tr-" d! d#tos +

    (. S! !.-'-n# .# '!d-# d! +

    0.  !or  - co'1on!nt!s 1r-nc-1#.!s

    .  In-c-#.-"#r v #.!#tor-#'!nt!

    2. di! "   0

    3. DEile di! "  b cot#

    4. S! #..# u '!d-#nt!:

    û =  minu

    1

    2∥u∥

    2+C ∑

    i=1

    n

    (ζi+ζ i!

    ) st

    5. S! #..# v '!d-#nt!: SVD d! X   X u

     X   X u > QDP   F v  > QP  

    16.  S! #ctu#.-"# .# d-6!r!nc-# !ntr! u 4 v 

    dif    uv=∑i=1

    m

    (ui−vi )/(∣u∣2∣v∣2)

    11. end 

    1'. S! nor'#.-"# u 4 s! $u#rd# !n -

    1(. S! d!6.#ct# +:  X = X- uT vX 

    14. end 

    1. S! c#.cu.#n .#s co'1on!nt!s 1r-nc-1#.!s '!d-#nt! ,   -T+

    abla 2: Pse"docódi4o de la implementación al4oritmo 6 -PCA de!lactado.

    {

    v x i −uT  x i   ε + ζ i

    uT  x i −v x i   ε + ζi

    !

    ζi , ζ i! " 0

  • 8/18/2019 Analisis Componentes Principales

    67/130

    JJ PCA

    1. Const#nt!s -n-c-#.!s: cot# 0a0/

    '. P#rt-'os d! .# '#tr-" d! d#tos +

    (. S! !.-'-n# .# '!d-# d! +

    0. S! !.-$! !. n'!ro

  • 8/18/2019 Analisis Componentes Principales

    68/130

    CAPTULO J: E5PERIMENTOS SPCA

    K

  • 8/18/2019 Analisis Componentes Principales

    69/130

    Capítulo 0/&perimentos PCA

    A cont-nu#c-&n s! 1r!s!nt#n .os !

  • 8/18/2019 Analisis Componentes Principales

    70/130

    CAPTULO : E5PERIMENTOS SPCA

    !s1!c26-co 1#r# o1t-'-"#c-&n) ..#'#do Mos! Q+ Mos! !s un# !rr#'-!nt# 9u! 1!r'-t! .#

    r!so.uc-&n !6-c-!nt! d! 1ro,.!'#s d! o1t-'-"#c-&n '#t!'át-c# P#r# .# r!so.uc-&n d! .# d!.

    1r-'!r 1#so d!. SPCA s! !'1.!#rá un# 6unc-&n 1#rt-cu.#r 1#r# 1ro$r#'#c-&n cu#drát-c#

    Un# cons-d!r#c-&n d!ntro d!. t-1o d! #.$or-t'o 9u! s! 7# ut-.-"#r !n !stos !

  • 8/18/2019 Analisis Componentes Principales

    71/130

    0 SIMULACI8N CON DATOS ARTIFICIALES

    En 1r-'!r .u$#r s! cr!#n tr!s 6#ctor!s ocu.tos) V0) V* 4 VJ) s!$n:

    V0 j N>/) */) V*  j N>/) J//

    VJ  /JV0 k /*+V* k (, ( ) *+0, 300

    -1, -2 y ( son independientes.

    A cont-nu#c-&n s! $!n!r#n 0/ 7#r-#,.!s d! .# s-$u-!nt! 6or'#:

    i / -1 (1i, (i

    1 ) *+0, 1, i / 1,2,3,,

    i / -2 (2i, (i

    2 ) *+0, 1, i / ,,4,5,

    i / -3 (3i, (i

    3 ) *+0, 1, i / 6,10,

    7( &i8 son independientes, & / 1,2,3 i / 1,...,10.

    P#r# r!#.-"#r !. !

  • 8/18/2019 Analisis Componentes Principales

    72/130

    CAPTULO : E5PERIMENTOS SPCA

    7#r-#,.!s d!. 6#ctor 8  # 4 .# s!$und# co'1on!nt! ut-.-c! .#s cu#tro 7#r-#,.!s d!. 6#ctor 8 $

    En .# F-$ur# 0/ s! # r!1r!s!nt#do .# !7o.uc-&n d! .# 7#r-#n"# s!$n .#  0 !'1.!#d# S!

    1u!d!n o,s!r7#r c.#r#'!nt! .os 1untos !

  • 8/18/2019 Analisis Componentes Principales

    73/130

    0 SIMULACI8N CON DATOS ARTIFICIALES

    F-n#.'!nt! !n .# F-$ur# 0* r!co$! .# -n6or'#c-&n o,t!n-d# !n .#s F-$ur#s 0/ 4 00

    'ostr#ndo !. n'!ro d! 7#.or!s no nu.os !n c#d# 7!ctor d! 1ro4!cc-&n) #s2 co'o !.

    1orc!nt#(! d! 7#r-#n"# #(ust#d# 1#r# c#s# co'1on!nt! S! 1u!d! o,s!r7#r co'o .#

    !7o.uc-&n d!. n'!ro d! co!6-c-!nt!s no nu.os 4 d!. 7#.or d!. 1orc!nt#(! d! 7#r-#n"#

    !

  • 8/18/2019 Analisis Componentes Principales

    74/130

    CAPTULO : E5PERIMENTOS SPCA

    Un# 7!" s!.!cc-on#d#s .#s .#',d#s 1#r# c#d# un# d! .#s dos 1r-'!r#s d! .#s

    co'1on!nt!s 1r-nc-1#.!s) !n !st! c#so  0 >+) 0) s! 1roc!d! # o,t!n!r .os 7#.or!s d!

    .#s nu!7#s 7#r-#,.!s cont!n-d#s !n !..#s Los r!su.t#dos s! d!t#..#n !n .# T#,.# ) dond!

    t#',-én s! 'u!str#n .#s tr!s 1r-'!r#s co'1on!nt!s 1r-nc-1#.!s #..#d#s con !. PCA

    or-$-n#. # 'odo d! co'1#r#c-&n

    PCA SPCA

    PC0 PC* PCJ PC0 PC*

    50 /)0JJ /) /)/K /)/ /)+

    5* /)0JJ /) /)/K /)/ /)+

    5J /)0JJ /) /)/K /)/ /)+5 /)0JJ /) /)/K /)/ /)+

    5+ /)JKK /)0+ /)** /)+ /)/

    5 /)JKK /)0+ /)*0 /)+ /)/

    5 /)JKK /)0+ /)** /)+ /)/

    5K /)JKK /)0+ /)*J /)+ /)/

    5 /)/ /)//K /)+K/ /)/ /)/

    50/ /)/ /)//K /)+K0 /)/ /)/

    V#r-#n"# A(ust#d# >l +0J J //*+ /J+ JJJ

    T#$ %! 9es"ltados de la sim"lación /.$ car4as y arian'a.

    En .# T#,.# s! 1u!d! o,s!r7#r co'o !. SPCA o,t-!n! .# so.uc-&n -d!#. d-s1!rs# 9u!

    !r# d! !s1!r#r 1#r# .#s dos 1r-'!r#s co'1on!nt!s #. -d!nt-6-c#r corr!ct#'!nt! .os

    con(untos d! c#r$#s #soc-#d#s !. '-s'o 6#ctor d! ocu.to En SPC0 t!n!'os !. 6#ctor 8  # 4 sus

    co!6-c-!nt!s #soc-#dos # @ 2  , @  , @ +  , @  , '-!ntr#s 9u! !n SPC* t!n!'os @ $ , @  # , @  , @ / $!n!r#d#s #

    1#rt-r d! 8 $ .

    L# 7#r-#n"# !

  • 8/18/2019 Analisis Componentes Principales

    75/130

    0 SIMULACI8N CON DATOS ARTIFICIALES

    Estos dos 1#rá'!tros !stán contr#1u!stos 1or9u! cu#nt#s 'ás -t!r#c-on!s s! r!#.-c!n '!(or

    s!rá .# s-'-.-tud !ntr! u 4 v) 4 'ás t-!'1o dur#rá .# !(!cuc-&n Por !stos 'ot-7os #4 9u!

    !ncontr#r un co'1ro'-so !ntr! #',os 7#.or!s L# !.!cc-&n d! !st! co'1ro'-so no !st#

    su(!to # n-n$un# r!$.# !s1!c26-c# d!1!nd-!ndo d!. co'1ort#'-!nto d!. #.$or-t'o SPCA 1#r#

    c#d# 1ro,.!'# !n 1#rt-cu.#r 4 c#',-#ndo con c#d# con(unto d! d#tos Por !(!'1.o) .#

    !.!cc-&n d! un 7#.or d! 0/ + 1#r# .# d-6!r!nc-# !ntr! u 4 v 4 un 'á/) /i+ o 0 Otr# 6or'# d! -n-c-#.-"#r v !s ut-.-"#r

    .# so.uc-&n d!. PCA or-$-n#. QJ/ ;#4 9u! !s1!c-6-c#r 9u! .# -n-c-#.-"#c-&n # 1#rt-r d! .#

    so.uc-&n d!. PCA or-$-n#. 9u! s! ut-.-"# !s .# v 6-n#. 9u! s! o,t-!n! cu#ndo s! #..#n .#s PC 4

    no .#s PC !n s- '-s'#s

    Con .# -nt!nc-&n d! d-.uc-d#r cuá. d! .#s -n-c-#.-"#c-on!s 1ro1u!st#s 1ro7oc# un '!(orco'1ort#'-!nto d!. #.$or-t'o SPCA s! #n co'1#r#do .os t-!'1os d! con7!r$!nc-# d!.

    #.$or-t'o 4 !. t-!'1o 9u! t#rd#,#n !n !ncontr#r .# '-s'# so.uc-&n Son dos

    co'1ro,#c-on!s d-6!r!nt!s 1or9u! !. t-!'1o d! con7!r$!nc-# !stá d!t!r'-n#do 1or .#

    su1!r#c-&n d! .# s-'-.-tud !ntr! u 4 v d! un d!t!r'-n#do u',r#. 1r!!st#,.!c-do M-!ntr#s

    9u! !. t-!'1o d! !(!cuc-&n d!1!nd! d! .o s! t#rd! !n !ncontr#r un# '-s'# so.uc-&n 7á.-d#

    co'n 1#r# tod#s .# -n-c-#.-"#c-on!s s-n d!1!nd!r d! n-n$n .2'-t! d! con7!r$!nc-# n-

    n'!ro 'á

  • 8/18/2019 Analisis Componentes Principales

    76/130

    CAPTULO : E5PERIMENTOS SPCA

    En 1r-'!r .u$#r s! !stud-#rán .os t-!'1os d! con7!r$!nc-# 1#r# c#d# un# d! .#s tr!s

    1r-'!r#s co'1on!nt!s 1r-nc-1#.!s d-s1!rs#s 4 !. t-!'1o tot#. !'1.!#do 1#r# c#d#

    -n-c-#.-"#c-&n

    In-c-#.-"#c-&nA 1#rt-rd!. PCA

    Todo / Todo # /+ Todo # 0 A.!#tor-o

    PC0 *)0+ 0)+JK 0)+0 0)++ 0)+/K

    PC* 0)++ 0)++ 0)+00 0)+J+ 0)J

    PCJ 0)J*J 0)+J0/ 0)00 0)+J* 0)*

    Tot#. +)JJJ )+/0 )K/ )++/ )***

    abla : iempo de coner4encia (en se4"ndos) empleado por el SPCA para Eallar cada "na de las tres primeras

    componentes principales dependiendo de la iniciali'ación de v .

    En .# T#,.# K s! 1u!d! o,s!r7#r co'o 1#r# .# 1r-'!r# co'1on!nt! d-s1!rs# .#

    -n-c-#.-"#c-&n 6-(# 9u! 1ro7oc# un t-!'1o d! !(!cuc-&n '!nor !s .# -n-c-#.-"#c-&n con tod#s

    .#s 7#r-#,.!s # c!ro Es .&$-co 1u!s s!-s d! .#s d-!" 7#r-#,.!s s! #c!n c!ro L# s!$und#

    -n-c-#.-"#c-&n con .# 9u! '!nos t-!'1o !'1.!# .# !(!cuc-&n !s con tod#s .#s co'1on!nt!s #

    /i+ 4# 9u! .#s cu#tro 7#r-#,.!s 9u! no son nu.#s #d9u-!r!n d-co 7#.or L# -n-c-#.-"#c-&n

    us#ndo !. PCA no d# ,u!nos r!su.t#dos d!,-do # .# $r#n d-6!r!nc-# !ntr! .os r!su.t#dos d!.

    PCA 4 d!. SPCA L#s -n-c-#.-"#c-on!s #.!#tor-#s o6r!c!n un# #'1.-# $#'# d! r!su.t#dos 1!ro

    9u! !n tér'-no '!d-o su t-!'1o !s -n6!r-or #. r!sto d! -n-c-#.-"#c-on!s D!1!nd!rá d! .#

    1ro

  • 8/18/2019 Analisis Componentes Principales

    77/130

    0 SIMULACI8N CON DATOS ARTIFICIALES

    !. o,t!n-do !n !. #1#rt#do #nt!r-or) 4 9u! s! 'u!str# !n .# T#,.# ) 1or .o 9u! s! ut-.-"#n .os

    '-s'os 1#rá'!tros >-t!r#c-on!s '2n-'#s 4 'á

  • 8/18/2019 Analisis Componentes Principales

    78/130

    CAPTULO : E5PERIMENTOS SPCA

    t-!'1os d! .#s -n-c-#.-"#c-on!s tr-7-#.!s co'o 1#r# !. t-!'1o d! con7!r$!nc-# Aor# !.

    t-!'1o 1ro'!d-o o,t!n-do d! .#s -n-c-#.-"#c-on!s #.!#tor-#s no !s !. -n6!r-or !n n-n$un# d!

    .#s co'1on!nt!s 1r-nc-1#.!s

    F-n#.'!nt!) r!s1!cto # .os t-!'1os tot#.!s d! !(!cuc-&n 7!'os 9u! todos !stán 'u4

    1r&

  • 8/18/2019 Analisis Componentes Principales

    79/130

    * SIMULACI8N EN PROBLEMAS CON MÁS VARIABLES WUE OBSERVACIONES

    SPCA D!6.#ct#do SPCA !n B.o9u!

    PC0 PC* PCJ PC0 PC* PCJ

    50 /)/ /)+ /)/ /)/ /)+ /)/K

    5* /)/ /)+ /)/ /)/ /)+ /)/K

    5J /)/ /)+ /)/ /)/ /)+ /)/K

    5 /)/ /)+ /)/ /)/ /)+ /)/K

    5+ /)+ /)/ /)/ /)+ /)/ /)J

    5 /)+ /)/ /)/ /)+ /)/ /)J

    5 /)+ /)/ /)/ /)+ /)/ /)J

    5K /)+ /)/ /)/ /)+ /)/ /)J

    5 /)/ /)/ /)/ /)/ /)/ /)K

    50/ /)/ /)/ /)/ /)/ /)/ /)K

    V#r-#n"# A(ust#d# >l /J+ JJJ */J0 K)K )0 J)K

    T#$ 11! Comparación entre las PC del SPCA He!lactado y del SPCA en blo"e

    En .# T#,.# s! 1u!d! o,s!r7#r co'o .os 7!ctor!s d! 1ro4!cc-&n d!. SPCA d!6.#ct#do

    son c.#r#'!nt! orto$on#.!s '-!ntr#s 9u! .#s co'1on!nt!s d!. SPCA !n ,.o9u! no .o son !n

    su tot#.-d#d E. t!rc!r 7!ctor d! 1ro4!cc-&n d-s1!rs# d! .# 7!rs-&n !n ,.o9u! !s !. 9u! ro'1!

    .# orto$on#.-d#d P#r# !st! !(!'1.o no t!ndr2# !V0 4 V* S-n !',#r$o) 1#r# otros 1ro,.!'#s dond! s! r!9u-!r#n .#

    ut-.-"#c-&n d! un '#4or n'!ro d! co'1on!nt!s 1r-nc-1#.!s d-s1!rs#s s- 9u! s!r2# d! $r#n

    #4ud# ut-.-"#r !. SPCA d!6.#ct#do !n .u$#r d!. SPCA !n ,.o9u!

     0.' imulación en problemas con m"s

    variables #ue observaciones

    En !st! #1#rt#do s! 7# # !stud-#r !. 6unc-on#'-!nto d!. #.$or-t'o SPCA cu#ndo .os

    d#tos 1os!!n un n'!ro 'uco '#4or d! 7#r-#,.!s 9u! d! o,s!r7#c-on!s P#r# d#tos con

    !st! 1ro,.!'# !ntr# !n (u!$o !. 1#rá'!tro  *) #. 9u! s! .! #s-$n#rá un 7#.or 1os-t-7o D! !st#

    6or'#) s! 1u!d! !stud-#r !. con(unto co'1.!to d! 7#r-#,.!s !n 7!" d! so.o un n'!ro

  • 8/18/2019 Analisis Componentes Principales

    80/130

    CAPTULO : E5PERIMENTOS SPCA

    no nu.#s !n .os nu!7os 7!ctor!s d! 1ro4!cc-&n con co!6-c-!nt!s d-s1!rsos

    En !st# s-'u.#c-&n con d#tos #rt-6-c-#.!s s! # 1.#nt!#do un !sc!n#r-o s-'-.#r #. d!.

    #1#rt#do 0 P!ro # d-6!r!nc-# d! ést! s! 9u-!r! co'1ro,#r s- !. #.$or-t'o SPCA 1u!d!

    6unc-on#r con un '!nor n'!ro d! o,s!r7#c-on!s 9u! d! 7#r-#,.!s S! ,usc#rá !. corr!cto

    6unc-on#'-!nto d!. SPCA #. !'1.!#r un 'á

  • 8/18/2019 Analisis Componentes Principales

    81/130

    * SIMULACI8N EN PROBLEMAS CON MÁS VARIABLES WUE OBSERVACIONES

    So.#'!nt! s! 7!r-6-c#rá !. co'1ort#'-!nto d! .#s dos 1r-'!r#s co'1on!nt!s d-s1!rs#s

    1or9u! !n .# t!rc!r# co'1on!nt! !. !stud-o s!r2# !. '-s'o) 1or .o t#nto r!1!t-t-7o 4 no

    #1ort#r2# nu!7# -n6or'#c-&n E. r!sto d! co'1on!nt!s no s! #n#.-"#rán d!,-do # 9u! 4# no

    cont!ndrán -n6or'#c-&n -'1ort#nt!) #. !st#r !stá cont!n-d# !n .#s tr!s 1r-'!r#s

    co'1on!nt!s #soc-#d#s con .os tr!s 6#ctor!s ocu.tos -nd!1!nd-!nt!s

    S! 7# # co'!n"#r !. #ná.-s-s 1ro,#ndo co'o !7o.uc-on#n .#s dos 1r-'!r#s

    co'1on!nt!s d-s1!rs#s cu#ndo  * !s nu.# Es d!c-r) s! us#rá n-c#'!nt! .# r!$u.#r-"#c-&n 5$

    lasso 1or .o 9u! !

  • 8/18/2019 Analisis Componentes Principales

    82/130

    CAPTULO : E5PERIMENTOS SPCA

    7#.or #u'!nt# s! r!duc!n su#7!'!nt! !. n'!ro d! 7#r-#,.!s no nu.#s

    En .# F-$ur# ** s! 1u!d! co'1ro,#r co'o 1#r# !. c#so d! +// o,s!r7#c-on!s s-

    !stud-#'os .os 7#.or!s d! tod#s .#s c#r$#s d! .# 1r-'!r# co'1on!nt! 1r-nc-1#. d-s1!rs#

    1#r# !. 7#.or #d!cu#do d!  0 !n !. 9u! s! o,t-!n!n 0// co!6-c-!nt!s no nu.os Est#s c#r$#s no

    nu.#s co-nc-d!n con .os co!6-c-!nt!s #soc-#dos #. 6#ctor ocu.to con '#4or 7#r-#n"#) !n !st!

    c#so VJ

    S-n !',#r$o) cu#ndo s! us#n so.#'!nt! *+/ o,s!r7#c-on!s) un n'!ro '!nor 9u! !.

    d! 7#r-#,.!s !n c#d# o,s!r7#c-&n) .#s c#r$#s ut-.-"#d#s 1or !. #.$or-t'o s! r!duc!n

    ,rusc#'!nt! #. #u'!nt#r  0 Esto ocurr! !n torno #. 7#.or d!  0 d! 0/+) dond! !. #.$or-t'o

    !'1.!# *+/ c#r$#s Est! n'!ro d! c#r$#s no nu.#s s! '#nt-!n! #st# !. 7#.or d!  0 d! 0/*

    cu#ndo 1ros-$u! .# r!ducc-&n d! c#r$#s no nu.#s #. -$u#. 9u! ocurr! !n .os c#sos d! 0/// 4+// o,s!r7#c-on!s

    Por .o t#nto) s! 1u!d! !st#,.!c!r 9u! !

  • 8/18/2019 Analisis Componentes Principales

    83/130

    * SIMULACI8N EN PROBLEMAS CON MÁS VARIABLES WUE OBSERVACIONES

    S! !ncu!ntr# un co'1ort#'-!nto s-'-.#r #. d!. c#so d! *+/ o,s!r7#c-on!s !n .os c#sos

    d! 0//) +/ 4 *+ o,s!r7#c-on!s En .# F-$ur# *J s! #n d-,u(#do .#s !7o.uc-on!s d! !stos

    c#sos !n .os 9u! t#',-én !

  • 8/18/2019 Analisis Componentes Principales

    84/130

    CAPTULO : E5PERIMENTOS SPCA

    c#r$#s no nu.#s d!sc-!nd! su#7!'!nt! # '!d-d# 9u! #u'!nt#  0 M-!ntr#s 9u! 1#r# .os

    c#sos !n .os 9u! s! tr#,#(# con un '!nor n'!ro d! o,s!r7#c-on!s 9u! d! 7#r-#,.!s !

  • 8/18/2019 Analisis Componentes Principales

    85/130

    * SIMULACI8N EN PROBLEMAS CON MÁS VARIABLES WUE OBSERVACIONES

    A cont-nu#c-&n s! r!1!t-rá !. !

  • 8/18/2019 Analisis Componentes Principales

    86/130

    CAPTULO : E5PERIMENTOS SPCA

    En .# F-$ur# * s! 'u!str# .# !7o.uc-&n d!. n'!ro d! c#r$#s no nu.#s cu#ndo

    !'1.!#'os so.o +/ o,s!r7#c-on!s P#r# todos .os 7#.or!s d!  * ut-.-"#dos 1od!'os 7!r co'o

    !. #.$or-t'o !s c#1#" d! s!.!cc-on#r tod#s .#s 7#r-#,.!s s-n !

  • 8/18/2019 Analisis Componentes Principales

    87/130

    * SIMULACI8N EN PROBLEMAS CON MÁS VARIABLES WUE OBSERVACIONES

    7#.or!s d! .#s c#r$#s cu#ndo t!n!'os !n torno # 0// c#r$#s no nu.#s

    S! 1u!d! o,s!r7#r !. /l d! .#s c#r$#s no nu.#s 1!rt!n!c!n # .# 6r#n(# !ntr! */0 4 J//)

    .o 9u! s-$n-6-c# 9u! !stán #soc-#d#s #. 6#ctor ocu.to V J Los !rror!s 9u! s! 7!n !stán

    d!t!r'-n#dos 1or !. ru-do o .# c!rc#n2# !n .# 7#r-#n"# d! .os 6#ctor!s ocu.tos ;#4 9u! t!n!r

    !n cu!nt# 9u! 1#r# !st! c#so ut-.-"#'os 'u4 1oc#s o,s!r7#c-on!s 1or .o 9u! t!n!'os 'u4

    1ocos d#tos 1or 7#r-#,.! 1ro7oc#ndo 9u! s!# 'ás 6ác-. con6und-r .os 6#ctor!s 4 no

    s!.!cc-on#r !. corr!cto

    Co'o 1#r#  * nu.#) t#',-én s! # co'1ro,#do !. 6unc-on#'-!nto 1#r# .# s!$und#

    co'1on!nt! d-s1!rs# 4 d! !st# 6or'# #s!$ur#rnos 9u! .os r!su.t#dos o,t!n-dos 1#r# .#

    1r-'!r# co'1on!nt! no son c#su#.!s

    En .# F-$ur# * !stán d-,u(#d#s .#s cur7#s con .# !7o.uc-&n d! .#s c#r$#s no nu.#s s!$n#u'!nt#  0 1#r#  * -$u#. # /0) 0) 0/) 0// 4 0/// S! 1u!d! 7!r-6-c#r 9u! !. co'1ort#'-!nto

    K

    Figura '1: E7o.uc-&n d!. n'!ro d! c#r$#s no nu.#s d! SPC* 1#r# d-6!r!nt!s 0 4 * ut-.-"#ndo +/o,s!r7#c-on!s

    10,7

    10,6

    10,5

    10,4

    10,3

    10,2

    10,1

    100

    101

    0

    500

    Componente Principal 2. 2- 0.1 / '- 50

    1

       a   r   i   a

       l   e   s

       o

          l   a   s

    10,7

    10,6

    10,5

    10,4

    10,3

    10,2

    10,1

    100

    101

    0

    500

    Componente Principal 2. 2- 1 / '- 50

    1

       a   r   i   a

       l   e   s

       o

          l   a   s

    10,7

    10,6

    10,5

    10,4

    10,3

    10,2

    10,1

    100

    101

    0

    500

    Componente Principal 2. 2- 10 / '- 50

    1

       a   r   i   a

       l   e   s

       o

          l   a   s

    10

    ,7

    10

    ,6

    10

    ,5

    10

    ,4

    10

    ,3

    10

    ,2

    10

    ,1

    10

    0

    10

    10

    500

    Componente Principal 2. 2- 100 / '- 50

    1

       a   r   i   a

       l   e   s

       o

          l   a   s

    10,7

    10,6

    10,5

    10,4

    10,3

    10,2

    10,1

    100

    101

    0

    500

    Componente Principal 2. 2- 1000 / '- 50

    1

       a   r   i   a

       l   e   s

       o

          l   a   s

       C

      a  (  a  s  n  o  n     l  a  s

       C  a  (  a  s  n  o  n     l  a  s

       C  a  (  a  s  n  o  n     l  a  s

       C  a  (  a  s  n  o  n     l  a  s

       C  a  (  a  s  n  o  n     l  a  s

  • 8/18/2019 Analisis Componentes Principales

    88/130

    CAPTULO : E5PERIMENTOS SPCA

    d! !st#s cur7#s !s s-'-.#r #. 9u! s-$u!n .#s cur7#s d! SPC0 r!1r!s!nt#d#s !n .# F-$ur# * L#

    d-6!r!nc-# 'ás not#,.! !s 9u!) !

  • 8/18/2019 Analisis Componentes Principales

    89/130

    J SIMULACI8N CON BASES DE DATOS REALES

     0.( imulación con bases de datos reales;#st# #or# s! #n 1r!s!nt#do dos !(!'1.os d! s-'u.#c-on!s con d#tos #rt-6-c-#.!s

    cr!#dos !s1!c26-c#'!nt! 1#r# co'1ro,#r !. 6unc-on#'-!nto d!. SPCA d! d-st-ntos 1untos d!

    7-st# En !st# .t-'# s-'u.#c-&n d! !st! c#12tu.o s! 7# # co'1ro,#r !. co'1ort#'-!nto d!.

    SPCA #. s!r !'1.!#do so,r! cu#tro ,#s!s d! d#tos r!#.!s

    P#r# #n#.-"#r .#s 7!nt#(#s) o -ncon7!n-!nt!s) d! su #1.-c#c-&n !n un !ntorno r!#.) s!

    -nc.u-rá !n !. !stud-o un# !t#1# 1ost!r-or d! c.#s-6-c#c-&n 4 s! #n#.-"#rá !. !rror 6-n#. d!.c.#s-6-c#dor cu#ndo s! us#n co'o !ntr#d# .#s 1ro4!cc-on!s 1ro1orc-on#d#s 1or !. SPCA

    P#r# conoc!r .# c#.-d#d d!. SPCA s! co'1#r#rán sus r!su.t#dos con .os PCA or-$-n#.

    T#',-én s! cont!'1.#rá !. c#so d!. c.#s-6-c#dor s-n n-n$un# !t#1# d! 1r!1roc!s#do

     P#r# co'1#r#r .os d-st-ntos 'étodos s! # ut-.-"#do un c.#s-6-c#dor .-n!#. ,#s#do !n

    'á9u-n#s d! 7!ctor!s d! so1ort! S! us#rá !s1!c26-c#'!nt! !. c.#s-6-c#dor SVM d!6-n-do !n

    .# .-,r!r2# LIBSVM cr!#d# 1or C-Cun$ C#n$ #nd C-!n L-n Q+

    L#s ,#s!s d! d#tos ut-.-"#d#s 1!rt!n!c!n #. r!1os-tor-o UCI 4 son: O1t-c#. r!co$n-t-on o6#ndr-tt!n d-$-ts >#nd) D!r'#to.o$4 >-on) St#t.o$ m L#nds#t S#t!..-t! >.#ndst#t 4

    G#7!6or' D#t#,#s! %!n!r#tor >#7! Tod#s !st#s ,#s!s d! d#tos cont-!n!n d#tos r!#.!s

    9u! 1u!d! s!r c.#s-6-c#dos !n dos $ru1os

    Con !. o,(!t-7o d! s!.!cc-on#r .os 7#.or!s d! .os 1#rá'!tros 'ás #d!cu#dos t#nto d!.

    #.$or-t'o SPCA >0 co'o d!. c.#s-6-c#dor >C s! # !'1.!#do un# 7#.-d#c-&n cru"#d# d! +

    -t!r#c-on!s E. 1#rá'!tro C d!. c.#s-6-c#dor SVM 1ond!r# .# su#7-d#d d! .# so.uc-&n con !.

    n'!ro d! !rror!s 1!r'-t-dos

    A cont-nu#c-&n s! 'u!str#n .#s $rá6-c#s d! .# !7o.uc-&n d!. !rror d! c.#s-6-c#c-&n

    d!1!nd-!ndo d!. n'!ro d! co'1on!nt!s 1r-nc-1#.!s ut-.-"#d#s P#r# todos .os con(untos

    d! d#tos s! #n !stud-#do .#s 1r-'!r#s d-!" co'1on!nt!s 1r-nc-1#.!s) #. cont!n!r !st#s 'ás

    d!. l d! .# 7#r-#n"# d! .os d#tos d! !ntr#d#

    K

  • 8/18/2019 Analisis Componentes Principales

    90/130

    CAPTULO : E5PERIMENTOS SPCA

    /

    1 2 3 4 5 6 7 8 9 100

    0.2

    0.4

    0.6

    0.8

    1

    1.2

    1.4

    1.6

    1.8

    2

       *  r  r  o  r

    PC

    . - .

    1 2 3 4 5 6 7 8 9 100

    10

    20

    30

    40

    50

    60

    70

    80

    90

    100

       5   c

      o  e   " .  n  o  n     l  o  s

    1 2 3 4 5 6 7 8 9 100

    0.5

    1

    1.5

    2

    2.5

    3

    PC

       *  r  r  o  r

    . - .

    *rror '+

    *rror PCA

    *rror 'PCA

    1 2 3 4 5 6 7 8 9 100

    0.2

    0.4

    0.6

    0.8

    1

    1.2

    1.4

    1.6

    1.8

    2

       *  r  r  o  r

    PC

    - .

    1 2 3 4 5 6 7 8 9 100

    10

    20

    30

    40

    50

    60

    70

    80

    90

    100

       5   c

      o  e   " .  n  o  n     l  o  s

    7on a8 7on b8

    9an!sat a8 9an!sat b8

    1 2 3 4 5 6 7 8 9 100.2

    0.4

    0.6

    0.8

    1

    1.2

    1.4

    1.6

    1.8

    PC

       *  r  r  o  r

    . - .

    *rror '+

    *rror PCA

    *rror 'PCA

    1 2 3 4 5 6 7 8 9 100

    0.2

    0.4

    0.6

    0.8

    1

    1.2

    1.4

    1.6

    1.8

    2

       P   *   +

    PC

    . - .

    1 2 3 4 5 6 7 8 9 100

    10

    20

    30

    40

    50

    60

    70

    80

    90

    100

       5   c

      o  e   " .  n  o  n     l  o  s

    Figura '(: E7o.uc-&n d! c.#s-6-c#c-&n s!$n !. n'!ro d! co'1on!nt!s 1r-nc-1#.!s ut-.-"#d#s 1#r# !. SPCA) PCA 4us#ndo n-c#'!nt! !. c.#s-6-c#dor SVM) $rá6-c#s # Error d! c.#s-6-c#c-&n 4 1orc!nt#(! d! c#r$#s no nu.#s !n .#s

    co'1on!nt!s 1r-nc-1#.!s s!$n !. n'!ro d! co'1on!nt!s 1r-nc-1#.!s d!. SPCA) $rá6-c#s ,

    1 2 3 4 5 6 7 8 9 100.8

    1

    1.2

    1.4

    1.6

    1.8

    2

    PC

       *  r  r  o  r

    - .

    *rror '+

    *rror PCA

    *rror 'PCA

    1 2 3 4 5 6 7 8 9 100

    0.2

    0.4

    0.6

    0.8

    1

    1.2

    1.4

    1.6

    1.8

    2

       *  r  r  o  r

    PC

    . - .

    1 2 3 4 5 6 7 8 9 100

    10

    20

    30

    40

    50

    60

    70

    80

    90

    100

       5   c

      o  e   " .  n  o  n     l  o  s

  • 8/18/2019 Analisis Componentes Principales

    91/130

    J SIMULACI8N CON BASES DE DATOS REALES

    L# 1r-'!r# conc.us-&n 9u! s! 1u!d! !

  • 8/18/2019 Analisis Componentes Principales

    92/130

    CAPTULO : E5PERIMENTOS SPCA

    ut-.-"#n un n'!ro !s1!c26-co d! co'1on!nt!s 1r-nc-1#.!s !n .# !t#1# d! 1r!1roc!s#do 1#r#

    c#d# c#so) s! o,t-!n! un !rror 'u4 c!rc#no #. d!. c.#s-6-c#dor d-r!cto us#ndo un !s1#c-o d!

    d#tos 'u4 r!duc-do co'1#r#do con !. !s1#c-o -n-c-#. d! d#tos

    Es !7-d!nt! 9u! 1#r# con(untos d! d#tos con 1oc#s 7#r-#,.!s -ntroduc-r un# !t#1# d!

    1r!1roc!s#do d! !st! t-1o no !s !6-c-!nt!) 1!ro !n .# #ctu#.-d#d .#s ,#s!s d! d#tos su!.!n

    cont#r con un n'!ro 'u4 !.!7#do d! d-'!ns-on!s .o 9u! #c! 9u! .# -ntroducc-&n d!

    !t#1#s co'o !. PCA o SPCA no so.o son t-.!s s-no n!c!s#r-#s %r#c-#s #. !'1.!o d! '!nos

    d-'!ns-on!s d! !ntr#d#) !st#s !t#1#s d! 1r!1roc!s#do 6#c-.-t#n !. !ntr!n#'-!nto d!.

    c.#s-6-c#dor #. r!duc-r su cost! d! !ntr!n#'-!nto Ad!'ás s- !n !. á',-to d! .# ,#s! d! d#tos

    !s n!c!s#r-o -nt!r1r!t#r .#s 7#r-#,.!s !n !. r!sto d!. s-st!'#) con !. uso d!. SPCA s! o,t-!n!un# r!ducc-&n cons-d!r#,.! d! .#s d-'!ns-on!s '-!ntr#s s! conoc! 9u! 7#r-#,.!s or-$-n#.!s

    -nt!r7-!n!n !n c#d# co'1on!nt! 1r-nc-1#.

    *

  • 8/18/2019 Analisis Componentes Principales

    93/130

    J SIMULACI8N CON BASES DE DATOS REALES

    J

  • 8/18/2019 Analisis Componentes Principales

    94/130

    Capítulo /&perimentos

  • 8/18/2019 Analisis Componentes Principales

    95/130

    +0 SIMULACI8N CON DATOS BIDIMENSIONALES

     .1 imulación en un e!emplo sint%tico

    bidimensionalEst! 1r-'!r !

  • 8/18/2019 Analisis Componentes Principales

    96/130

    CAPTULO +: E5PERIMENTOS  PCA

    A cont-nu#c-&n s! 'u!str# .# F-$ur# * dond! s! #n r!1r!s!nt#dos .os d#tos s-n ru-do

    (unto con .#s dos co'1on!nt!s 1r-nc-1#.!s d! c#d# 'étodo Los 7#.or!s d! .os 1#rá'!tros

    s!.!cc-on#dos 1#r# ..!7#r # c#,o !. PCA son C -$u#. # 0 4 # 0 Co'o s! 7!rá !n .# s!$und#

    1#rt! d! !st! !i!o

    PC2 PCA 'in >i!o

  • 8/18/2019 Analisis Componentes Principales

    97/130

    +0 SIMULACI8N CON DATOS BIDIMENSIONALES

    PCA EPCA

    PC0 PC* PC0 PC*

    50  /**K0 /J /* /+

    5* /J /**K0 /+ /*

    V#r-#n"# >l K+K 0JJ0 K*K+ 0J0

    D-6!r!nc-# Cos!no 0 0 /K /K

    T#$ 1"! 9es"ltados del PCA y del 6-PCA para datos sin r"ido. Se m"estran las car4as y la arian'a de cadacomponente, así como la desiación respecto de la dirección de máxima arian'a.

    En .# F-$ur# *+ !stán .#s co'1on!nt!s 1r-nc-1#.!s cu#ndo s! -ntroduc! ru-do -'1u.s-7o

    so,r! .# s!$und# 7#r-#,.! Est! ru-do t-!n! .# '-s'# 1ot!nc-# 9u! .# 7#r-#,.! 5 * Ad!'ás s!

    'u!str#n t#',-én .#s co'1on!nt!s PCA cu#ndo no #4 ru-do 1#r# no 1!rd!r .# r!6!r!nc-#

    d! cu#. !s !. o,(!t-7o Est! o,(!t-7o no s!rá otro 9u! .#s co'1on!nt!s EPCA cu#ndo #..#

    ru-do s! d!s72!n 'u4 1oco d! .#s d-r!cc-on!s d! 'ál K0/K 0K0 JK+ J/0

    D-6!r!nc-# Cos!no /K /K /+ /+

    T#$ 1! 9es"ltados del PCA y del 6-PCA para datos con r"ido imp"lsio. Se m"estran las car4as y la arian'a de

    cada componente, así como la desiación respecto de la dirección de máxima arian'a.

    En !. s!$undo !

  • 8/18/2019 Analisis Componentes Principales

    98/130

    CAPTULO +: E5PERIMENTOS  PCA

    !s1!c26-cos T#',-én s! 'ostr#rán .#s co'1on!nt!s 1r-nc-1#.!s d!. PCA s-n ru-do -'1u.s-7o

    1#r# 1od!r 7!r !. r!su.t#do &1t-'o 9u! s! 1r!t!nd! #.c#n"#r

    En 1r-'!r .u$#r s! !'1.!#rá ru-do -'1u.s-7o con .# '-s'# 1ot!nc-# 9u! 5 * L#s $rá6-c#s

    r!su.t#nt!s 1#r# .os 7#.or!s d!. cost! >C 4 s! !ncu!ntr#n !n .# F-$ur# *

    En .# T#,.# 0 s! 'u!str#n .os r!su.t#dos nu'ér-cos d! .# d!s7-#c-&n S! 1u!d!

    co'1ro,#r) t#nto !n .# F-$ur# * co'o !n .# T#,.# 0) 9u! 1#r# !st! c#so !. 1#rá'!tro 'ás

    -n6.u4!nt! !s 1or9u! 1#r# 7#.or!s -n6!r-or!s # /i//0 !. PCA !ncu!ntr# co'1on!nt!s 9u!

    t-!n!n d-r!cc-&n &1t-'# P#r# un 7#.or d! -$u#. # 0 .os r!su.t#dos no son .os &1t-'os Esto

    !s d!,-do # 9u! t-!n! un 'u4 #.to 4 1!r'-t! 9u! s! to.!r!n !rror!s d! #st# un 7#.or

    #,so.uto d! 0 S-n !',#r$o) 1#r# .os cost!s d! 0/ 4 0//) 4 !. r!sto d! 7#.or!s d! ) .#

    d!s7-#c-&n !s '!nor 9u! .# d! .#s co'1on!nt!s d!. PCA >T#,.# 0 En cu#nto .os !rror!s

    1!n#.-"#n) !. 1ro,.!'# d! o1t-'-"#c-&n t-!n! !n cu!nt# .os !rror!s 4 !'1-!"# # r!co.oc#rs!

    Co'o !. ru-do !s -'1u.s-7o 4 !. cost! !s .-n!#. con .os !rror!s) !s#s so.uc-on!s t-!nd!n # .#

    &1t-'#

    K

    Figura '2: %rá6-c#s d! .#s co'1on!nt!s 1r-nc-1#.!s d! PCA 4 PCA 1#r# d#tos con ru-do -'1u.s-7o con 1ot!nc-#-$u#. # .# d! 5*

  • 8/18/2019 Analisis Componentes Principales

    99/130

    +0 SIMULACI8N CON DATOS BIDIMENSIONALES

    C PC0 PC* PC0 PC* PC0 PC*

    ( 0 0)//E//J 0)//E//

    0 /0K /0K 0 0 0 0

    0/ / / 0 0 0 0

    0// /+ /+ 0 0 0 0

    T#$ 14! Hesiación de 6PC$ y 6PC# con r"ido imp"lsio con potencia i4"al a @  # , respecto de PC$ y PC# sin r"ido.

    Est! co'1ort#'-!nto s! 1u!d! #n#.-"#r '!(or cu#ndo s! #u'!nt# .# 1ot!nc-# d! ru-do

    -'1u.s-7o A cont-nu#c-&n s! ut-.-"#rá ru-do -'1u.s-7o con !. do,.! d! 1ot!nc-# 9u! .os d#tos

    !n 5*

    A. o,s!r7#r .# F-$ur# * s! co'1ru!,# 9u! un ru-do -'1u.s-7o con !. do,.! d! 1ot!nc-#

    9u! 5* t-!n! un '#4or -n6.u!nc-# !n !. co'1ort#'-!nto d!. PCA 9u! !n !. c#so #nt!r-or

    Aor# !. 1#rá'!tro con 'ás 1!so !n !. co'1ort#'-!nto d! .# d-r!cc-&n d! .#s co'1on!nt!s

    d!. PCA !s C P#r# .#s s-'u.#c-on!s con un# C d! 0// .#s co'1on!nt!s PCA t-!n!n un#

    d!s7-#c-&n r!s1!cto d! .# so.uc-&n &1t-'# c.#r#'!nt! '!nor 9u! .#s co'1on!nt!s d!. PCA

    E. PCA !s c#1#" d! 1ro1orc-on#r .# so.uc-&n s-'-.#r # .# &1t-'# >#9u!..# 9u! co-nc-d!

    con !. c#so s-n ru-do) 1!ro 1#r# !..os !s n!c!s#r-o #(ust#r #d!cu#d#'!nt! .os 7#.or!s d! 4

    Figura '3: %rá6-c#s d! .#s co'1on!nt!s 1r-nc-1#.!s d! PCA 4 PCA 1#r# d#tos con ru-do -'1u.s-7o con1ot!nc-# do,.! # .# d! 5*

  • 8/18/2019 Analisis Componentes Principales

    100/130

    CAPTULO +: E5PERIMENTOS  PCA

    C F-(#ndo un  su6-c-!nt!'!nt! ,#(o >///0 & 0!) s&.o #4 9u! 1r!ocu1#rs! 1or #(ust#r

    #d!cu#d#'!nt! C

    C PC0 PC* PC0 PC* PC0 PC*

    ( 0 0)//E//J 0)//E//

    0 /K*K /K*K /K** /K** /K** /K**

    0/ //+ //+ /0 /0 /0 /0

    0// /+0 /+0 /+ /+ /+ /+

    T#$ 1(! Hesiación de 6 PC$ y 6 PC# con r"ido imp"lsio con potencia doble "e @  # , respecto de PC$ y PC# sinr"ido para r"ido.

    En .# T#,.#r 0+ s! 7! co'o C 1ro1orc-on# .os '#4or!s c#',-os d! d-r!cc-&n) '-!ntr#s

    9u! s-r7! 1#r# #6-n#r .os r!su.t#dos Aun9u! 1#r# .os 7#.or!s d! -$u#.!s # 0/ J 4 0/ no

    #4 d-6!r!nc-#s Esto !s d!,-do # 9u! .# '#4or2# d! .#s d!s7-#c-on!s d! .os d#tos son

    '#4or!s 9u! !stos 7#.or!s d! 4 s!rán contro.#d#s 1or !. PCA # tr#7és d! cost!

    T#',-én s! 1u!d! s#c#r d! .# T#,.#r 0+ 9u! .#s '!nor!s d!s7-#c-on!s s! .o$r#n 1#r#

    un# C d! 0// 4 d! 0/J o 0/ M-!ntr#s 9u! s! #.c#n"#n '!(or!s r!su.t#dos 9u! !n !. PCA

    cu#ndo s! !'1.!# C -$u#. # 0// o 1#r# C -$u#. # 0/ 4 con un 7#.or d! 0/ J o 0/

    P#r# t!r'-n#r d! #6-#n"#r !stos r!su.t#dos s! 7# # r!#.-"#r un# .t-'# s!r-! d!

    s-'u.#c-on!s #u'!nt#ndo !. ru-do -'1u.s-7o #st# cu#tro 7!c!s .# 1ot!nc-# d! .# 7#r-#,.! 5*

    En .# F-$ur# *K 4 !n .# T#,.# 0 s! 1r!s!nt#n .os r!su.t#dos d! !st#s s-'u.#c-on!s

    Co'o 1#r# !. c#so d!. ru-do -'1u.s-7o con !. do,.! d! .# 1ot!nc-#) !. 1#rá'!tro 'ás

    cr2t-co !s C D! nu!7o !.-$-!ndo su6-c-!nt!'!nt! ,#(o 4 #(ust#ndo con7!n-!nt!'!nt! C >!n

    !st! c#so !n torno # 0// s! #.c#n"# .# so.uc-&n &1t-'# con un# d!s7-#c-&n '!nor 9u! .#s

    co'1on!nt!s d!. PCA

    E. 1#rá'!tro t-!n!n 1oc# -n6.u!nc-# !n .os c#',-os d! .# d!s7-#c-&n 1or .o 9u! !s 'u4

    6ác-. d! #(ust#r Esto !s d!,-do # .# n#tur#.!"# -ntr2ns!c# d!. 1ro,.!'# 1r!s!nt#do #. !st#r

    d-s!3#do d! t#. 6or'# 9u! 1#r# 7#.or!s 1!9u!3os d! .# d!s7-#c-&n d! .os d#tos s!#

    '#n!(#d# 1or !. 1#rá'!tro C S! 1u!d! 7!r c.#r#'!nt! !st! !6!cto !n .# T#,.# 0 #.

    cons!$u-r '!nor!s c#',-os !n .# d!s7-#c-&n cu#nto 'ás $r#nd! !s C

    0//

  • 8/18/2019 Analisis Componentes Principales

    101/130

    +0 SIMULACI8N CON DATOS BIDIMENSIONALES

    C PC0 PC* PC0 PC* PC0 PC*

    ( 0 0)//E//J 0)//E//

    0 /J/ /J/ /J+ /J+ /J+ /J+

    0/ / / / / / /

    0// / / /K /K /K /K

    Tabla 16: &esviaci+n de 6  PC( $ 6  PC) con ruido impu!sivo con potencia cudrup!e a X ) , respecto de PC( $ PC) sinruido-

    En .# T#,.# 0 s! !ncu!ntr#n .#s d!s7-#c-on!s r!s1!cto d!. r!su.t#do &1t-'o d! .#s

    co'1on!nt!s 1r-nc-1#.!s d!. PCA s!$n !. ru-do -'1u.s-7o ut-.-"#do S- s! co'1#r#n !stos

    r!su.t#dos con .os o6r!c-dos !n .#s T#,.#s 0) 0+ 4 0 s! 1u!d! conc.u-r 9u! 1#r# todo .#s

    1ot!nc-#s d! ru-do us#d#s s! #n !ncontr#do r!su.t#dos '!(or!s !n !. PCA Ad!'ás #

    '!d-d# 9u! #u'!nt#,# !. ru-do -'1u.s-7o .# d-st#nc-# !ntr! .# '!nor d!s7-#c-&n .o$r#d#

    1or !. PCA 4 !. PCA #u'!nt#,# #c-!ndo 'ás 7#.-os#s .#s co'1on!nt!s PCA T#',-én

    #4 9u! d!c-r 9u! .# '2n-'# d!s7-#c-&n #.c#n"#d# 1or !. PCA 1#r# .os dos c#sos con 'ás

    ru-do !s s-'-.#r

    0/0

    Figura '4: %rá6-c#s d! .#s co'1on!nt!s 1r-nc-1#.!s d! PCA 4 PCA 1#r# d#tos con ru-do -'1u.s-7o con 1ot!nc-#cuádru1.! # .# d! 5*

  • 8/18/2019 Analisis Componentes Principales

    102/130

  • 8/18/2019 Analisis Componentes Principales

    103/130

    +* SIMULACI8N EN UN EEMPLO SINTXTICO TRIDIMENSIONAL

     .' imulación en un e!emplo sint%ticotridimensional

    Est! s!$undo !

  • 8/18/2019 Analisis Componentes Principales

    104/130

    CAPTULO +: E5PERIMENTOS  PCA

    T#nto !n !. PCA co'o !n !. PCA .# 1r-'!r# co'1on!nt! cont-!n! r!s1!ct-7#'!nt! un

    Kl 4 un l d! .# 7#r-#n"#) co'o s! 'u!str# !n .# T#,.# 0 L#s otr#s dos

    co'1on!nt!s 1os!!n un# c#nt-d#d d! -n6or'#c-&n d!s1r!c-#,.! 1or .o 9u! 1odr2#n s!r

    o,7-#d#s s-n 1!rd!r 1ráct-c#'!nt! -n6or'#c-&n Esto !s d!,-do # 9u! #un9u! !. 'od!.o

    t-!n! tr!s 7#r-#,.!s !st#s no son -nd!1!nd-!nt!s 4 d!1!nd!n d! un n-co 6#ctor ocu.to Esto

    s! 1u!d! co'1ro,#r #. o,s!r7#r 9u! !. 7#.or #,so.uto d! .#s 7#r-#,.!s !n .# 1r-'!r#

    co'1on!nt! concu!rd# con .#s const#nt!s 9u! !sc#.#n !. 6#ctor ocu.to 1#r# c#d# 7#r-#,.!

    En .# T#,.# 0/ s! 1u!d! 7!r t#',-én co'o .#s 7#r-#,.!s !n .# co'1on!nt! 1r-nc-1#. d!.

    PCA s! #1ro

  • 8/18/2019 Analisis Componentes Principales

    105/130

    +* SIMULACI8N EN UN EEMPLO SINTXTICO TRIDIMENSIONAL

    A cont-nu#c-&n s! .! #3#d! ru-do -'1u.s-7o # 5* 4 5J con un# 1ot!nc-# !9u-7#.!nt! # .#

    d! .o d#tos S! #n ut-.-"#do .os '-s'os 1#rá'!tros 1#r# PCA 9u! !n .# s-'u.#c-&n s-n

    ru-do En .# T#,.# */ 4 !n .# F-$ur# J/ s! 1r!s!nt#n .os r!su.t#dos

    PCA EPCA

    PC0 PC* PCJ PC0 PC* PCJ

    50 /0/ / /K0 /0K* //K /+5* /K* /KJ /00JK /K /J /0**

    5J /+J0 /KK/ /0J0 / /KK /0++

    V#r-#n"#>l K+K*K 0*J 0J K+ 0*0 0J0/

    D-6!r!nc-# Cos!no// //K //K+ /J / /K

    T#$ "*! 9es"ltados para datos con r"ido imp"lsio.

    A. #1.-c#r ru-do -'1u.s-7o !. co'1ort#'-!nto d!. PCA 4 d!. PCA !'1!or#n S-n

    !',#r$o) co'o !n !. #1#rt#do #nt!r-or !. PCA !s 'ás ro,usto # .# 1r!s!nc-# d!. ru-do

    -'1u.s-7o P#r# unos 1#rá'!tros 4 C s-n .os 7#.or!s &1t-'os !. PCA o6r!c! '!(or!s

    r!su.t#dos 9u! !. PCA En .# 1r-'!r# co'1on!nt! 1r-nc-1#. .# d!s7-#c-&n !s '!nor

    En .# s!$und# 1#rt! d! !st! !

  • 8/18/2019 Analisis Componentes Principales

    106/130

    CAPTULO +: E5PERIMENTOS  PCA

    En 1r-'!r .u$#r s! !'1.!#rá ru-do -'1u.s-7o so,r! .#s 7#r-#,.!s 5 *  4 5J  con 1ot!nc-#

    -$u#. # !stos d#tos) co'o !n .# 1r-'!r# 1#rt! d!. !

  • 8/18/2019 Analisis Componentes Principales

    107/130

    +* SIMULACI8N EN UN EEMPLO SINTXTICO TRIDIMENSIONAL

      En .# F-$ur# J* s! 'u!str#n .#s !7o.uc-on!s d! .# d-6!r!nc-# cos!no 1#r# un ru-do

    -'1u.s-7o d! do,.! 1ot!nc-# 9u! .os d#tos E. cost! 9u! o6r!c! '!(or!s r!su.t#dos !s 0// con

    un# d-6!r!nc-# cos!no d! /K 1#r# -$u#. 0 4 // 1#r# !. r!sto M-!ntr#s 9u! .#

    1r-'!r# co'1on!nt! d!. PCA t-!n! un# d-6!r!nc-# cos!no d! /+K

    F-n#.'!nt! s- !'1.!#'os un# 1ot!nc-# d! ru-do d! cu#tro 7!c!s .# 1ot!nc-# d! .os

    d#tos s! o,t-!n!n .#s !7o.uc-on!s d! .# d!s7-#c-&n d! .# 1r-'!r# co'1on!nt! d!. PCA

    'ostr#d#s !n .# F-$ur# JJ

    P#r# !st! .t-'o c#so d! ru-do -'1u.s-7o s! cons-$u!n .#s '!nor!s d!s7-#c-on!s 1#r#

    .os s-'u.#c-on!s con cost! 0/J  4 0/ 9u! 1ro1orc-on#n .# '-s'# d-6!r!nc-# cos!no d!

    /J0) const#nt! 1#r# todos .os 7#.or!s d! En !st! c#so .# d-6!r!nc-# cos!no d! .# 1r-'!r#co'1on!nt! PCA r!s1!cto d! .# so.uc-&n &1t-'# !s d! /0K

    ;#st# #or# cu#ndo s! # #3#d-do ru-do # s-do # tod#s .os d#tos d! 5 * 4 5J) 1or !s !n .#

    T#,.# *0 s! 'u!str# co'o !7o.uc-on# .# d!s7-#c-&n s!$n #u'!nt# !. 1orc!nt#(! d! d#tos

    #6!ct#dos 1or !. ru-do Co'o !n !. !

  • 8/18/2019 Analisis Componentes Principales

    108/130

    CAPTULO +: E5PERIMENTOS  PCA

    Porc!nt#(!d#tos con

    ru-do

    PCA PCA

    PC0 PC* PCJ PC0 PC* PCJ

    /l 0 0 0 0 /+*K /+*K

    *+l /+K+ /*0KK /K** /J++ /++J0 /K+

    +/l /0*J /K+ /K0 /0 /K0K+K /KJJ

    +l /+0*K /*J /K+ //JK //*JJ /+++0

    0//l /*// /+* /J++ /KK0J /J+ /*J

    Tabla 21: &esviaci+n de !as componentes principa!es de! PCA $ de! 6 /PCA seg0n e! porcentaje de datos con ruidoimpu!sivo con una potencia (11 veces superior a !a de !a se2a!-

    En !st! !

  • 8/18/2019 Analisis Componentes Principales

    109/130

    +J SIMULACI8N CON DATOS MULTIDIMENSIONALES

    Co'o s! o,s!r7# !n .# F-$ur# J 4 'u!str#n .os r!su.t#dos !n .# T#,.# ** !. PCA !s

    c#1#" d! o6r!c!r ,u!nos r!su.t#dos 1!ro #n #s2 d! 1!or c#.-d#d 9u! .os r!su.t#dos !. PCA

    En .# F-$ur# J s! 7! co'o 1#r# !. cost! 0// 4 !. cost! 0/// .# d!s7-#c-&n d! .# 1r-'!r#

    co'1on!nt! d!. PCA su6r! '2n-'#s 7#r-#c-on!s r!s1!cto # Por .o t#nto) co'o !n .#s

    s!cc-on!s #nt!r-or!s) 1#r# 7#.or!s d! 1!9u!3os !s n!c!s#r-o #(ust#r cu-d#dos#'!nt! C S-n

    !',#r$o) t#nto !n !. cost! 0 co'o !n !. cost! 0/ !

  • 8/18/2019 Analisis Componentes Principales

    110/130

    CAPTULO +: E5PERIMENTOS  PCA

    PCA EPCA

    PC0 PC* PC0 PC*

    50 /0/+ /+ /0JK/ /J+5* /0/+ / /0JK /J+

    5J /0/+ /+ /0JK0 /J

    5 /0/+ / /0J /J+

    5+ /JJK /0/K /+/ //0K

    5 /JJ /0/K /K //0K0

    5 /JJ /00/ /K //0K0

    5K /JJ /0/K / //0

    5 // //0 /*+* /++

    50/ //* //0J /*+/ /++V#r-#n"# >l /J/* JJK *0K* *K0/K

    D-6!r!nc-# Cos!no 0 0 // /

    T#$ ""! 9es"ltados c"ando no Eay r"ido imp"lsio para el PCA y 6-PCA empleando C i4"al a $7 y 6  a $.

    Aor# s! -ntroduc! ru-do -'1u.s-7o !n .os d#tos S! r!#.-"#rán dos s-'u.#c-on!s) .#

    1r-'!r# t!ndrá so.#'!nt! ru-do -'1u.s-7o !n .#s 7#r-#,.!s 5  4 5K M-!ntr#s 9u! .# s!$und#

    s-'u.#c-&n t!ndrá ru-do -'1u.s-7o !n tod#s .#s 7#r-#,.!s E. ru-do -'1u.s-7o -ntroduc-do

    t!ndrá un# 1ot!nc-# do,.! # .# 1ot!nc-# d! .#s 7#r-#,.!s # .#s 9u! s! .! #1.-9u! D!s1ués s!

    r!1!t-rán .#s s-'u.#c-on!s -ntroduc-!ndo ru-do -'1u.s-7o con 1ot!nc-# cuádru1.! # .# d! .osd#tos

    En .# F-$ur# J+ s! o,s!r7# co'o .# '!nor d!s7-#c-&n no #.c#n"# .os r!su.t#dos 1#r# !.

    00/

    Figura (: D!s7-#c-&n d! PC0 1#r# d-6!r!nt!s cost!s 4 7#.or!s d! ( cu#ndo s! -ntroduc! ru-do -'1u.s-7o !n 5

    4 5K d! 1ot!nc-# do,.! # .os d#tos

    10,6

    10,5

    10,4

    10,3

    10,2

    10,1

    100

    0.54

    0.56

    0.58

    0.6

    0.62

    0.64

    0.66

       @   D   i   "  e  r  e

      c   i  a   C  o  s  e  n  o   @

     

    C A 1C A 10

    C A 100

    C A 1000

  • 8/18/2019 Analisis Componentes Principales

    111/130

    +J SIMULACI8N CON DATOS MULTIDIMENSIONALES

    c#so s-n ru-do 4 #d!'ás !stá 'u4 1or d!,#(o L# '!nor d!s7-#c-&n s! #.c#n"# 1#r# !. cost!

    0/ 4 cu#.9u-!r 7#.or d! -n6!r-or # /0 A. o,s!r7#r .# T#,.# *J s! co'1ru!,# 9u! .os

    r!su.t#dos 1#r# !. PCA t#',-én son 1!or!s #un9u! cont-n#n s-!ndo '!(or!s 9u! .os d!.

    PCA

    En .# F-$ur# J s! o,s!r7# co'o # 1!s#r d! #3#d-r ru-do -'1u.s-7o !n tod#s .#s

    7#r-#,.!s .# 1r-'!r# co'1on!nt! d!. PCA ..!$# # o,t!n!r un '!nor d!s7-#c-&n Co'o 1#r#

    !. c#so s-n ru-do -'1u.s-7o 4 cu#ndo s&.o s! -ntroduc2# !. ru-do -'1u.s-7o !n 5  4 5K !. cost!

    9u! t!r'-n# 1or o6r!c!r un '!(or r!su.t#do !s !. d! 7#.or 0/

    S- co'1#r#'os !stos r!su.t#dos con .os d!. PCA >!n .# T#,.# *J 7o.7!'os # 7!r 9u!

    son 1!or!s Los r!su.t#dos d!. PCA t#',-én '!(or#n 4 #un9u! .#s co'1on!nt!s no ..!$#n #

    o,t!n!r .# d-r!cc-&n &1t-'# s! .! #c!rc#n 'uco

    En .# T#,.# *J s! 1u!d! co'1ro,#r co'o #6!ct# !. ru-do -'1u.s-7o !n .#s co'1on!nt!s

    1r-nc-1#.!s A. o,s!r7#r .#s 7#r-#,.!s 5 4 5K cu#ndo so.o s! #3#d! ru-do -'1u.s-7o # !st#s

    7#r-#,.!s s! co'1ru!,# 9u! no t-!n!n !. '-s'o 7#.or 9u! .#s otr#s 7#r-#,.!s 9u! t-!n!n

    #soc-#do !. '-s'o 7#.or P#r# 5 son .#s 7#r-#,.!s 50 )5* 45J) '-!nt#s 9u! 1#r# 5K son .#s

    7#r-#,.!s 5+ )5 45 P#r# .# s-'u.#c-&n cu#ndo s! -ntroduc! ru-do -'1u.s-7o !n tod#s .#s

    7#r-#,.!s) .os 7#.or!s d! .#s 7#r-#,.!s #soc-#d#s #. '-s'o 6#ctor !stán son d-st-ntos #un9u!

    su!.!n !st#r c!rc#nos !ntr! s-

    000

    Figura (2: D!s7-#c-&n d! PC0 1#r# d-6!r!nt!s cost!s 4 7#.or!s d! cu#ndo s! -ntroduc! ru-do -'1u.s-7o !ntod#s .#s 7#r-#,.!s

    10,6

    10,5

    10,4

    10,3

    10,2

    10,1

    100

    0.1

    0.2

    0.3

    0.4

    0.5

    0.6

    0.7

    0.8

       @   D   i   "  e

      r  e  c   i  a   C  o  s  e  n  o   @

     

    C A 1

    C A 10

    C A 100

    C A 1000

  • 8/18/2019 Analisis Componentes Principales

    112/130

    CAPTULO +: E5PERIMENTOS  PCA

    Ru-do I'1u.s-7o !n 5 4 5K Ru-do I'1u.s-7o !n todo 5

    PCA PCA PCA PCA

    PC0 PC* PC0 PC* PC0 PC* PC0 PC*

    50 //+K /*J/ /0* /*J /0*0+ / /0KJ /

    5* //+ /*J/ /0*K /*J //J /J /*/+ /J

    5J //+K /*J/ /0* /*JK0 //K /*/ /*0+ /0/

    5 /0J /K*+ /JKJ /J0/0 /00