Tema 2.PDF Aprendizaje

Aprendizaje automtico

CienciasdelaComputacineInteligenciaArtificial

Adquisicindeconceptos

Tema2

Tema2:Adquisicindeconceptos

Aprendizajeautomtico2

ndice

2.1Caractersticasgenerales

2.2Primerosalgoritmos

2.3Elespaciodeversiones




Aprendizajeinductivo

Aprenderaspectosgeneralesapartirdeejemploscondatos particulares

Setratadeunaprendizajesupervisado

Aprendizajeinductivosimblico

Utilizaunarepresentacinsimblica

(redessemnticas,reglas,programacinlgica,)

Aprendizajeinductivosubsimblico

Utilizaunarepresentacinsubsimblica

(redesneuronales,conjuntosdifusos)

Sedesarrollapormediodealgoritmosdeajusteparamtrico




Formasdeaprendizajeinductivosimblico

Silosejemplosreflejansituacionesconmltiplesobjetosyrelaciones

F Adquisicindeconceptos

Silosejemplosserefierenaconjuntosatributovalor

F Clasificacinsupervisada

Sisepretendeadquirirunmodelolgico

F ProgramacinLgicaInductiva




Adquisicindeconceptos

Surgeenladcadadelos70

Seproduceundeclivedelaaproximacinneuronal

Aparecenlosprimeroslenguajesdemanipulacinsimblica

Lainvestigacinsecentraenproblemasdejuegos

Seintentanobtenermecanismosdeaprendizajesimblico generalesconmuypocainformacindepartida

Algoritmospropuestos

Winston

(1970),HayesRoth

(1977),Vere

(1975),Michalski Dietterich

(1981)

Mitchell

(1982)proponeunmarcounificado(espaciode versiones)




MtododeWinston

Desarrolladoalolargodeladcadadelos70

SeconsideraelpuntodepartidadelAprendizajeBasadoen Similitudes

(SBL)

ElautorlodenominaLearning

byanalyzing

differences

Introduceelconceptodecuasiejemplo

(ejemplonegativomuy prximoalosejemplospositivos)

Utilizacomorepresentacinlasredessemnticastantoparalos ejemploscomoparalosconceptos

Secentraeneldominiodeaplicacindelmundodebloques




MtododeWinston

Ejemplo1

Ejemplo

C

B

A

Tiene como parteEncima deTiene la propiedadTipo de




MtododeWinston

Ejemplo1forma

rombo circulo caja

Ejemplo

C

B

A





MtododeWinston

Ejemplo1forma

rombo circulo caja

textura

liso

sombra

Ejemplo

C

B

A





MtododeWinston

Ejemplo1forma

rombo circulo caja

tamao

grandemedio

textura

liso

sombra

Ejemplo

C

B

A





MtododeWinston

Ejemplo2forma

circulo rectngulo cuadrado

tamao

mediogrande

textura

liso

sombra

Ejemplo

E

D

G

pequeo

F

Tiene como parteEncima deDentro deTiene la propiedadTipo de




MtododeWinston

Larepresentacindelconceptoutilizaetiquetasdeltipodebe tenerestarelacin(requirelink)ydeltiponodebeteneresta relacin(forbidlink)

Laprimerarepresentacindelconceptocorrespondealprimer ejemplopositivo

Elementosdelalgoritmo:

Unlenguajederepresentacin(redessemnticas)

Unmecanismodecotejamiento(paradetectarlascorrespondencias)

Unprocesodegeneralizacin(paraincorporarejemplospositivos)

Unprocesodeespecializacin(paraincorporarejemplosnegativos)




MtododeWinston

Procesodeespecializacin:

Cotejarelejemplo(negativo)conelmodeloactualdel concepto

Sihaymsdeunadiferencia,ignorarelejemplo

Sihayunanicadiferencia:

Sielmodelotieneunaetiquetaqueelejemplonotiene,generar

una

etiquetarequirelink

Sielejemplotieneunaetiquetaqueelconceptonotiene,generaruna

etiquetaforbidlink




MtododeWinston

Procesodegeneralizacin:

Cotejarelejemplo(positivo)conelmodeloactualdel concepto

Procesartodaslasdiferencias

Sifaltaunaetiqueta,eliminarladelconcepto

Sihaydiferenciaenelvalordeunapropiedad,modificarel rangodelapropiedad

Siunaetiquetaapuntaaunaclasediferente

Silaclaseperteneceaunajerarqua,subirenlajerarqua

Silaclasenoperteneceaunajerarqua,eliminarla




MtododeWinston

Propiedadesdelalgoritmo:

Conservador(siexistendudassobreloquehayque aprender,mejornoaprender)

Elaprendizajeserealizaenpasospequeos(leydeMartin, nopuedesaprenderalgoamenosquecasilosepasdeantemano)

Esmuysensiblealordenenelquesepresentanlosejemplos




MtododeHayesRoth

Intentaencontrarlasgeneralizacionesconjuntivasmsespecficas

de unconjuntodeejemplospositivos(maximal

abstractions

o

inference

matches)

Larepresentacinqueutilizanlallamanparameterized

structural representations

(PSR)

E1:{{caja:a}{crculo:b}{rombo:c}{liso:a}{sombreado:b}{liso:c}

{grande:a}{medio:b}{medio:c}{sobre:b,a}{sobre:c,b}}

Cadaejemploesunalistadecaseframes,compuestosporuna etiquetayunalistadeparmetros

Elmodeloactualdelconceptoseexpresatambinpormediode unPSR

Elprimermodelocorrespondealprimerejemplo




MtododeHayesRoth

Paracadanuevoejemplo

Hacerelcotejamientodeloscaseframes

detodaslasformas posibles,obteniendounconjuntoMcontodaslas

correspondenciasentreparmetros

Seleccionarunsubconjuntodelascorrespondenciasquesea consistentepormediodeunabsquedaenanchura

Unavinculacinconsistentesignificaqueunparmetrode unainstancianopuedevincularseavariosparmetrosdela

otrainstancia




MtododeHayesRoth

Ejemplo:

E1:{{caja:a}{crculo:b}{rombo:c}

{liso:a}{sombreado:b}{liso:c}

{grande:a}{medio:b}{medio:c}

{sobre:b,a}{sobre:c,b}}

E2:{{rectngulo:d}{crculo:e}{crculo:f}{cuadrado:g}

{grande:d}{pequeo:e}{pequeo:f}{medio:g}

{liso:d}{sombreado:e}{sombreado:f}{liso:g}

{sobre:g,d}{dentro:e,d}{dentro:f,d}}




MtododeHayesRoth

M={{circulo:((b/e)(b/f))},

{liso:((a/d)(a/g)(c/d)(c/g))},

{sombreado:((b/e)(b/f))},

{grande:((a/d))},

{medio:((b/g)(c/g))},

{sobre:((b/ga/d)(c/gb/d))}}

Ejemplodegeneralizacinconjuntiva(b/e)(a/d)(c/g):

{{circulo:v2}{liso:v1}{sombreado:v2}{liso:v3}

{grande:v1}{medio:v3}

Circulosombreado,objetograndelisoyobjetomedianoliso




MtododeMichalskiDietterich

Buscanlasgeneralizacionesconjuntivasmsespecficas

UtilizancomorepresentacinellenguajeVL21

,queesuna extensindelalgicadepredicadosdeprimerorden

E1:

a,b,c

[tamao(a)=grande][tamao(b)=medio][tamao(c)=medio]

[forma(a)=caja][forma(b)=crculo][forma(c)=rombo]

[textura(a)=liso][textura(b)=sombreado][textura(c)=liso]

[sobre(b,a)][sobre(c,b)]





E2:

d,e,f,g

[tamao(e)=pequeo][tamao(f)=pequeo]

[tamao(d)=grande][tamao(g)=medio]

[forma(e)=crculo][forma(f)=crculo][forma(d)=rectngulo]

[forma(g)=cuadrado]

[textura(e)=sombreado][textura(f)=sombreado]

[textura(d)=liso][textura(g)=liso]

[dentro(e,d)][dentro(f,d)][sobre(g,d)]





Elmtodotrataenprimerlugarlaparteestructural(selectores nounarios)obteniendounconjuntodegeneralizaciones

conjuntivascandidatasdelaparteestructural

Acontinuacinsecompletanincorporandolainformacin descriptiva(selectoresunarios)yrealizandodenuevouna generalizacinconjuntivaenelespaciodeatributos

Ejemplo:

v1,v2[sobre(v1,v2)][tamao(v1)=medio] [forma(v1)=polgono][textura(v1)=liso][tamao(v2)=medio

grande][forma(v2)=rectngulo

crculo]




Comparativa

Propiedad Winston HayesRoth Michalski

Dominio Mundodebloques General General

Lenguaje Redessemnticas PSR VL21

Conceptos

sintcticos

Nodosyuniones Caseframes,caselabels,

parmetros

Selectores,variables,descriptores

Operadores AND,excepcin AND AND,OR,ORinterno

Reglasde

generalizacin

EliminarcondicinConstantesavariablesSubirenelrbolde

generalizacin

EliminarcondicinConstantesavariables

EliminarcondicinConstantesavariablesSubirenelrbolde

generalizacinCerrarintervalosOr

interno




Comparativa

Propiedad Winston HayesRoth Michalski

Formas

disyuntivas

NO NO SI

Inmunidadal

ruido

Muybaja Baja Muybuena

Conocimientodel

dominio

Incorporadoalprograma No S

Induccin

constructiva

Limitada No Algunasreglasgenerales




Espaciodeversiones

PropuestoporMitchell

en1982

Presentaunmarcounificadoparalaadquisicindeconceptos, independientedelarepresentacinautilizar

Hiptesis:representacindeunconcepto

Espaciodehiptesis:elconjuntodetodoslosconceptosque puedenserdescritosconlarepresentacinescogida

Espaciodeversiones:Conjuntodehiptesiscoherentesconel conjuntodeejemplospositivosynegativosestudiado,esdecir, quereconocenatodoslosejemplospositivosyexcluyenatodos

losejemplosnegativos.




Espaciodeversiones

Ordenacinparcial:h1esmsgeneralqueh2sielconjuntode instanciascubiertoporh2esunsubconjuntodelconjuntode

instanciascubiertoporh1

Representacindelespaciodeversiones:

Enumeracindetodaslashiptesis(inviableporsutamao)

Conjuntomsgeneral(G)ymsespecfico(S)

Cualquierhiptesis(h)delespaciodeversionescumplequees msgeneraloigualquealgunadelashiptesisdelconjuntoSy msespecficaoigualquealgunadelashiptesisdelconjuntoG




Algoritmogeneral:

Serepresentaelespaciodeversionesporenumeracin

Dadounejemplopositivo,seexcluyenlashiptesisquenolo cubren

Dadounejemplonegativo,seexcluyentodaslashiptesisquesi locubren

Seiteraparatodoslosejemplosdelabasedeconocimiento

Elresultadoeselconjuntodehiptesiscoherenteconlos ejemplos

Estealgoritmoesinviableyaqueelespaciodeversionespuede serinfinitootenerunnmeroenormedehiptesis




Algoritmodeeliminacindecandidatos:

SerepresentaelespaciodeversionesmediantelosconjuntoSyG

Dadounejemplopositivo

ExcluirdeGlashiptesisquenolocubran

GeneralizarenSlashiptesisquenolocubran,manteniendoque

seanmsespecficasquealgnelementodeGyquenoseanms

generalesquealgnelementodeS

Dadounejemplonegativo

ExcluirdeSlashiptesisquelocubran

EspecificarenGlashiptesisquelocubranhastaqueloexcluyan,

manteniendoqueseanmsgeneralesquealgnelementodeSyque

noseanmsespecficasquealgnelementodeG




Ejemplo:




Representacindelosejemplos:

# Cabeza Cuello Cuerpo Color Cola Clase

1 Crculo Recto Crculo Rayado Abajo +

2 Tringulo Curvo Cuadrado Negro Recta

3 Cuadrado Triangular Tringulo Blanco Abajo

4 Crculo Curvo Cuadrado Rayado Abajo +

5 Tringulo Triangular Tringulo Rayado Recta

6 Cuadrado Recto Crculo Blanco Arriba

7 Cuadrado Triangular Tringulo Rayado Abajo +




Representacindelashiptesis:

(Valor1,Valor2,Valor3,Valor4,Valor5)

Valor1

{Crculo,Tringulo,Cuadrado,?}

Valor2

{Recto,Curvo,Triangular,?}

Valor3

{Crculo,Tringulo,Cuadrado,?}

Valor4

{Rayado,Negro,Blanco,?}

Valor5

{Abajo,Recta,Arriba,?}

Ejemplo:(Crculo,?,Tringulo,Negro,?)

Nmerodehiptesis:|H|=4*4*4*4*4=1024




Procesodegeneralizacin:

Hiptesis:(h1,h2,h3,h4,h5)

Ejemplo:(e1,e2,e3,e4,e5)

Hiptesisgeneralizada:(g1,g2,g3,g4,g5)

Sihi

=

?Entoncesgi

=

?

Sihi

=

ei

Entoncesgi

=

hi

Sihi

ei

Entoncesgi

=

?




Procesodeespecializacin:

Hiptesis:(h1,h2,h3,h4,h5)

Ejemplonegativo:(e1,e2,e3,e4,e5)

Conjuntodehiptesisespecializada:(g1,g2,g3,g4,g5)

Sihi

ei

yhi

?entonceslahiptesisnocubreelejemplo negativo

Sihi

=

ei

Entoncesgi

=

hi

Sihi

=

?Entoncesgenerarunahiptesisporcadagi

ei




Trazadelalgoritmo

# S G

0 {} {(?,?,?,?,?)}

1 {(Crculo,Recto,Crculo,Rayado,Abajo)} {(?,?,?,?,?)}

2 {(Crculo,Recto,Crculo,Rayado,Abajo)} {(Crculo,?,?,?,?),(?,Recto,?,?,?),(?,?,Crculo,?,?),(?,?,?,Rayado,?),(?,?,?,?,Abajo)}

3 {(Crculo,Recto,Crculo,Rayado,Abajo)} {(Crculo,?,?,?,?),(?,Recto,?,?,?),(?,?,Crculo,?,?),(?,?,?,Rayado,?)}




Trazadelalgoritmo

# S G

4 {(Crculo,?,?,Rayado,Abajo)} {(Crculo,?,?,?,?),(?,?,?,Rayado,?)}

5 {(Crculo,?,?,Rayado,Abajo)} {(Crculo,?,?,?,?),(?,?,?,Rayado,Abajo)}

6 {(Crculo,?,?,Rayado,Abajo)} {(Crculo,?,?,?,?),(?,?,?,Rayado,Abajo)}

7 {(?,?,?,Rayado,Abajo)} {(?,?,?,Rayado,Abajo)}




Resultado:

SiS=

G,elconceptoeselconjuntodehiptesiscontenidoenSoG

SiS

G,elconceptosedescribepormediodetodaslashiptesis igualesomsgeneralesqueSeigualesomsespecficasqueG

SiSyGquedanvacos,hayunerrorenlosdatosola representacinnoesadecuadapararepresentarelconcepto

Tema 2ndice2.1 Caractersticas generales2.1 Caractersticas generales2.1 Caractersticas generales2.2 Primeros algoritmos2.2 Primeros algoritmos2.2 Primeros algoritmos2.2 Primeros algoritmos2.2 Primeros algoritmos2.2 Primeros algoritmos2.2 Primeros algoritmos2.2 Primeros algoritmos2.2 Primeros algoritmos2.2 Primeros algoritmos2.2 Primeros algoritmos2.2 Primeros algoritmos2.2 Primeros algoritmos2.2 Primeros algoritmos2.2 Primeros algoritmos2.2 Primeros algoritmos2.2 Primeros algoritmos2.2 Primeros algoritmos2.2 Primeros algoritmos2.3 El espacio de versiones2.3 El espacio de versiones2.3 El espacio de versiones2.3 El espacio de versiones2.3 El espacio de versiones2.3 El espacio de versiones2.3 El espacio de versiones2.3 El espacio de versiones2.3 El espacio de versiones2.3 El espacio de versiones2.3 El espacio de versiones2.3 El espacio de versiones

Documents

Tema 2.PDF Aprendizaje