12
Bolyong´ as a jel¨ oltek halmaz´ an Optimalit´ aselm´ elet szimul´ alt h˝ okezel´ essel ır´ o Tam´ as Humanities Computing, CLCG University of Groningen, Hollandia valamint otv¨ os Lor´ and Tudom´ anyegyetem, Budapest [email protected], [email protected] Nyelv´ eszeti Doktoranduszok 9. Orsz´ agos Konferenci´ aja 2005. november 18. ır´ o Tam´ as, ELTE, Budapest / RUG, Groningen, NL 1/ 12

Bolyong´as a jel¨oltek halmaz´an

  • Upload
    others

  • View
    3

  • Download
    0

Embed Size (px)

Citation preview

Page 1: Bolyong´as a jel¨oltek halmaz´an

Bolyongas a jeloltek halmazanOptimalitaselmelet szimulalt hokezelessel

Bıro TamasHumanities Computing, CLCG

University of Groningen, Hollandiavalamint

Eotvos Lorand Tudomanyegyetem, [email protected], [email protected]

Nyelveszeti Doktoranduszok 9. Orszagos Konferenciaja2005. november 18.

Bıro Tamas, ELTE, Budapest / RUG, Groningen, NL 1/ 12

Page 2: Bolyong´as a jel¨oltek halmaz´an

Optimalitaselmelet (Optimality Theory)

Prince & Smolensky, 1993 / 2004

OT tabla: a legjobb jelolt megkeresese, lexikografikus rendezes alapjan

cn cn−1 ... ck+1 ck ck−1 ck−2 ...

w 2 0 1 2 3 0

w’ 2 0 1 3 ! 1 2

w” 3 ! 0 1 3 1 2

Bıro Tamas, ELTE, Budapest / RUG, Groningen, NL 2/ 12

Page 3: Bolyong´as a jel¨oltek halmaz´an

Attekintes

• Az alapproblema: az optimalis jelolt megtalalasa

• Szimulalt hokezeles (szimulalt lehutes, simulated annealing)

• OT + SA = SA-OT

• Topologia a jeloltek halmazan

• Egy pelda: holland gyorsbeszed

• Szabadon kiprobalhato demo az Interneten

Bıro Tamas, ELTE, Budapest / RUG, Groningen, NL 3/ 12

Page 4: Bolyong´as a jel¨oltek halmaz´an

Az alapproblema: az optimalis jelolt megtalalasa

Meglehetosen nehez feladat lehet (NP-teljes, Eisner 1997),kulonosen nagy vagy vegtelen halmazon.

• Dinamikus programozas (dynamic programing, chart parsing ;

Tesar & Smolensky, 2000; Kuhn, 2000: LFG-OT)

• Veges allapotu automatak (FSA: Ellison, 1994; Karttunen, 1998;

Frank & Satta, ’98; Gerdemann & van Noord, 2000; Jager, 2002; Bıro)

• Genetikus algoritmus (GA: Turkel, 1994)

De vajon kell-e tokeletes megoldasra torekedni?

Bıro Tamas, ELTE, Budapest / RUG, Groningen, NL 4/ 12

Page 5: Bolyong´as a jel¨oltek halmaz´an

Szimulalt hokezeles

(Szimulalt lehutes, simulated annealing, SA)

Egy fuggveny globalis minimumat keressuk.

SA: elterjedt algoritmus, otlet a statisztikus fizikabol (termodinamikabol)

P (w → w′) =

(1 ha E(w′) ≤ E(w)

e−E(w′)−E(w)

kT ha E(w′) > E(w)

Bıro Tamas, ELTE, Budapest / RUG, Groningen, NL 5/ 12

Page 6: Bolyong´as a jel¨oltek halmaz´an

OT + SA = SA-OT

• veletlen bolyongas az jeloltek halmazan

• szomszedsagi struktura (topologia, geometria)

• lokalis optimumok, amelyekbe beragadhat az algoritmus

• az algoritmus pontossaga fugg az algoritmus sebessegetol.

Bıro Tamas, ELTE, Budapest / RUG, Groningen, NL 6/ 12

Page 7: Bolyong´as a jel¨oltek halmaz´an

Az SA-OT algoritmus

w := w_init ;for K = K_max to K_min step K_step

for t = t_max to t_min step t_stepCHOOSE random w’ in Neighbourhood(w) ;COMPARE w’ to w: C := fatal constraint

d := C(w’) - C(w);if d <= 0 then w := w’;else w := w’ with probability

P(C,d;K,t) = 1 , if C < K= exp(-d/t) , if C = K= 0 , if C > K

end-forend-forreturn w

Bıro Tamas, ELTE, Budapest / RUG, Groningen, NL 7/ 12

Page 8: Bolyong´as a jel¨oltek halmaz´an

Topologia a jeloltek halmazan:

A produkcio felgyorsıthato a pontossag rovasara

• Szomszedsagi struktura (topologia, geometria) a jeloltekhalmazan → lokalis optimumok

• Globalis optimum = a grammatikailag helyes alak

• Lokalis optimumok = performanciahibak

• Lassan futtatott SA-OT: nagy valoszınuseggel megtalalja azSA-OT a globalis optimumot

• Gyorsan futtatott SA-OT: konnyebben hibazik

Bıro Tamas, ELTE, Budapest / RUG, Groningen, NL 8/ 12

Page 9: Bolyong´as a jel¨oltek halmaz´an

Holland gyorsbeszed

uit.ge.ve.rij stu.die.toe.la.ge per.fec.tio.nist‘kiado’ ‘osztondıj’ ‘perfekcionista’

OOC: ssus susuu ususuit.ge.ve.rıj stu.die.toe.la.ge per.fec.tio.nıst

gyors: 0.65 / 0.67 gyors: 0.55 / 0.38 gyors: 0.49 / 0.13lassu: 0.97 / 0.96 lassu: 0.96 / 0.81 lassu: 0.91 / 0.20

uit.ge.ve.rıj stu.die.toe.la.ge per.fec.tio.nıstgyors: 0.35 / 0.33 gyors: 0.45 / 0.62 gyors: 0.39 / 0.87lassu: 0.03 / 0.04 lassu: 0.04 / 0.19 lassu: 0.07 / 0.80

SA-OT (B.T.) / M. Schreuder laboratoriumi fonologiai kıserlete

Align-Left� OOC � ∗ΣΣ � Parse � Trochaic

Bıro Tamas, ELTE, Budapest / RUG, Groningen, NL 9/ 12

Page 10: Bolyong´as a jel¨oltek halmaz´an

Szabadon kiprobalhato demo az Interneten

• http://www.let.rug.nl/~birot/sa-ot/

Bıro Tamas, ELTE, Budapest / RUG, Groningen, NL 10/ 12

Page 11: Bolyong´as a jel¨oltek halmaz´an

Osszefoglalas:

• Optimalitaselmeletkibovıtese topologiaval

•Lokalis optimumok =performanciahibak

• SA-OT algoritmus, mint a Saussure-i parole szimulacioja:minel gyorsabb, annal tobb hibat vet

• Meghatarozott hibak, adott szazalekban

Bıro Tamas, ELTE, Budapest / RUG, Groningen, NL 11/ 12

Page 12: Bolyong´as a jel¨oltek halmaz´an

Koszonom a figyelmet!

Bıro [email protected], [email protected]

Bıro Tamas, ELTE, Budapest / RUG, Groningen, NL 12/ 12