Tehnici de optimizare 3

Embed Size (px)

Citation preview

  • 8/13/2019 Tehnici de optimizare 3

    1/35

    Tehnici de optimizare

    Cursul nr. 3

    Dr. ing. Andrei Lihu

  • 8/13/2019 Tehnici de optimizare 3

    2/35

    Inteligena colectiv

    - procesul de cutare nu se bazeaz pe evoluie, ci pe

    interaciunilesociale ntre membrii populaiei

    - ACO: coordonare stigmergicprin urme de feromoni

    - BCO: semnalizare prin waggle-dance

    ACO BCO

    Cutare

  • 8/13/2019 Tehnici de optimizare 3

    3/35

    Ant Colony Optimization

    furnicile cltoresc la ntmplare

    dac gsesc o surs de hran, marcheaz drumul pn la

    colonie cu feromoni

    alte furnici gsesc urma i o urmeaz

    feromonii se evaporeaz n timp

    furnicile gsesc mereu calea cea mai scurt de la muuroi la

    hran

    variaiuni: Multiple Ant Colony Optimization

  • 8/13/2019 Tehnici de optimizare 3

    4/35

    Ant Colony Optimization

    Demo n NetLogo

  • 8/13/2019 Tehnici de optimizare 3

    5/35

    Bee Colony Optimization

    se inspir din comportamentul albinelor atunci cnd icaut hrana

    dansul agitat al albinelor are loc n stup i comunic

    cantitatea i calitatea unei surse de hran gsite; alte albine

    observ aleator dansul uneia i decid dac vor alege aceasurs de hran asociat

    cutarea hranei se face iniial aleator; o albin traverseaz

    o soluie potenial care dac e fezabil va fi semnalizat n

    stup variaiuni: BeeHive i Internet Server Optimization

  • 8/13/2019 Tehnici de optimizare 3

    6/35

    Particle Swarm Optimization

    i. model populaionalroiulformat din particulecare

    zboarn hiperspaiulsoluiilor

    ii. metafora: inteligena colectiv

    iii. O particul zboar n sensul celei mai bune soluii ale

    sale (experienacognitivpersonal)in sensul celei mai

    bune soluiidin grupul su(experienasocial)

  • 8/13/2019 Tehnici de optimizare 3

    7/35

    Origini

    - A evoluat din modelul cu boizi a lui Reynolds

    - evitarea coliziunilor

    - aliniere pe direcia principal de zbor a vecinilor

    - coeziune (direcionare spre centrul roiului)

    Reynolds a observat c folosind o variant cu o for central,

    cumva asemntoare cu modelul gbest de la PSO, a obinut o

    convergen rapid a stolului, dar cu varianta local a generat

    cele mai interesante comportamente emergente

    Modelul lui Reynolds era bazat pe un stol, nu un roi.

  • 8/13/2019 Tehnici de optimizare 3

    8/35

    Ce este un stol ?

    Cf. Mataric:

    tie s se ntoarc ntr-un loc numit acas; n sens generalizat s

    gseasco locaiespecificat

    agregare: caracteristica agenilorconstitueniai stolului de a se grupa ide

    a menineo maximdistanntre ei

    dispersie: caracteristica agenilorconstitueniai stolului de a se mprtia,

    dar de a menineo distanminimntre ei evitarea coliziunilor: szboare n aafel nct sevite coliziunile

    PSO tie s gseasc o locaie, iar particulele constituente sunt

    agregate.

  • 8/13/2019 Tehnici de optimizare 3

    9/35

    PSO ca model de inteligen

    artificialPSO ndeplinete proprietile lui Millonas pentru a fi un model de

    inteligen artificial:

    proximitate: a fi capabil s execute operaii n spaiu i timp

    calitate: a fi capabil s reacioneze la factori calitativi din

    mediul nconjurtor

    rspuns divers: s nu fie restrns ntr-un set de soluii

    stabilitate: a fi capabil de conservare la schimbri de mediu

    adaptabilitate: a fi capabil s i schimbe comportamentul n

    situaii profitabile

  • 8/13/2019 Tehnici de optimizare 3

    10/35

    Vedere general

    actualizarea vitezei

    actualizarea poziiei

    evaluarea fitnessuluii verificareacondiiilor de

    terminare

    actualizarea celeimai bune poziii

    personale i de grup

    initializarepopulaie

  • 8/13/2019 Tehnici de optimizare 3

    11/35

    Iniializarea

  • 8/13/2019 Tehnici de optimizare 3

    12/35

    Actualizarea vitezelor

    doi vectori care au coninut uniform aleatoriu

    coeficientul cognitiv i cel social

    cea mai bun poziie personal

    cea mai bun poziie a grupului/roiului

    Componenta cognitiv Componenta social

    vitez

    poziie

  • 8/13/2019 Tehnici de optimizare 3

    13/35

    Actualizarea poziiilor

  • 8/13/2019 Tehnici de optimizare 3

    14/35

    PSO Demo n NetLogo

  • 8/13/2019 Tehnici de optimizare 3

    15/35

    Creterea ratei i vitezei de

    convergen

    i. Ineria:

    i. Constricia:

    Config. implicit PSO:

    Problema: roiul nu gsea soluii deloc sau n timp util.

    Soluii:

  • 8/13/2019 Tehnici de optimizare 3

    16/35

    Creterea diversitii n roi

    Problema: roiul convergea prematur sau nu explora ndeajuns spaiul.

    Soluii:

    o

    Modelul lbest cu topologii (moduri de interconectare ischimb de informaie al particulelor):

    piramidal grid inel complet conectat (gbest)

  • 8/13/2019 Tehnici de optimizare 3

    17/35

    Modelul lbest

    - modelul gbest poate suferi de convergen prematur

    - gruparea particulelor n jurul unor vecinti de dimensiune l

    - cea mai bun soluie din vecintate

    - ecuaia vitezelor ine cont de valoare cea mai bun local

  • 8/13/2019 Tehnici de optimizare 3

    18/35

    Tipuri de vecinti

    Vecinti spaialeVecinti sociale

    Concluzie: E de preferat modelul lbest unde vecintile se stabilesc

    doar n funcie de indexul particulei.

  • 8/13/2019 Tehnici de optimizare 3

    19/35

    Clustere de particule

    - Kennedy a nlocuit componenta cognitiv din ecuaia

    actualizrii de viteze cu centroidul unui cluster format din

    cele mai bune valori personale din grup

  • 8/13/2019 Tehnici de optimizare 3

    20/35

    Recapitulare i pseudocod

    iniializeazroiul n-dimensional

    repet:

    pentru fiecare particula din roi:

    actualizeazviteza (ecuaia 1)

    mutparticula la noua poziie(ecuaia 2)calculeaz cea mai bun poziie personal

    calculeazcea mai bun poziie din grup

    pncndsendeplinetecriteriul de terminare

    1

    2

  • 8/13/2019 Tehnici de optimizare 3

    21/35

    Simplificri

    Varianta exclusiv social a lui Pedersen, PSO-VG.

  • 8/13/2019 Tehnici de optimizare 3

    22/35

    Studiu bibliografic

    Differential Evolution

    Job-shop scheduling problem

    Ant Colony Optimization

    Bee Colony Optimization

    Vicsek model (SPP)

    Stochastic difussion search

    Intelligent water drops

    Krill herd algorithm

    Artificial immune systems

    Crowd simulation

    Firefly algorithm

    TRIBES algorithm

    Magnetic optimization algorithmAltruism algorithm

    River formation dynamics algorithm Cuckoo search

  • 8/13/2019 Tehnici de optimizare 3

    23/35

    Funcii standard de test

    Unimodale

    Multimodale

    Rotite

    Deplasate

    Hibride

    CEC 2005 Benchmark suite

  • 8/13/2019 Tehnici de optimizare 3

    24/35

    Sfera

  • 8/13/2019 Tehnici de optimizare 3

    25/35

    Rosenbrock

  • 8/13/2019 Tehnici de optimizare 3

    26/35

    Ackley

  • 8/13/2019 Tehnici de optimizare 3

    27/35

  • 8/13/2019 Tehnici de optimizare 3

    28/35

    Funcii de test CEC 2005

    (discuie)

    Necesitatea unor funcii de test

    Evitarea efectului de optim la 0

  • 8/13/2019 Tehnici de optimizare 3

    29/35

    Framework-uri pt. calculul

    evoluionist

    Java EvA2, ECJ, Open Beagle, Evolvica, DACEetc.

  • 8/13/2019 Tehnici de optimizare 3

    30/35

    Demo Java EvA2

  • 8/13/2019 Tehnici de optimizare 3

    31/35

    Studiu bibliografic

    Java EvA2

    Statistical tests for optimization

    CEC 2005 benchmark functions

    Evolutionary software packages

  • 8/13/2019 Tehnici de optimizare 3

    32/35

    Distribuia normal

  • 8/13/2019 Tehnici de optimizare 3

    33/35

    NHST

    H0ipoteza nul H1ipoteza alternativ

    Ipoteza tiinific

    Ipoteze statistice

    p < 0.05 n teste pt. a respinge ipoteza nul

  • 8/13/2019 Tehnici de optimizare 3

    34/35

    Tipuri de teste

  • 8/13/2019 Tehnici de optimizare 3

    35/35

    Bibliografie / Resurse

    1. http://yatani.jp/HCIstats/HomePage

    2. http://www.ra.cs.uni-tuebingen.de/software/JavaEvA/

    3. Kennedy, J.; Eberhart, R. (1995). "Particle Swarm Optimization". Proceedings

    of IEEE International Conference on Neural Networks. IV. pp. 1942

    1948. doi:10.1109/ICNN.1995.4889684. Suganthan, P. N., Hansen, N., Liang, J. J., Deb, K.; Chen, Y. P., Auger, A. &

    Tiwari, S. (2005). Problem definitions and evaluation criteria for the CEC

    2005 Special Session on Real Parameter Optimization. Nanyang

    Technological University

    http://en.wikipedia.org/wiki/Digital_object_identifierhttp://en.wikipedia.org/wiki/Digital_object_identifier