78
Introducci´ on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones Evoluci´ on Diferencial Luis Vicente Santana Quintero Asesor: Dr. Carlos A. Coello Coello Centro de Investigaci´ on y de Estudios Avanzados del IPN Secci´ on de Computacion 21 de Julio de 2006 Luis Vicente Santana Quintero Centro de Investigaci´ on y de Estudios Avanzados del IPN Evoluci´ on Diferencial

Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Embed Size (px)

Citation preview

Page 1: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Evolucion Diferencial

Luis Vicente Santana QuinteroAsesor: Dr. Carlos A. Coello Coello

Centro de Investigacion y de Estudios Avanzados del IPNSeccion de Computacion

21 de Julio de 2006

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 2: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Evolucion Diferencial

Evolucion Diferencial

La Evolucion Diferencial es una rama de la computacion evolutivadesarrollada por Rainer Storn y Kenneth Price en 1995 paraoptimizacion en espacios continuos.Principales Caracterısticas

Se seleccionan 3 individuos como padres.

Se compara el hijo con el padre, y si es mejor, lo sustituye.

Unicamente se maneja la cruza, y no tiene mutacion.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 3: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Evolucion Diferencial

Evolucion Diferencial

La Evolucion Diferencial es una rama de la computacion evolutivadesarrollada por Rainer Storn y Kenneth Price en 1995 paraoptimizacion en espacios continuos.Principales Caracterısticas

Se seleccionan 3 individuos como padres.

Se compara el hijo con el padre, y si es mejor, lo sustituye.

Unicamente se maneja la cruza, y no tiene mutacion.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 4: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Evolucion Diferencial

Evolucion Diferencial

La Evolucion Diferencial es una rama de la computacion evolutivadesarrollada por Rainer Storn y Kenneth Price en 1995 paraoptimizacion en espacios continuos.Principales Caracterısticas

Se seleccionan 3 individuos como padres.

Se compara el hijo con el padre, y si es mejor, lo sustituye.

Unicamente se maneja la cruza, y no tiene mutacion.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 5: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Algoritmo de ED mono-objetivo

Evolucion Diferencial

Desarrollada por Rainer Storn y Kenneth Price en 1995.

Las variables se representan mediante numeros reales.

El hijo compite con el padre principal, y el mejor pasa a lasiguiente generacion.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 6: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Algoritmo de ED mono-objetivo

Diferentes Esquemas en Evolucion Diferencial

La ED maneja dos variantes, estas son:

ED1

Para cada vector ~xi,G ; i = 0, 1, 2, . . . , N − 1., unvector de prueba ~v se genera de acuerdo a:

~v = ~xr1,G + F · (~xr2,G − ~xr3,G )ED2

Para cada vector ~xi,G ; i = 0, 1, 2, . . . , N − 1., unvector de prueba ~v se genera de acuerdo a:

~v = ~xi,G + λ · (~xmejor,G − ~xi,G ) + F · (~xr2,G − ~xr3,G )

con r1, r2, r3 ∈ [0, N − 1], enteros y diferentes,y F > 0.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 7: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Algoritmo de ED mono-objetivo

Diferentes Esquemas en Evolucion Diferencial

La ED maneja dos variantes, estas son:

ED1

Para cada vector ~xi,G ; i = 0, 1, 2, . . . , N − 1., unvector de prueba ~v se genera de acuerdo a:

~v = ~xr1,G + F · (~xr2,G − ~xr3,G )ED2

Para cada vector ~xi,G ; i = 0, 1, 2, . . . , N − 1., unvector de prueba ~v se genera de acuerdo a:

~v = ~xi,G + λ · (~xmejor,G − ~xi,G ) + F · (~xr2,G − ~xr3,G )introduciendo una variable de control adicional λ

con r1, r2, r3 ∈ [0, N − 1], enteros y diferentes,y F > 0.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 8: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Algoritmo de ED mono-objetivo

Diferentes Estrategias de la EDED/x/y/z

x representa el vector a perturbary numero de vectores considerados para perturbar x.z exponencial o binomial. Es el tipo de cruza a ser

seleccionada.

ED/mejor/1/exp

mejor se elige al mejor vector de cada generacion para serperturbado.

1 se eligen 3 vectores, y la diferencia de 2 de ellosse suma al tercero.

exp la primera vez en la que un numero aleatorio (0, 1)supera el valor de CRUZA, se suspende el cicloy las variables restantes quedan intactas.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 9: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Algoritmo de ED mono-objetivo

Diferentes Estrategias de la EDED/x/y/z

x representa el vector a perturbary numero de vectores considerados para perturbar x.z exponencial o binomial. Es el tipo de cruza a ser

seleccionada.

ED/aleatorio/1/exp

aleatorio se elige a un vector aleatorio de cada generacionpara ser perturbado.

1 se eligen 3 vectores, y la diferencia de 2 de ellosse suma al tercero.

exp la primera vez en la que un numero aleatorio (0, 1)supera el valor de CRUZA, se suspende el cicloy las variables restantes quedan intactas.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 10: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Algoritmo de ED mono-objetivo

Diferentes Estrategias de la EDED/x/y/z

x representa el vector a perturbary numero de vectores considerados para perturbar x.z exponencial o binomial. Es el tipo de cruza a ser

seleccionada.

ED/mejor/2/bin

mejor se elige al mejor vector de cada generacion para serperturbado.

2 se eligen 5 vectores, la diferencia de cada par de losprimeros 4 se suma al quinto.

bin se hace un flip (CRUZA) para saber si se copiala variable del hijo o del padre. Se hace siemprepara todas las variables del vector

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 11: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Algoritmo de ED mono-objetivo

Diferentes Estrategias de la EDED/x/y/z

x representa el vector a perturbary numero de vectores considerados para perturbar x.z exponencial o binomial. Es el tipo de cruza a ser

seleccionada.

ED/aleatorio/2/bin

aleatorio se elige a un vector aleatorio de cada generacionpara ser perturbado.

2 se eligen 5 vectores, la diferencia de cada par de losprimeros 4 se suma al quinto.

bin se hace un flip (CRUZA) para saber si se copiala variable del hijo o del padre. Se hace siemprepara todas las variables del vector

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 12: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Algoritmo de ED mono-objetivo

Diferentes Estrategias de la EDED/x/y/z

x representa el vector a perturbary numero de vectores considerados para perturbar x.z exponencial o binomial. Es el tipo de cruza a ser

seleccionada.

ED/aleatorio/1/bin

aleatorio se elige a un vector aleatorio de cada generacionpara ser perturbado.

1 se eligen 3 vectores, y la diferencia de 2 de ellosse suma al tercero.

bin se hace un flip (CRUZA) para saber si se copiala variable del hijo o del padre. Se hace siemprepara todas las variables del vector

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 13: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Seleccion y Cruza

Generacion de un nuevo individuo

Esquema: ED 1 yEstrategia:ED/aleatorio/1/bin

Para cada vector:

~xi,G ; i = 0, 1, 2, . . . , N − 1.,

un vector de prueba ~v se genera:

~v = ~xr1,G + F · (~xr2,G − ~xr3,G )

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 14: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Seleccion y Cruza

Generacion de un nuevo individuo

Esquema: ED 1 yEstrategia:ED/aleatorio/1/bin

Para cada vector:

~xi,G ; i = 0, 1, 2, . . . , N − 1.,

un vector de prueba ~v se genera:

~v = ~xr1,G + F · (~xr2,G − ~xr3,G )

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 15: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Seleccion y Cruza

Generacion de un nuevo individuo

Esquema: ED 1 yEstrategia:ED/aleatorio/1/bin

Para cada vector:

~xi,G ; i = 0, 1, 2, . . . , N − 1.,

un vector de prueba ~v se genera:

~v = ~xr1,G + F · (~xr2,G − ~xr3,G )

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 16: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Seleccion y Cruza

Generacion de un nuevo individuo

Esquema: ED 1 yEstrategia:ED/aleatorio/1/bin

Para cada vector:

~xi,G ; i = 0, 1, 2, . . . , N − 1.,

un vector de prueba ~v se genera:

~v = ~xr1,G + F · (~xr2,G − ~xr3,G )

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 17: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Seleccion y Cruza

Generacion de un nuevo individuo

Esquema: ED 1 yEstrategia:ED/aleatorio/1/bin

Para cada vector:

~xi,G ; i = 0, 1, 2, . . . , N − 1.,

un vector de prueba ~v se genera:

~v = ~xr1,G + F · (~xr2,G − ~xr3,G )

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 18: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Seleccion y Cruza

Generacion de un nuevo individuo

Esquema: ED 1 yEstrategia:ED/aleatorio/1/bin

Para cada vector:

~xi,G ; i = 0, 1, 2, . . . , N − 1.,

un vector de prueba ~v se genera:

~v = ~xr1,G + F · (~xr2,G − ~xr3,G )

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 19: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Seleccion y Cruza

Generacion de un nuevo individuo

Esquema: ED 1 yEstrategia:ED/aleatorio/1/bin

Para cada vector:

~xi,G ; i = 0, 1, 2, . . . , N − 1.,

un vector de prueba ~v se genera:

~v = ~xr1,G + F · (~xr2,G − ~xr3,G )

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 20: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Motivacion para Extenderlo a Multiobjetivo

Motivacion

Se ha demostrado que la Evolucion Diferencial suele convergermuy rapido al optimo (o a su vecindad) en problemas con unasola funcion objetivo.

Ademas, el desempeno de este algoritmo depende del controlde pocos parametros, lo cual facilita su uso.

Posee una gran capacidad de exploracion, evitando queobtenga optimos locales.

Objetivo

Utilizar la Evolucion Diferencial, junto con tecnicas yaprobadas para la preservacion de buenas soluciones ydesarrollar un nuevo algoritmo evolutivo para resolverproblemas de optimizacion multiobjetivo.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 21: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Planteamiento del Problema

Problema Multiobjetivo

Se busca encontrar un vector de variables de decision quesatisfagan las restricciones del problema y que ademas optimicesimultaneamente todas las funciones objetivo, sabiendo deantemano que estas funciones se encuentran en conflicto unas conotras y el mejorar una funcion significa empeorar el desempeno delas otras.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 22: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Planteamiento del Problema

Problema Multiobjetivo

El problema de optimizacion multiobjetivo se define como:

optimizar ~f (~x) = [f1(~x), f2(~x), f3(~x), . . . , fk(~x)]T (1)

sujeto a m restricciones de desigualdad:

gi (~x) ≤ 0 i = 1, 2 . . . , m (2)

y p restricciones de igualdad:

hj(~x) = 0 j = 1, 2 . . . , p (3)

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 23: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Planteamiento del Problema

Figura: Conjunto de optimos de Pareto (izq) y Frente de Pareto (der).

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 24: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Problemas Multiobjetivo sin Restricciones

Kursawe [MOP1]

Este problema fue propuesto por Kursawe en 1991.Minimizar:

~f (~x) = (f1(~x), f2(~x))

donde:

f1(~x) =n−1∑i=1

(−10e(−0,2)

√x2i +x2

i+1

)f2(~x) =

n∑i=1

(|xi |a + 5 sin(xbi ))

con: a = 0.8; b = 3; n = 3 y: −5 ≤ x1, x2, x3 ≤ 5

frente de Pareto es desconectado,conjunto de optimos de Pareto es desconectado.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 25: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Problemas Multiobjetivo sin Restricciones

Kursawe [MOP1]

Figura: Conjunto de optimos de Pareto.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 26: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Problemas Multiobjetivo sin Restricciones

Kursawe [MOP1]

Figura: Conjunto de optimos de Pareto. Figura: Frente de Pareto.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 27: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Problemas Multiobjetivo con Restricciones

Kita [MOP2]

Este problema fue propuesto por Kita en 1996.Maximizar: ~f (x) = (f1(x , y), f2(x , y))

donde:

f1(x , y) = −x2 + y ,

f2(x , y) =1

2x + y + 1

sujeto a:

0 ≥ 1

6x + y − 13

2,

0 ≥ 1

2x + y − 15

2,

0 ≥ 5x + y − 30

0 ≤ x , y ≤ 7

frente de Pareto desconectado y concavo,

conjunto de optimos de Pareto desconectado y esta en lafrontera entre la zona factible.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 28: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Problemas Multiobjetivo con Restricciones

Kita [MOP2]

Figura: Conjunto de optimos de Pareto.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 29: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Problemas Multiobjetivo con Restricciones

Kita [MOP2]

Figura: Conjunto de optimos de Pareto. Figura: Frente de Pareto.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 30: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

NSGA-II

NSGA-II

El Non-Dominated Sorting Genetic Algorithm - II (NSGA - II) fuepropuesto por Deb et al. en 2000.

Esta es una nueva version del NSGA mas eficiente(computacionalmente hablando)

Utiliza una jerarquizacion de Pareto.

Realiza una comparacion entre padres e hijos

Agrega un operador de agrupamiento que ayuda a mantenerla diversidad sin requerir de parametros adicionales.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 31: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

PAES

PAES

La Pareto Archieved Evolution Strategy (PAES) fue propuesta porKnowles y Corne en 2000. PAES consiste de una estrategiaevolutiva de dos miembros (en la que un padre genera un solo hijo)

Utiliza un archivo externo

Utiliza una malla logica autoadaptativa para retener lassoluciones

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 32: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Algoritmos Multiobjetivo que utiliza la ED

PDE

Desarrollado por Abbass y Sarker en 2002

La poblacion inicial se genera con N (0.5, 0.15)

El parametro F = N(0, 1)

La reproduccion se realiza solo entre no dominados

El hijo se coloca en la poblacion solo si domina a su padre

En caso de que la poblacion sobrepase el lımite, se utiliza unadistancia vecinal para eliminar a los individuos

D(x) =(min‖x − x i‖+ min‖x − x j‖)

2

donde x 6= x i 6= x j .

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 33: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Algoritmos Multiobjetivo que utiliza la ED

PDEA

Desarrollado por Madavan en 2002

Utiliza las caracterısticas de NSGA-II y es auto-adaptativo

VEDE

Desarrollado por Parsopoulus en 2004

Utiliza las caracterısticas de VEGA y utiliza el paralelismo para evaluar lasdiferentes funciones objetivo

MODE, NSDE y DEMO

Desarrollado por Xue en 2003 (MODE), Iorio en 2004 (NSDE) y Robic en 2005(DEMO)

Utilizan las caracterısticas de NSGA-II, basados en Pareto y usan el operador deagrupacion (crowding). Pero difieren en la seleccion

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 34: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Medidas de Desempeno para Evaluar AlgoritmosMultiobjetivo

Para realizar una evaluacion cuantitativa de los resultadosobtenidos por los diferentes algoritmos, se han ideado metricas lascuales nos ayudan a determinar la eficiencia con la que se resuelvenlos problemas multiobjetivo. Los aspectos que suelen ser medidospor las metricas son:

la cercanıa de los individuos no dominados generados conrespecto al verdadero frente,

ası como la distribucion de los individuos no dominados a lolargo del frente.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 35: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Medidas de Desempeno para Evaluar AlgoritmosMultiobjetivo

Para realizar una evaluacion cuantitativa de los resultadosobtenidos por los diferentes algoritmos, se han ideado metricas lascuales nos ayudan a determinar la eficiencia con la que se resuelvenlos problemas multiobjetivo. Los aspectos que suelen ser medidospor las metricas son:

la cercanıa de los individuos no dominados generados conrespecto al verdadero frente,

ası como la distribucion de los individuos no dominados a lolargo del frente.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 36: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Medidas de Desempeno para Evaluar AlgoritmosMultiobjetivo

Para realizar una evaluacion cuantitativa de los resultadosobtenidos por los diferentes algoritmos, se han ideado metricas lascuales nos ayudan a determinar la eficiencia con la que se resuelvenlos problemas multiobjetivo. Los aspectos que suelen ser medidospor las metricas son:

la cercanıa de los individuos no dominados generados conrespecto al verdadero frente,

ası como la distribucion de los individuos no dominados a lolargo del frente.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 37: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Metricas Unarias

TE

Indica el porcentaje de individuos que estan sobre el verdaderofrente de Pareto. Matematicamente se representa como:

TE ,

∑ni=1 ei

n

donde

n es el numero de soluciones generadas por el algoritmo

ei es:

0 = si el vector i, ∀ i = (1, . . . , n) esta en el frentede Pareto Verdadero

1 = de otra forma

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 38: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Metricas Unarias

DG

Indica que tan lejos se encuentran las soluciones generadas por elalgoritmo del verdadero frente de Pareto. Matematicamente serepresenta como:

DG =

(∑ni=1 dp

i

) 1p

n

donde

n es el numero de soluciones generadas por el algoritmo,

p = 2,

di es la distancia euclidiana entre cada vector y el individuomas cercano al verdadero frente de Pareto

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 39: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Metricas Unarias

D

Indica que tan bien distribuidos se encuentran los individuos nodominados generados por el algoritmo. Matematicamente serepresenta como:

D =

√√√√ 1

n − 1

n∑i=1

(d − di

)2

donde

n es el numero de soluciones generadas por el algoritmo.

di = minj(|f i1 (~x)− f j

1 (~x)|+ |f i2 (~x)− f j

2 (~x)|), i , j = 1, . . . , n

d = la media de todas las di ’s

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 40: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Metricas Binarias

C

Indica si dos conjuntos de vectores de solucion estan juntos o no, osi alguno de ellos domina en su mayorıa al otro o viceversa. Sedefine de la siguiente manera:

C (X ′,X ′′) =|{a′′ ∈ X ′′;∃a′ ∈ X ′ : a � a′′}|

|X ′′|

donde

X ′,X ′′ ⊆ X ′ son dos conjuntos de vectores de solucion.

Observese que esta no es una metrica de distancia para saberque tan cerca estan los conjuntos unos del otro

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 41: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

MyDE y ε-MyDE

Objetivos Particulares

Desarrollar un algoritmo que resuelva problemas multiobjetivo yque ademas sea competitivo, cuidando los siguientes aspectos:

Controlar la alta velocidad de convergencia que tiene la ED.

Cuidar la alta capacidad de exploracion que tiene la ED, ybuscar una mejor explotacion de soluciones.

Realizar un buen manejo de restricciones.

Escoger un buen metodo para la retencion de soluciones.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 42: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

MyDE y ε-MyDE

Algoritmo Generico

1 Generar una poblacion inicial de tamano P

2 Evaluar la aptitud de la poblacion inicial

3 Repetir

4 Repetir

5 Seleccionar 3 padres

6 Realizar la cruza utilizando la ED

7 Evaluar la aptitud del hijo generado

8 Si el hijo es mejor que el padre, lo reemplaza

9 hasta que se genera la siguiente poblacion

10 Marcar a los individuos no dominados de la poblacion

11 Agregar los no dominados al archivo externo

12 mientras no se cumpla la condicion de finalizacion

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 43: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

MyDE y ε-MyDE

Seleccion

Existen dos tipos de seleccion, al igual que un parametro deseleccion elitismo = [0.2, 1] (elegido por el usuario)

Seleccion Aleatoria: si gen < (elitismo ∗ Gmax )Se eligen 3 padres de la poblacion primaria,

de forma aleatoria, siempre y cuando ninguno de lospadres sean iguales

Seleccion ElitistaSe eligen 3 padres de la poblacion secundaria,

de forma aleatoria, siempre y cuando ninguno de lospadres sean iguales y cumplan con un factor de cercanıa.

fcercania =

qPFUNi=0 (Xi,max−Xi,min)2

2FUN

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 44: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

MyDE y ε-MyDE

Seleccion

Existen dos tipos de seleccion, al igual que un parametro deseleccion elitismo = [0.2, 1] (elegido por el usuario)

Seleccion AleatoriaSe eligen 3 padres de la poblacion primaria,

de forma aleatoria, siempre y cuando ninguno de lospadres sean iguales

Seleccion Elitista: si gen ≥ (elitismo ∗ Gmax )Se eligen 3 padres de la poblacion secundaria,

de forma aleatoria, siempre y cuando ninguno de lospadres sean iguales y cumplan con un factor de cercanıa.

fcercania =

qPFUNi=0 (Xi,max−Xi,min)2

2FUN

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 45: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

MyDE y ε-MyDE

Seleccion

Existen dos tipos de seleccion, al igual que un parametro deseleccion elitismo = [0.2, 1] (elegido por el usuario)

Seleccion AleatoriaSe eligen 3 padres de la poblacion primaria,

de forma aleatoria, siempre y cuando ninguno de lospadres sean iguales

Seleccion Elitista: si gen ≥ (elitismo ∗ Gmax )Se eligen 3 padres de la poblacion secundaria,

de forma aleatoria, siempre y cuando ninguno de lospadres sean iguales y cumplan con un factor de cercanıa.

fcercania =

qPFUNi=0 (Xi,max−Xi,min)2

2FUN

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 46: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

MyDE y ε-MyDE

Mutacion

La mutacion ayuda a la exploracion de los algoritmos.

Ayuda alcanzar regiones del frente que la cruza no lograbaencontrar,

Se utiliza una mutacion uniforme.donde: pm = 1

nvar

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 47: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

MyDE y ε-MyDE

Hijo vs Padre problemas sin restricciones

Se realiza una comparacion de dominancia de Pareto entre padre ehijo:

si el padre domina al hijo se elige al padre

si el hijo domina al padre se elige al hijo

si son no dominados entre ellos se realiza un volado(0.5) parasaber quien pasa a la siguiente generacion.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 48: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

MyDE y ε-MyDE

Hijo vs Padre problemas con restricciones

Las restricciones se normalizan [0, 1], y se ve lo siguiente:

si el padre es no factible y el hijo es no factible se elige alindividuo que este mas cerca de la zona factible.

si el padre es factible y el hijo es no factible se elige al hijo si ysolo si esta cerca de la zona factible (0.1) y gana elvolado (0.5), de lo contrario elijo al padre.

si el padre es no factible y el hijo es factible se elige al padre si ysolo si esta cerca de la zona factible (0.1) y gana elvolado (0.5), de lo contrario elijo al hijo.

si el padre es factible y el hijo es factible se verifica dominancia dePareto y se elige tal y como se tratara de unproblema sin restricciones.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 49: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

MyDE y ε-MyDE

Mecanismo de aceptacion en el archivo externo

El archivo externo nos ayuda a mantener a las mejores solucionesque se generan a lo largo del proceso evolutivo.Existen dos versiones del algoritmo

MyDE en la que se maneja una malla autoadaptativa

ε-MyDE se basa en el concepto de dominancia-ε

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 50: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

MyDE

Insertar un individuo en el archivo externo

Requiere de un parametro malla el cual define el numero de hiper-cuadrados en losque se divide el frente de Pareto.

si la rejilla esta vacıa siempre se acepta al nuevo individuo

si el nuevo individuo domina al menos a un individuo de la rejilla el nuevo individuose acepta y se retiran a todos aquellos individuos que seandominados por el nuevo individuo.

si el nuevo individuo es dominado por un individuo de la rejilla se rechaza al nuevoindividuo.

si el nuevo individuo es no dominado con los que estan en la rejilla se acepta estenuevo individuo si y solo si la rejilla no esta llena. Si esta llena,entonces se elimina un individuo del hiper-cuadrado mas poblado.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 51: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

MyDE

Eliminar un individuo en el archivo externo

Cuando se cumple el caso 4 antes indicado, al insertar un nuevoindividuo, se elimina otro dentro de la rejilla.

Se elimina al individuo que este dentro del hiper-cuadrado conmayor numero de elementos, y ademas el que tenga ladistancia vecinal mas pequena.

D(x) =(min‖x − x i‖+ min‖x − x j‖)

2

donde x 6= x i 6= x j .

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 52: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

MyDE

Actualizacion de la malla autoadaptativa

El mecanismo se activa si:

Se llena la rejilla

Un individuo cae en una zona nocubierta

Y el calculo del tamano delhiper-cuadrado: tamanoi =

Xi,max−Xi,min

mallaCada vez que se actualiza la rejilla, serecalculan los hiper-cuadrados asignadosa todos los individuos dentro de larejilla.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 53: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

MyDE

Actualizacion de la malla autoadaptativa

El mecanismo se activa si:

Se llena la rejilla

Un individuo cae en una zona nocubierta

Y el calculo del tamano delhiper-cuadrado: tamanoi =

Xi,max−Xi,min

mallaCada vez que se actualiza la rejilla, serecalculan los hiper-cuadrados asignadosa todos los individuos dentro de larejilla.

Figura: Asignacion dehiper-cuadrados.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 54: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

ε-MyDE

Concepto de dominancia-ε

Propuesto por Laumanns en 2002.

Figura: Dominancia de Pareto

Dominancia de Pareto:

Si ~f , ~g ∈ <m, entonces ~f se dice que domina a ~g

denotado como ~f ≺ ~g , si y solo si:1. ∀i ∈ {1, . . . , m} : fi ≤ gi

2. ∃j ∈ {1, . . . , m} : fj < gj

Dominancia-ε:

Si ~f , ~g ∈ <m, entonces ~f se dice queε-domina a ~g para algun ε > 0, denotado

como ~f ≺ε ~g , si y solo1. ∀i ∈ {1, . . . , m} : (1− ε) · fi ≤ gi

Puede verse que esta es una forma relajada dedominancia que amplıa la zona de dominancia.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 55: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

ε-MyDE

Concepto de dominancia-ε

Propuesto por Laumanns en 2002.

Figura: Dominancia-ε

Dominancia de Pareto:

Si ~f , ~g ∈ <m, entonces ~f se dice que domina a ~g

denotado como ~f ≺ ~g , si y solo si:1. ∀i ∈ {1, . . . , m} : fi ≤ gi

2. ∃j ∈ {1, . . . , m} : fj < gj

Dominancia-ε:

Si ~f , ~g ∈ <m, entonces ~f se dice queε-domina a ~g para algun ε > 0, denotado

como ~f ≺ε ~g , si y solo1. ∀i ∈ {1, . . . , m} : (1− ε) · fi ≤ gi

Puede verse que esta es una forma relajada dedominancia que amplıa la zona de dominancia.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 56: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

ε-MyDE

Arreglo de identificacion B

A cada solucion dentro del archivo externo se le asigna un arreglode identificacion (B = (B1,B2, . . . ,BFUN)T ) como sigue:

Bj(f ) =

{(b(fj − f min

j )/εjc), para minimizar fj ;

(d(fj − f minj )/εje), para maximizar fj .

donde: f minj es el valor mınimo posible del j-esimo objetivo y εj es

el valor de ε para el j-esimo objetivo.Este arreglo de identificacion divide todo el espacio de lasfunciones objetivo en hiper-cajas, cada una de las cuales tiene untamano εj en el j-esimo objetivo

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 57: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

ε-MyDE

Insertar un individuo en el archivo externo

c1 .- nuevo individuo a ingresara .- miembro del archivo externo

Figura: ε-MyDE. Caso 1

Caso 1:Si el Ba de cualquier individuo del archivo

externo domina al nuevo individuo ci

Entonces el nuevo individuo se rechazaCaso 2:

Caso 3:Caso 4:

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 58: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

ε-MyDE

Insertar un individuo en el archivo externo

c1 .- nuevo individuo a ingresara .- miembro del archivo externo

Figura: ε-MyDE. Caso 2

Caso 1:Caso 2:

Si el nuevo individuo ci domina a cualquier Ba

del archivo externo, este miembro es eliminado yel nuevo individuo es aceptado.

Caso 3:Caso 4:

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 59: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

ε-MyDE

Insertar un individuo en el archivo externo

c1 .- nuevo individuo a ingresara .- miembro del archivo externo

Figura: ε-MyDE. Caso 3

Caso 1:Caso 2:

Entonces significa que el nuevo individuo es nodominado con respecto a los del archivo externo.

Caso 3:Si el nuevo individuo ci comparte el vector B con

algun individuo del archivo externo, se comparan conla dominancia de Pareto, y si ambos son no dominadosentonces se elige al que este mas cerca del vector B.Solo reemplaza al individuo en el archivo externoCaso 4:

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 60: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

ε-MyDE

Insertar un individuo en el archivo externo

c1 .- nuevo individuo a ingresara .- miembro del archivo externo

Figura: ε-MyDE. Caso 4

Caso 1:Caso 2:

Entonces significa que el nuevo individuo es nodominado con respecto a los del archivo externo.Caso 3:Caso 4:

El nuevo individuo ci no comparte el vector Bcon algun individuo del archivo externo.Siempre se acepta el nuevo individuo

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 61: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

ε-MyDE

Calculo del vector ~ε

Generar N soluciones dentro de los lımites de las variables,Determinar los maximos y mınimos valores para las funcionesobjetivo, Xmax

i y Xmini en base a las soluciones generadas,

Calcular el vector ~ε:

εi =(Xmax

i − Xmini )

l

donde:i ∈ (1, . . . ,FUN)

l =

{256, si son dos funciones objetivo;64, si son tres funciones objetivo.

Cada 5 o 15 generaciones se verifica el numero de solucionesen el archivo externo, y se actualiza el del vector ~ε en caso deser necesario.Resulta difıcil encontrar una relacion precisa entre el valor delvector ~ε y el numero de soluciones requeridas, pues estedepende de la forma del frente de Pareto.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 62: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

ε-MyDE

Comparacion entre MyDE y ε-MyDE

En MyDe se permite que varios individuos compartan elmismo hipercuadrado, en ε-MyDE no.

En MyDE se tiene que actualizar el tamano de la mallacontinuamente, en ε-MyDE se realiza un pre-calculo.

En MyDE se tiene un mecanismo para eliminar soluciones, enε-MyDE solo se permite la insercion.

En MyDE se cubren casi todos los frentes, pero ε-MyDEretiene las soluciones que se generan sobre el verdadero frente.

La distribucion de soluciones puede degradarse cuando seutiliza ε-MyDE, especialmente en zonas muy horizontales y/overticales.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 63: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

ε-MyDE

Objetivos Particulares

Desarrollar un algoritmo que resuelva problemas multiobjetivo yque ademas sea competitivo, cuidando los siguientes aspectos:

Controlar la alta velocidad de convergencia que tiene la ED.

Utilizando una mutacion uniforme.

Cuidar la alta capacidad de exploracion que tiene la ED, ybuscar una mejor explotacion de soluciones.

Utilizando una seleccion elitista.

Realizar un buen manejo de restricciones.

Permitiendo a individuos no factibles pero que esten cerca dela zona factible trascender a la siguiente generacion.

Escoger un buen metodo para la retencion de soluciones.

Usando la malla autoadaptativa y dominancia - ε

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 64: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

ε-MyDE

Objetivos Particulares

Desarrollar un algoritmo que resuelva problemas multiobjetivo yque ademas sea competitivo, cuidando los siguientes aspectos:

Controlar la alta velocidad de convergencia que tiene la ED.

Utilizando una mutacion uniforme.

Cuidar la alta capacidad de exploracion que tiene la ED, ybuscar una mejor explotacion de soluciones.

Utilizando una seleccion elitista.

Realizar un buen manejo de restricciones.

Permitiendo a individuos no factibles pero que esten cerca dela zona factible trascender a la siguiente generacion.

Escoger un buen metodo para la retencion de soluciones.

Usando la malla autoadaptativa y dominancia - ε

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 65: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

ε-MyDE

Objetivos Particulares

Desarrollar un algoritmo que resuelva problemas multiobjetivo yque ademas sea competitivo, cuidando los siguientes aspectos:

Controlar la alta velocidad de convergencia que tiene la ED.

Utilizando una mutacion uniforme.

Cuidar la alta capacidad de exploracion que tiene la ED, ybuscar una mejor explotacion de soluciones.

Utilizando una seleccion elitista.

Realizar un buen manejo de restricciones.

Permitiendo a individuos no factibles pero que esten cerca dela zona factible trascender a la siguiente generacion.

Escoger un buen metodo para la retencion de soluciones.

Usando la malla autoadaptativa y dominancia - ε

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 66: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

ε-MyDE

Objetivos Particulares

Desarrollar un algoritmo que resuelva problemas multiobjetivo yque ademas sea competitivo, cuidando los siguientes aspectos:

Controlar la alta velocidad de convergencia que tiene la ED.

Utilizando una mutacion uniforme.

Cuidar la alta capacidad de exploracion que tiene la ED, ybuscar una mejor explotacion de soluciones.

Utilizando una seleccion elitista.

Realizar un buen manejo de restricciones.

Permitiendo a individuos no factibles pero que esten cerca dela zona factible trascender a la siguiente generacion.

Escoger un buen metodo para la retencion de soluciones.

Usando la malla autoadaptativa y dominancia - ε

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 67: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Resultados a los Problemas sin Restricciones - KURSAWE

Parametros

Parametro MyDE NSGA-II PAES e-MyDE PDEP 100 100 100 100 100

NP 100 100 100 100 (auto) 100Gmax 50 50 50 50 50

Pc 0.95 0.8 nd 0.95 ndPm 1/N 1/N 0.05 1/N nd

F 0.5 nd nd 0.5 N(0, 1)elitismo 0.2 nd nd 0.2 nd

malla (20d ) nd (2d+8) nd nddonde: N = numero de variables

d = numero de funcionesnd = no requiere parametro

Tabla: Parametros utilizados en los diversos algoritmos para realizar laspruebas y comparaciones.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 68: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Resultados a los Problemas sin Restricciones - KURSAWE

Figura: MyDE y ε-MyDE

Figura: NSGA-II - Kursawe

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 69: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Resultados a los Problemas sin Restricciones - KURSAWE

Figura: MyDE y ε-MyDE

Figura: PAES - Kursawe

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 70: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Resultados a los Problemas sin Restricciones - KURSAWE

Figura: MyDE y ε-MyDE

Figura: PDE - Kursawe

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 71: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Resultados a los Problemas sin Restricciones - KURSAWE

Resultados de las Metricas

Metrica - Algoritmo media mejor peor desv. EstandarTE MyDE 0.272 0.17 0.39 0.0589915

NSGA-II 0.4575 0.31 0.64 0.0907208PAES 0.449 0.27 0.64 0.1026439

ε-MyDE 0.15792013 0.0654206 0.23301 0.04288708PDE 0.5085 0.25 0.64 0.0958219

DG MyDE 0.00397841 0.00324389 0.00636706 0.00084727NSGA-II 0.00416653 0.00308047 0.0061631 0.00086198

PAES 0.00434111 0.00208384 0.00802109 0.00172447ε-MyDE 0.00327069 0.00288871 0.00374484 0.00025872

PDE 0.00467552 0.00366814 0.00667008 0.000966D MyDE 0.09773811 0.0640408 0.114672 0.01709315

NSGA-II 0.06180859 0.047978 0.11722 0.01663756PAES 0.1709759 0.088026 0.258871 0.0403215

ε-MyDE 0.09448982 0.0548549 0.109133 0.01243547PDE 0.10522477 0.0687954 0.145438 0.0224935

C MyDE NSGA-II PAES ε-MyDE PDE Dominan

MyDE 0.765842 0.694059 0.388327 0.765842 0.6535175NSGA-II 0.395545 0.559901 0.234375 0.633663 0.455871PAES 0.434653 0.663861 0.267004 0.679703 0.51130525

ε-MyDE 0.661881 0.824752 0.759901 0.825743 0.76806925PDE 0.420297 0.676733 0.595545 0.238511 0.4827715

Son Dominados 0.478094 0.732797 0.6523515 0.28205425 0.72623775

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 72: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Resultados a los Problemas con Restricciones - KITA

Parametros

Parametro MyDE NSGA-II PAES e-MyDE PDEP 100 100 100 100 100

NP 100 100 100 100 (auto) 100Gmax 250 250 250 250 250

Pc 0.95 0.8 nd 0.95 ndPm 1/N 1/N 0.05 1/N nd

F 0.5 nd nd 0.5 N(0, 1)elitismo 0.7 nd nd 0.7 nd

malla 20d nd 2d+8 nd nddonde: N = numero de variables

d = numero de funcionesnd = no requiere parametro

Tabla: Parametros utilizados en los diversos algoritmos para realizar laspruebas y comparaciones.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 73: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Resultados a los Problemas con Restricciones - KITA

Figura: MyDE y ε-MyDE

Figura: NSGA-II - Kita

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 74: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Resultados a los Problemas con Restricciones - KITA

Figura: MyDE y ε-MyDE

Figura: PAES - Kita

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 75: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Resultados a los Problemas con Restricciones - KITA

Figura: MyDE y ε-MyDE

Figura: PDE - Kita

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 76: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Resultados a los Problemas con Restricciones - KITA

Resultados de las Metricas

Metrica - Algoritmo media mejor peor desv. EstandarTE MyDE 0.633 0.44 0.88 0.10120849

NSGA-II 0.316 0.19 0.53 0.09394287PAES 0.745 0.53 1 0.14099272

e-MyDE 0.01640604 0 0.0550459 0.01635306PDE 0.8395 0.35 1 0.21211901

DG MyDE 0.01691935 0.00269066 0.133402 0.03088439NSGA-II 0.01470336 0.00136745 0.0902511 0.02729836

PAES 0.06363661 0.00172828 0.384466 0.09234686e-MyDE 0.00491203 0.0014577 0.0464165 0.0097998

PDE 0.00576845 0.0003873 0.032941 0.00769517D MyDE 0.16569178 0.0461003 1.29876 0.29770626

NSGA-II 0.0925237 0.00705687 0.56773 0.1688492PAES 0.25630758 0.0352046 3.11293 0.67529755

e-MyDE 0.07363313 0.0394301 0.492726 0.09905315PDE 0.01728939 3.6065E-05 0.2736 0.06115304

C MyDE NSGA-II PAES ε-MyDE PDE Dominan

MyDE 0.444554 0.8 0.0304183 0.897634 0.54315158NSGA-II 0.799801 0.766832 0.0427757 0.666667 0.56901893PAES 0.690512 0.346535 0.34173 0.83179 0.55264175

ε-MyDE 0.948833 0.806436 0.926238 0.928498 0.90250125PDE 0.109786 0.0965347 0.431188 0.00522814 0.16068421

Son Dominados 0.637233 0.42351493 0.7310645 0.10503804 0.83114725

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 77: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

Conclusiones

Conclusiones

Se obtuvo un algoritmo competitivo que manejala ED.Se resolvieron problemas multiobjetivo conrestricciones utilizando la ED.El algoritmo propuesto tiene una alta velocidadde convergencia.

Trabajo Futuro

Encontrar otra forma de calcular el vector ~ε.Lograr una auto-adaptacion de parametros.Proponer un nuevo algoritmo que utilice otroesquema de la ED.

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial

Page 78: Evoluci´on Diferencial - Departamento de …delta.cs.cinvestav.mx/~ccoello/compevol/santana-clase...Introducci´on ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados

Introduccion ED Problema Multiobjetivo Algoritmos Metricas Propuesta Resultados Conclusiones

ED con Restricciones

Evolucion Diferencial con Restricciones

Luis Vicente Santana Quintero Centro de Investigacion y de Estudios Avanzados del IPN

Evolucion Diferencial