IRIN clase 140509

Redes Neuronales Artificiales: introducción yaplicaciones

Introducción a la Robótica INteligenteUniversidad Politécnica de Madrid

Eduardo Matallanas de Ávila

Estudiante de DoctoradoTEAT - ETSIT - UPM

www.robolabo.etsit.upm.es/personal.phpe-mail: [email protected]

09 de Mayo de 2014

www.robolabo.etsit.upm.es/personal.php

Redes Neuronales Artificiales Aplicaciones Redes Neuronales Biológicas Conclusiones

Contents

1 Redes Neuronales Artificiales

2 AplicacionesGenéricasEnergía: Un ejemplo concreto

3 Redes Neuronales Biológicas

4 Conclusiones

Eduardo Matallanas Redes Neuronales 2/67


Contents


2 Aplicaciones


4 Conclusiones



Características

Inspirada en el sistema nervioso.

Procesa la información de manera paralela y distribuida.

Operaciones en tiempo real para grandes cantidades dedatos.

Están formadas por unidades de proceso de lainformación denominadas neuronas.

Adquiere conocimiento del entorno a través de un procesode aprendizaje.

Las conexiones interneuronales, pesos sinápticos,almacenan la información.

Sistemas distribuido con altas capacidades decomputación.



Por qué usar ANN

Las redes neuronales son muy utilizadas por suspropiedades.

Carácter no lineal.Adaptabilidad.Generalización.Tolerancia a fallos.Descomposición de tareas.Escalabilidad.

También cuentan con desventajas.Complejidad en el diseño de la arquitectura.Gran cantidad de parámetros para ajustar.Dificultad para entrenar las redes.



Revisión histórica

1936 −→ Alan Turing comienza a estudiar el cerebro humano.1943 −→ McCulloch y Pitts, primeros modelos de neurona.1949 −→ Hebb publica la "regla de Hebb" para el aprendizaje.1958 −→ Rosemblatt desarrolla el perceptrón simple.1960 −→ Widrow y Hoff desarrollan ADALINE (ADAptativeLINear Elements).1960-1980 −→ se frena la investigación, al probar la debilidaddel perceptrón, Minsky y Papert.Años 80 −→ aparecen redes de Hopfield y el algoritmobackpropagation.Actualidad −→ uso en gran variedad de aplicaciones y áreasde conocimiento.Recientemente aparecen modelos computacionales mássimilares a como el cerebro procesa la información(Neurociencia).



Neurona

La neurona es la unidad de proceso más pequeña quecompone las redes neuronales.Está formada por:

Las entradas (xij ), símil biológico dentritas.Procesado de la información, símil biológico soma.La salida (yi ), símil biológico axón.

Neurona Biológica Neurona Artificial



Tipos de Redes Neuronales (I)

Gran variedad de tipos.

Se usan diferentes parámetros para su clasificación.1- Según la operación:

Neuronas LinealesNeuronas No Lineales, típicamente se usa la funciónsigmoidal.

x

ϕ(x)

x

ϕ(x)

x

ϕ(x)

Lineal Sinusoidal Sigmoidal



Tipos de Redes Neuronales (II)

2- Según la arquitectura.Monocapa, una única capa de neuronas.Multicapa, más de una capa de neuronas.

N3

N2

N1

Capa desalida

Capa deentrada

x3

x2

x1 y1

y2

y3 N3

N2

N1

Capaoculta

N5

N4

Capa desalida

Capa deentrada

x3

x2

x1

y1

y2

Monocapa Multicapa



Tipos de Redes Neuronales (III)

3- Según la dirección del flujo de información.Feedforward, la información va en una única direccióndesde la entrada a la salida.Feedback, la información se realimenta dentro de la redneuronal.

N3

N2

N1

Capaoculta

N5

N4

Capa desalida

Capa deentrada

x3

x2

x1

y1

y2N1 N2

w12w21

w11 w22

y1 y2

x1 x2θ1 θ2

N1 N2

Feedforward Feedback



Tipos de Redes Neuronales (IV)

Existen muchos criterios distintos de clasificación.Grado de conexión, total o parcialmente conectadas.Tiempo, continuo o discreto.Aprendizaje, supervisado o no supervisado.etcétera.

Gran diversidad de redes neuronales.Dificulta su diseño.



Diseño de Redes Neuronales

No existe ningún criterio específico.

Arquitectura muy relacionada con la aplicación.Algunos consejos generales:

Función de activación más usada: sigmoide → nolinealidad.Arquitecturas más usadas: Perceptrón Multicapa y RedesRecurrentes.Generalmente arquitectura piramidal.Utilizar de 1 a 3 capas ocultas.Capa: no neuronas ≤ no de entradas.Probar diferentes combinaciones de capas y neuronashasta obtener mejor resultado.Elegir el entrenamiento cuidosa y adecuadamente.



Perceptrón Multicapa (I)

Es una de las arquitecturas más usadas.Total o parcialmente conectada.Consiste en tres o más o capas con funciones deactivación no lineales.

Capa de entrada: se introduce la información, no suelehaber procesamiento.Capas ocultas: procesa la información introducida.Capas de salida: se obtiene la respuesta del sistema.

N3

N2

N1

Capaoculta

N5

N4

Capa desalida

Capa deentrada

x3

x2

x1

y1

y2



Perceptrón Multicapa (II)

Permiten representar estadísticos de mayor orden.Utilizadas en diversas aplicaciones por su fácilimplementación:

Resolución de problemas no lineales.Compresión de datos.Clasificación de patrones.Robótica.etc.



Redes Neuronales Recurrentes (I)

Más cerca a la representacióndel cerebro.

Son utilizadas por suspropiedades dinámicas.

La información es realimentadade nuevo en la red.

Aparece un comportamientotemporal dinámico.

No existe una estructura fija.

El estado interno es almacenadopara su uso en k + 1.

Presentan una memoria interna.

NN

N2

N1

z−1

z−1

z−1

yN [k + 1]

y[k]

θ

x[k]



Redes Neuronales Recurrentes (II)

Existen muchas implementaciones de estas redes.Se utilizan en diversas aplicaciones:

Predicción de series temporales.Machine learning.Robótica.Computational Neuroscience (CPG).etc.



Entrenamiento de Redes Neuronales

Consiste en buscar los parámetros libres de la red.Existen diversos tipos de entrenamientos, tales como:

Sintonización manual, tamaños de red pequeños.Algoritmos de aprendizaje, son los más utilizados,algoritmos de búsqueda local.Algoritmos genéticos, son algoritmos de búsquedaglobal.etc.



Algoritmos de aprendizaje (I): Tipos

Actualizan los pesos de la red en función del errorcometido.Existen 4 tipos en función de como cuantificar el error:

Supervisado, el error se cuantifica en base a un objetivoque actualiza el estado interno de la red.No supervisado o autoorganizado, estima una funcióndensidad de probabilidad con reglas mediante las queagrupa su salidas.Híbrido, es una combinación de los dos anteriores, seutiliza una función de mejora.Reforzado, el error es un índice global del rendimiento dela red, no esta basado en un objetivo.

Los algoritmos de aprendizaje más utilizado sonsupervisados.Backpropagation es un algoritmo de descenso delgradiente, se ejecuta en dos fases.



Algoritmos de aprendizaje (II): Clasificación

Modelos de redes neuronales artificiales

Supervisado No supervisado

Realimentados Unidireccionales

BSB PerceptrónFuzzy Cog. Map Adalina/MadalinaBP through time Perceptrón Multicapa

Back Propagation (BP)Time-delay NN

CMACCorrelación en cascadaMáquina de Boltzman

LVQGRNN

Support Vector Machine

Realimentados Unidireccionales

ART LAM y OLAMHopfield Mapas de Kohonen

BAM NeocognitrónRedes PCA

Híbrido Reforzado

RBF Premio-castigo asociativoContrapropagación Crítico adaptativo



Algoritmos de aprendizaje (III): Esquema



Problemas durante el entrenamiento

Underfitting: el error del entrenamiento y de prueba sonaltos.

Causas: red simple, insuficiente aprendizaje.Overfitting: el error de entrenamiento es bajo y de pruebaes alto.

Causas: red compleja, no hay suficientes datos para elentrenamiento.

Mínimos locales: el entrenamiento alcanza un errormínimo que no es absoluto.

Solución: reinicializar los pesos, utilizar algoritmos debúsqueda global (genético)



Algoritmo Genético (I): Definiciones

Bioinspirados en procesos evolutivos.

Los algoritmos genéticos son algoritmos de búsquedaprobabilística u optimización que transformaniterativamente un conjunto de objetos matemáticosllamado población, cada uno con un valor de coste(fitness) asociado, en una nueva población dedescendientes usando operaciones genéticas naturales.

Cada población está formada por un conjunto deindividuos, que a su vez están compuestos de una cadenade caracteres o cromosoma.

A cada carácter del cromosoma se le denomina gen.



Algoritmo Genético (II): Características

Los algoritmos genéticos se caracterizan por:

Trabajar con una codificación del conjunto de parámetrosen una cadena de caracteres de longitud finita sobre unalfabeto finito (cromosoma).

Utilizar una población de individuos, de esta forma se tieneuna visión del conjunto y no de un sólo punto. Se realizauna búsqueda en paralelo.

Usar una función objetiva (fitness) o información del costeasociado a cada individuo y prescindir de cualquier otroconocimiento; concentrándose en la búsqueda de mejoresindividuos.

Usar reglas probabilísticas para las transiciones entregeneraciones.



Algoritmo Genético (II): Operadoresgenéticos

Los operadores genéticos para construir el algoritmo genéticomás utilizados son:

Reproducción: consiste en copiar a los mejoresindividuos, según su coste asociado, de la generaciónanterior a la generación siguiente.

Crossover (reproducción sexual): se escoge a dosindividuos de la nueva generación y se cruzan ambosindividuos a partir de un punto del cromosoma.

Mutación: cada gen muta con una probabilidad baja.



Contents


2 Aplicaciones


4 Conclusiones



Contents




Aplicaciones

Existen multitud de aplicacionesen las que se usan redesneuronales.

Clasificación.Asociación.Predicciones.Control.Aproximación.Optimización.etc.

En general se pueden aplicar acualquier problema.

Uso en problemas difíciles dedescribir y complejos de resolver.

Hay que disponer de una grancantidad de datos.



Clasificación (I)

Extracción de características.

Identificación de diferentes grupos.

Se establecen clases para identificar cada uno de losgrupos.

Ejemplos:



Clasificación (II)

Función lógica no lineal Clasificación de un conjunto



Clasificación (III)

MLP

Espacio clasificado Representación en el espacio neuronal



Ejemplos clasificación

Inspección Visual Biometría

Reconocimiento de caracteres Reconocimiento de voz



Problemas de asociación

Tratamiento de vozNETalk: generagonemas a partir detextos escritos.Reconocimiento depalabras en texto.

Tratamiento de imágenesTratamiento de ruido.Restitución.

Compresión deinformación.



Predicción

Consiste en anticipar el valor de una determinada serietemporal.

Se utilizan datos pasados.

Mayor cantidad de datos más preciso es el modelo.Algunos ejemplos:

Demográfica, tiempo atmosférico, finanzas, energía, etc.



Control

Desarrollo de sistemas decontrol.Utilizados en:

Manipulación de piezas.Cinemática Inversa y análisisde Esfuerzos.Navegación autónoma.Planeación de trayectorias.Visión artificial.Movimiento de robots.



Optimización

Una red neuronal puede aproximar una función lineal o nolineal cualquiera.

Los pesos almacenan la información para parecerse a lafunción.

MLP: es un aproximador universal de funciones.

En optimización se utilizan para encontrar la mejorsolución.

El camino óptimo entre las diferentes opciones posibles.



Contents




Problema de la energía (I)



Problema de la energía (II)

Características de la redeléctrica:

Sistema muy grandeCentralizadoRobustoPoco eficiente −→ muchaspérdidas

Debe satisfacer la demanda demanera instantánea.

Poca capacidad dealmacenamiento de energía en elsistema



Solución

La solución adoptada:Generación distribuida, origen renovable.Gestión de la Demanda Eléctrica Local.

MagicboxCapacidad de controlar los electrodomésticos.Predicción del recurso energético disponible.



Controlador Neuronal (I): Objetivos

El objetivo del controlador es:Maximizar el autoconsumo de la energía generadalocalmente.

Planificación de las tareas en el intervalo del usuario.Coordinación de las tareas planificadas para que no sesolapen.



Controlador Neuronal (II): Arquitectura



Planificador (I): Características

Posiciona las tareas sobre eleje temporal maximizando elautoconsumo.Las entradas son:

Intervalo de ejecución de latarea.Perfil fotovoltaico depotencia predicha.

Formado por tantas redesneuronales como tareas aplanificar.

Naturaleza distribuida.



Planificador (II): Ejemplo



Planificador (III): Arquitectura Neuronal

Estructura estáticaCada una de las redes neuronalesestará formada por:

26 neuronas en la capa deentrada.13 neuronas en la capa oculta.1 neurona en la capa de salida.



Planificador (IV): Algoritmo Genético

El cromosoma contiene ganancias, pesos y sesgos de lared neuronal (391 genes).El algoritmo se compone de:

10.000 generaciones.100 individuos por generación.Operadores genéticos básicos.Función de fitness: compara el tiempo de salida de la redcon el tiempo de máxima generación en el intervalo dado.



Planificador (V): Evolución

Se ha realizado una evolución con:142 perfiles fotovoltaicos.

Restricciones temporales de 4 horas desplazados 2 horas a lo largo del

día.

Intervalo de restricción único.

La evolución por tramos:

No perfiles Intervalo temporal Mejor coste Generaciones

10 4 horas 0,9091740680 218930 4 horas 0,9172684079 99650 4 horas 0,9027720441 28790 4 horas 0,8171219180 2189

142 4 horas 0,7026183810 847142 24 horas 0,9060620785 700



Planificador (VI): Evolución

10 perfiles / 4 horas 30 perfiles / 4 horas 50 perfiles / 4 horas

90 perfiles / 4 horas 142 perfiles / 4 horas 142 perfiles / 24 horas



Planificador (VII): Resultado de la Evolución

tplan ≃ tmax |tplan − tmax | < 1 hora |tplan − tmax | > 1 hora

Intervalo de 4 horas 96% 3% 1%

Intervalo único 90% 6% 4%



Coordinador (I): Características

Reparte los tiemposplanificados sobre el ejetemporal para que no solapenlas tareas.Las entradas al coordinadorse agrupan por pares y son:

Tiempo planificado.Duración de la tarea.

Una única red neuronal.

Naturaleza distribuida.



Coordinador (III): Arquitectura Neuronal

Estructura modular.

El número de neuronas de cadacapa depende del número detareas.La red neuronal está formada por:

2 · n neuronas en la capa deentrada.n + 1 neuronas en la capa oculta.n neuronas en la capa de salida.

Se ha fijado el número de tareas a7.

La modularidad se ha mantenidocon interruptores entre capas.



Coordinador (IV): Algoritmo Genético

Utilizado para la sintonización de la red neuronal.El cromosoma contiene ganancias, pesos y sesgos de lared neuronal (197 genes).El algoritmo se compone de:

10.000 generaciones.100 individuos por generación.Operadores genéticos básicos.Función de fitness:

La separación entre las tareas coordinadas.La relación entre la entrada y la salida.



Coordinador (V): Evolución

La evolución consiste en evaluar cada uno de losindividuos asignándoles un coste.Trata de maximizar con respecto a la función de coste.Se ha realizado una evolución con:

7 tareas.Tiempo de planificación varía desde las 10 a.m. a 8 p.m. dehora en hora.Duración de cada una de las tareas.

La evolución ha utilizado todas las generacionesobteniendo un mejor coste de 0,3774463950.



Coordinador (VI): Resultado de la Evolución

En caso de que las tareas no solapen:Resuelto en el 92 de las situaciones.En un 3.5 se desvía menos de 10 minutos del intervalo derestricción del usuario.En un 1.5 se desvía más de 30 minutos.En el 3 se produce un solapamiento inferior a 10 minutos.

En caso de no estar solapadas:En un 95 de los casos se mantienen los tiempos deentrada.En un 5 varía el tiempo en menos de 15 minutos.



Coordinador (VII): Resultado de la Evolución

Caso 1: Entrada Caso 1: Salida

Caso 2: Entrada Caso 2: Salida



Resultados (I): Postevaluación

Para la postevaluación del sistema completo se hanutilizado:

El resto de perfiles fotovoltaicos del año (223 perfiles).Vector de entradas de 3 tareas con 11 intervalostemporales de 4 horas cada uno.

Los resultados son:

tplan ≃ tmax |tplan − tmax | < 1 hora |tplan − tmax | > 1 hora

Planificación 87 10% 3%

Correcto tu < 10 min tu > 30 min

Coordinación 89 7% 4%

Planificación correcta / Planificación incorrecta /

Coordinación correcta Coordinación incorrecta

Sistema completo 85 15%



Resultados (II): Ejemplo

Datos de entrada por parte del usuario:

Límite de tiempos lavadora 12:00h - 16:00hParámetros de lavado Temperatura: 90◦C, Revoluciones: 1200 rpm

Límite de tiempos secadora 10:00h -19:00hParámetros de secado Secado rápido, Revoluciones: 1200 rpm

Límite de tiempos lavavajillas 8:00h - 20:00hParámetros de lavado Lavado rápido



Resultados (III): Caso Peor

Entrada Planificación

CoordinaciónEduardo Matallanas Redes Neuronales 57/67


Resultados (IV): Caso Mejor

Entrada Planificación

CoordinaciónEduardo Matallanas Redes Neuronales 58/67


Contents


2 Aplicaciones


4 Conclusiones



Neurociencia

Ciencia que estudia el sistemanervioso.

Campo multidisciplinar: biología,psicología, química, ingeniería,etc.Estudian los campos:

MolecularCelularSistemas y circuitos neuronalesComportamientoCognitiva

Carrera por simular el cerebro.



SPAUN

Semantic Pointer Architecture Unified Network.Primer sistema de gran escala del cerebro.2.5 millones de neuronas.Neuronas tipo Leaky integrate-and-fire (LIF)Realiza 8 tareas:

reconoce, dibuja, aprende por refuerzo, cuenta, memoriza,responde preguntas, crea variables y razona

Todas las tareas se ejecutan a la vez.



NEF (I)

Neural Engineering Framework.

Teoría en la que estáimplementado SPAUN.

Provee funciones de alto nivelpara usar redes de neuronas LIF.

General, unificado y cuantitativo.Basado en tres principios:

RepresentaciónTransformaciónDinámica

Software: Nengo (Python + Java)



NEF (II)

Representación:Un tren de impulsos neuronales es codificado en un espacio vectorial.

Transformación:Se pueden aplicar diferentes funciones sobre el espacio vectorial.

Dinámica:Los vectores neuronales son variables de estado de un sistema dinámico.

Modelo más realista desde el punto de vista biológico.



Contents


2 Aplicaciones


4 Conclusiones



Conclusiones

Repaso histórico de las RNA.

Tipos de RNA más usados.

Algoritmos de entrenamiento utilizados y cómo utilizarlos.

Aplicaciones generales para las que se utilizan.

Aplicación concreta de MLP y algoritmo genético.

Nuevas tendencias en redes neuronales.

NEF y SPAUN como nuevos horizontes de estudio deredes neuronales.



Dudas o preguntas



Muchas gracias

Eduardo Matallanas de Ávila

[email protected]

http://www.robolabo.etsit.upm.es/∼matallanas/


Education

IRIN clase 140509