navegaci on mediante evoluci on de redes neuronales ... · reconocimiento de patrones o extracci on...

62
Navegaci´ on mediante Evoluci´on de Redes Neuronales Recurrentes y Din´ amicas Tesis Doctoral dirigida por Blanca Cases y Alvaro Moreno Bergareche Pablo Gonz´ alez Nalda Depto. de Lenguajes y Sistemas Inform´ aticos 10 de octubre de 2008

Upload: others

Post on 28-Jun-2020

4 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Navegacion mediante Evolucion deRedes Neuronales Recurrentes y

DinamicasTesis Doctoral dirigida por Blanca Cases y

Alvaro Moreno Bergareche

Pablo Gonzalez Nalda

Depto. de Lenguajes y Sistemas Informaticos

10 de octubre de 2008

Page 2: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Introduccion

Objetivo: desarrollo exploratorio de la Robotica Evolutiva confines tecnicos.

Marco teorico verificado experimentalmente.

Experimentos:

Simulacion de un robot y su entorno

comportamiento de navegacion en entornos noestructurados

sonidos reales como unicos puntos de referencia

2 / 62

Page 3: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Contenidos de la presentacion

1 Area de investigacion

2 Robotica Evolutiva

3 Objetivos del trabajo

4 Diseno de Topos

5 Resultados

6 Analisis de un individuo

7 Conclusiones3 / 62

Page 4: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

Robotica

Entorno

Sımbolos

Conexionismo

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

1 Area de investigacion

2 Robotica Evolutiva

3 Objetivos del trabajo

4 Diseno de Topos

5 Resultados

6 Analisis de un individuo

7 Conclusiones

4 / 62

Page 5: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

Robotica

Entorno

Sımbolos

Conexionismo

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Robotica en entornos no estructurados

Entorno no estructurado: representacion inviable

por falta de informacion,

porque el entorno es cambiante

descripcion no manejable por complicada.

Robotica Evolutiva adecuada (diseno automatico)

5 / 62

Page 6: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

Robotica

Entorno

Sımbolos

Conexionismo

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Espectro de control robotico

Espectro de control robotico [Arkin, 1998]: sistemasdeliberativos

simbolicos,

basados en Inteligencia Artificial “clasica” y

adecuados para entornos altamente estructurados,

a sistemas reactivos

subsimbolicos,

basados en sistemas conexionistas y

adecuados para entornos no estructurados.

6 / 62

Page 7: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

Robotica

Entorno

Sımbolos

Conexionismo

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Conceptos para la Robotica

Corporeidad: el controlador depende de lamorfologıa del robot [Brooks, 1991]

Ubicacion: un robot debe estar acoplado a suentorno y tomarlo como el modelo delmundo [Brooks, 1991]

Simulaciones mınimas: se pueden construir simulacionessencillas que produzcan controladoresvalidos para robots fısicos [Jakobi,1998]

7 / 62

Page 8: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

Robotica

Entorno

Sımbolos

Conexionismo

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Diseno automatico

Diseno a mano: el programador elige

la manera de procesar los datos

determina que informacion es relevante

Diseno automatico: el sistema facilita

la evolucion el conjunto de hardware y controlador

la aplicacion de los conceptos de corporeidad y ubicacion

la decision de la estructura perceptiva

8 / 62

Page 9: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

Robotica

Entorno

Sımbolos

Conexionismo

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Inspiracion Biologica

Referente en el diseno de robots autonomos

funcional

estructural

con diferentes niveles de inspiracion

Robotica Biomimetica: copia estructural y funcional

9 / 62

Page 10: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

Robotica

Entorno

Sımbolos

Conexionismo

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Entorno multidisciplinar

Referente teorico para objetivo tecnico, no descriptivo:

Biologıa: evolucion y morfologıa

Neurociencias: estructura y su relacion con lapercepcion

Psicologıa: percepcion basica y comportamiento

Filosofıa de la Ciencia: vision de conjunto y abstraccion de losmecanismos

Prioridad del objetivo practico frente al conocimiento

10 / 62

Page 11: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

Robotica

Entorno

Sımbolos

Conexionismo

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Inteligencia, Emergencia, Autoorganizacion y VidaArtificial

La Inteligencia a traves de la Vida Artificial

Comportamiento funcional complejo

resultado de la dinamica global emergente

interaccion de multitud de elementos

mediante reglas locales simples

no reducible al comportamiento de las partes

11 / 62

Page 12: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

Robotica

Entorno

Sımbolos

Conexionismo

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Sımbolos o Base Fısica

La Hipotesis del Sistema de Sımbolos

Los sensores suministran sımbolos.

Por ello el sistema de razonamiento puede separarse delsensomotor.

La Hipotesis de la Base Fısica

Los sistemas deben usar representaciones basadas en elmundo fısico: “Es mejor usar el mundo como su propiomodelo” [Brooks, 1991]

La Inteligencia es inseparable del cuerpo y del entorno.

12 / 62

Page 13: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

Robotica

Entorno

Sımbolos

Conexionismo

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Conexionismo, PDP

Procesamiento Distribuido Paralelo: procesamientosubsimbolico de la informacion por un conjunto de elementossimples con reglas locales, de los que emerge una dinamicaglobal.

Inspirados en:

Fısica: Enfriamiento Estadıstico (SimulatedAnnealing)

Topologıa: SOM o Redes de Kohonen

Probabilidad: Redes Bayesianas

Neurociencias: Redes Neuronales

13 / 62

Page 14: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos ysituacion actual

Lıneas de trabajo

Simulaciones eimplementaciones

Lımites y problemas

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

1 Area de investigacion

2 Robotica Evolutiva

3 Objetivos del trabajo

4 Diseno de Topos

5 Resultados

6 Analisis de un individuo

7 Conclusiones

14 / 62

Page 15: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos ysituacion actual

Lıneas de trabajo

Simulaciones eimplementaciones

Lımites y problemas

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Objetivos de la Robotica Evolutiva

La Robotica Evolutiva

estudia mecanismos cognitivos creando modelos

crea sistemas con comportamientos funcionalmente mascomplejos

encuentra mejores soluciones para entornos noestructurados mediante

sistemas subsimbolicosdiseno automatico

15 / 62

Page 16: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos ysituacion actual

Lıneas de trabajo

Simulaciones eimplementaciones

Lımites y problemas

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Lıneas de trabajo en la Robotica Evolutiva

Estudio de los procesos cognitivos [Harvey, Di˜Paolo,Wood, Quinn, and Tuci, 2005].

Validacion de teorıas neurocientıficas y biologicas, comola Fonotaxia del grillo [Webb, 2002, Lund, Webb, andHallam, 1997].Estudio procesos cognitivos con objetivostecnicos [Suzuki and Floreano, 2008, Suzuki, 2007].

Estudio de los modelos como sistemas dinamicos [Beer,1992].

16 / 62

Page 17: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos ysituacion actual

Lıneas de trabajo

Simulaciones eimplementaciones

Lımites y problemas

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Simulaciones e implementaciones en robots fısicos

Se han definido dos lıneas en cuanto a las simulaciones:

es inutil trabajar solo en simulacion porque no se asegurasu funcionamiento en la realidad [Floreano and Mondada,1996].

es posible definir una simulacion mınima que permite ofacilita saltar de simulacion a realidad [Jakobi, 1998].

17 / 62

Page 18: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos ysituacion actual

Lıneas de trabajo

Simulaciones eimplementaciones

Lımites y problemas

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Lımites y problemas de la Robotica Evolutiva

Dos problemas principales:

Morfogenesis: desarrollo de una forma a partir de lainformacion genetica

Escalabilidad : aplicacion del mecanismo a problemascuantitativamente mas complejos

18 / 62

Page 19: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Percepcion

Problemaplanteado

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

1 Area de investigacion

2 Robotica Evolutiva

3 Objetivos del trabajo

4 Diseno de Topos

5 Resultados

6 Analisis de un individuo

7 Conclusiones

19 / 62

Page 20: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Percepcion

Problemaplanteado

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Objetivo principal del trabajo

Objetivo principal del trabajo

Obtencion de un robot en simulacion

navegacion en entornos no estructurados

diferenciar senales variables en el tiempo

sonidos como puntos de referencia

sin mapas ni otros sistemas de localizacion

Navegacion

Navegacion es el movimiento dirigido de un agente, generadoanalizando aquella informacion sensorial que el agentenecesita para realizar sus funciones vitales

20 / 62

Page 21: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Percepcion

Problemaplanteado

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Navegacion: corporeidad y simetrıa axial

Vehıculos de Braitenberg [Braitenberg, 1984].

21 / 62

Page 22: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Percepcion

Problemaplanteado

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Navegacion: Percepcion y Redes Neuronales

Redes Neuronales:

sistemas conexionistas

generalizacion y parametrizacion

inspiracion biologica

reconocimiento de patrones o extraccion decaracterısticas (navegacion)

paralelamente, adquisicion de informacion y control de laparte motora

Las Redes Neuronales de Pulsos

tienen mas potencia de procesamiento temporal de laentrada [Maass, 1997, Izhikevich, 2006]

mas resistentes al ruido (activacion digital) [Maass, 1997]

22 / 62

Page 23: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Percepcion

Problemaplanteado

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Problema implementado en la aplicacion Topos

Simulacion de un robot que:

navega usando puntos de referencia basados en sonidoreal

distingue dos senales compuestas que varıan en el tiempo(sonido real)

recibe una senal que varıa independientemente de sumovimiento

elige una de las dos senales acercandose a ella en unesquema caja de Skinner

percibe y actua a traves de una Red Neuronal de Pulsosy sensores evolucionados

se disena con un enfoque fuertemente bioinspirado

23 / 62

Page 24: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Descripcion global

Faros

Topos

Oıdos

Neuronas

Algoritmo Genetico

Fitness

Resultados

Analisis de unindividuo

Conclusiones

Referencias

1 Area de investigacion

2 Robotica Evolutiva

3 Objetivos del trabajo

4 Diseno de Topos

5 Resultados

6 Analisis de un individuo

7 Conclusiones

24 / 62

Page 25: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Descripcion global

Faros

Topos

Oıdos

Neuronas

Algoritmo Genetico

Fitness

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Diseno de Topos

Simulacion de un robot de dos ruedas.

Superficie rectangular con dos fuentes de sonido.

Red Neuronal de Pulsos que conecta sensores con motores.

Se evoluciona una poblacion de robots con un AlgoritmoGenetico elitista.

Seleccion: acercarse a la fuente de sonido determinada alprincipio de las pruebas (caja de Skinner).

25 / 62

Page 26: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Descripcion global

Faros

Topos

Oıdos

Neuronas

Algoritmo Genetico

Fitness

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Proceso auditivo

26 / 62

Page 27: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Descripcion global

Faros

Topos

Oıdos

Neuronas

Algoritmo Genetico

Fitness

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Fuentes de sonido o faros

Los faros son fuentes de sonido estereo.

27 / 62

Page 28: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Descripcion global

Faros

Topos

Oıdos

Neuronas

Algoritmo Genetico

Fitness

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Individuos o topos

Los topos son simetricos por diseno. Se componen de:

dos oıdos con oıdo externo e interno (coclea)dos subredes neuronales interconectadasinformacion geneticaposicion

28 / 62

Page 29: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Descripcion global

Faros

Topos

Oıdos

Neuronas

Algoritmo Genetico

Fitness

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Oıdo interno (Transformada de Fourier) yactivacion de neuronas sensoras

Los sensores simulan los campos receptivos de nuestros oıdos.

A la activacion del sensor se le resta un numero aleatorio(ruido de la senal).

29 / 62

Page 30: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Descripcion global

Faros

Topos

Oıdos

Neuronas

Algoritmo Genetico

Fitness

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Funcionamiento de las neuronas

st−1i =

N∑j=1

wijat−1j

ati = f(st−1i )

f(x) =

{x, si x < θi

e−αp · cos(βp), si x ≥ θi p pasos de actualizacion

30 / 62

Page 31: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Descripcion global

Faros

Topos

Oıdos

Neuronas

Algoritmo Genetico

Fitness

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Algoritmo Genetico

La representacion del individuo en el genotipo es directa.

Los parametros del robot se codifican en numeros reales yenteros, y booleanos codificados como enteros.

La evolucion es elitista:

el 25 % mejor: pasa a la siguiente generacion.

el 25 % peor: se desecha.

el 75 % mejor (elite incluida): cruce y creacion de lasiguiente generacion.

Mutacion: 10 % de las copias de datos (gaussiana de media 1).

31 / 62

Page 32: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Descripcion global

Faros

Topos

Oıdos

Neuronas

Algoritmo Genetico

Fitness

Resultados

Analisis de unindividuo

Conclusiones

Referencias

El problema y la funcion de adecuacion o fitnessfunction

El problema se considera complejo pero la funcion deadecuacion es sencilla:

resta un valor proporcional al cuadrado de la distanciamınima al faro correcto

suma un valor proporcional al cuadrado de la distanciamınima al faro incorrecto

se suma (resta) una bonificacion si se ha acercado a unadistancia del faro.

el valor final es la media de cinco pruebas, sustituyendolos negativos por cero.

32 / 62

Page 33: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Descripcion global

Faros

Topos

Oıdos

Neuronas

Algoritmo Genetico

Fitness

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Ejemplo de movimiento de un robot

33 / 62

Page 34: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Evaluacion absoluta

Correccion

Senales complejas

Ruido

Silencio

PCM

Analisis de unindividuo

Conclusiones

Referencias

1 Area de investigacion

2 Robotica Evolutiva

3 Objetivos del trabajo

4 Diseno de Topos

5 Resultados

6 Analisis de un individuo

7 Conclusiones

34 / 62

Page 35: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Evaluacion absoluta

Correccion

Senales complejas

Ruido

Silencio

PCM

Analisis de unindividuo

Conclusiones

Referencias

Resultados de los experimentos realizados conTopos

Evaluacion: acertar, fallar o no alcanzar una fuente de sonido.

Valores que indican la capacidad de hacer la tarea enporcentaje de efectividad.

eficacia absoluta: efa = aciertos/pruebas

eficacia relativa: efr = aciertos/(aciertos+fallos)

Estas cantidades indican de forma absoluta la capacidad desolucionar un problema, frente a una fitness relativa difıcil deinterpretar.

35 / 62

Page 36: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Evaluacion absoluta

Correccion

Senales complejas

Ruido

Silencio

PCM

Analisis de unindividuo

Conclusiones

Referencias

Comprobacion del sistema sin sonido y con unsonido en un faro

36 / 62

Page 37: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Evaluacion absoluta

Correccion

Senales complejas

Ruido

Silencio

PCM

Analisis de unindividuo

Conclusiones

Referencias

Comprobacion del sistema con dos sonidos igualesen los faros

37 / 62

Page 38: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Evaluacion absoluta

Correccion

Senales complejas

Ruido

Silencio

PCM

Analisis de unindividuo

Conclusiones

Referencias

Reconocimiento de una determinada intensidad desenal(ruido rosa contra blanco)

38 / 62

Page 39: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Evaluacion absoluta

Correccion

Senales complejas

Ruido

Silencio

PCM

Analisis de unindividuo

Conclusiones

Referencias

Reconocimiento de una secuencia temporal

39 / 62

Page 40: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Evaluacion absoluta

Correccion

Senales complejas

Ruido

Silencio

PCM

Analisis de unindividuo

Conclusiones

Referencias

Robustez frente al ruido (baterıa y rock)

40 / 62

Page 41: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Evaluacion absoluta

Correccion

Senales complejas

Ruido

Silencio

PCM

Analisis de unindividuo

Conclusiones

Referencias

Comportamiento de la poblacion sin y con ruido

41 / 62

Page 42: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Evaluacion absoluta

Correccion

Senales complejas

Ruido

Silencio

PCM

Analisis de unindividuo

Conclusiones

Referencias

Con dos y cuatro fuentes de ruido blanco

42 / 62

Page 43: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Evaluacion absoluta

Correccion

Senales complejas

Ruido

Silencio

PCM

Analisis de unindividuo

Conclusiones

Referencias

Sonidos con partes de silencio

43 / 62

Page 44: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Evaluacion absoluta

Correccion

Senales complejas

Ruido

Silencio

PCM

Analisis de unindividuo

Conclusiones

Referencias

Resultados con sonidos con partes de silencio

44 / 62

Page 45: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Evaluacion absoluta

Correccion

Senales complejas

Ruido

Silencio

PCM

Analisis de unindividuo

Conclusiones

Referencias

Sonidos con formato PCM

45 / 62

Page 46: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Lımites

Conclusiones

Referencias

1 Area de investigacion

2 Robotica Evolutiva

3 Objetivos del trabajo

4 Diseno de Topos

5 Resultados

6 Analisis de un individuo

7 Conclusiones

46 / 62

Page 47: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Lımites

Conclusiones

Referencias

Dificultades en el analisis de un individuo

Es difıcil determinar cuales son las partes funcionales yque caracterısticas son necesarias.

El metodo es anular partes del individuo y observar si se siguecomportando igual, de forma degradada o se han perdido lascapacidades.

47 / 62

Page 48: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Lımites

Conclusiones

Referencias

Poda de un individuo (experimento con partes desilencio)

Numero de neurona (negro). Conexiones y retardos de lasconexiones entrantes en naranja (peso positivo) y azul (pesonegativo). Los pesos de los sensores son todos positivos (colorvino). El retardo de valor 56 es recursivo.

48 / 62

Page 49: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Lımites

Conclusiones

Referencias

Sensores

Sensores FC Umbral Bandas Saturacion Peso

0 y 5 2292.9 20 5 22 791 y 4 1391.7 23 15 269 52

Su separacion a cada lado del eje es de 64◦.49 / 62

Page 50: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Conclusionesglobales

Trabajo futuro

Referencias

1 Area de investigacion

2 Robotica Evolutiva

3 Objetivos del trabajo

4 Diseno de Topos

5 Resultados

6 Analisis de un individuo

7 Conclusiones

50 / 62

Page 51: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Conclusionesglobales

Trabajo futuro

Referencias

Resultados: viabilidad de un desarrollo tecnico enla Robotica Evolutiva

Se ha construido una simulacion en la que se obtienemediante estrategias evolutivas un robot que:

navega usando puntos de referencia complejos

distingue y elige una de las dos senales compuestas quevarıan en el tiempo (sonido real)

recibe una senal que varıa independientemente de sumovimiento

percibe y actua a traves de una Red Neuronal de Pulsosy sensores evolucionados

se disena con un enfoque fuertemente bioinspirado

51 / 62

Page 52: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Conclusionesglobales

Trabajo futuro

Referencias

Conclusiones

El robot tiene un comportamiento de navegacion al diferenciarsonidos variables en el tiempo que usa como puntos dereferencia.

El resultado valida el metodo como adecuado para obtenerrobots que desarrollen tareas complejas en entornos noestructurados.

El controlador del robot es mucho mas sencillo que lo queharıa falta con tecnicas de IA clasica.

52 / 62

Page 53: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Conclusionesglobales

Trabajo futuro

Referencias

Dificultades comprobadas en la construccion delsistema

La aplicacion tiene un diseno tradicional en la RoboticaEvolutiva.

Se ha comprobado que este tipo de diseno dificulta lassiguientes tareas:

es difıcil conseguir una descripcion adecuada de un robotcon esta complejidad para su uso evolutivo.

el robot resultante no es suficientemente flexible paraadaptarse a nuevas tareas o planteamientos.

Estas dificultades forman la base del trabajo futuro.

53 / 62

Page 54: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Conclusionesglobales

Trabajo futuro

Referencias

Trabajo futuro

Morfogenesis: expresion no lineal de la informaciongeneticasensores (exteroceptores y propioceptores)y motores complejostopologıa de la red neuronal mas variadaneuronas mas potentes y mecanismos deaprendizaje

Escalabilidad : los entornos complejos y la morfogenesispermitiran tareas complejas y estructurasinalcanzables con diseno a mano.

54 / 62

Page 55: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Navegacion mediante Evolucionde Redes Neuronales

Recurrentes y DinamicasTesis Doctoral dirigida por Blanca Cases

y Alvaro Moreno Bergareche

Pablo Gonzalez Nalda

Depto. de Lenguajes y Sistemas Informaticos

10 de octubre de 2008

Page 56: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Conclusionesglobales

Trabajo futuro

Referencias

Contenidos de la presentacion

1 Area de investigacion

2 Robotica Evolutiva

3 Objetivos del trabajo

4 Diseno de Topos

5 Resultados

6 Analisis de un individuo

7 Conclusiones56 / 62

Page 57: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Izhikevich, Hopfield, Paugam-Moisy

Izhikevich: equilibrio entre plausibilidad biologica de losmodelos del tipo Hodgkin-Huxley y eficienciacomputacional de los modelos de neuronasintegrar-y-disparo [Izhikevich, 2006]

Hopfield: red asociativa [Hopfield, 1982]

Paugam-Moisy: aprendizaje hebbiano con reglas STDP(Spike-Timing DependentPlasticity) [Paugam-Moisy, Martinez, andBengio, 2008]

Page 58: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

vi = 0,04v2i + 5vi + 140− ui + I (1)

ui = a(bvi − ui) (2)

si vi ≥ 30mV

{vi ← c

ui ← ui + d(3)

Page 59: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Bibliografıa I

R. Arkin. Behavior-Based Robotics. MIT Press, Cambridge,MA., 1998.

R. Beer. A dynamical systems perspective onagent-environment interaction. Artificial Intelligence, 1992.

V. Braitenberg. Vehicles. Experiments in SyntheticPsychology. MIT Press, MA, 1984.

R. Brooks. Intelligence without representation. ArtificialIntelligence, 47:139–159, 1991.

D. Floreano and F. Mondada. Evolution of homing navigationin a real mobile robot. IEEE Transactions on Systems,Man and Cybernetics, 26(3):396–407, 1996.

59 / 62

Page 60: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Bibliografıa II

I. Harvey, E. Di Paolo, R. Wood, M. Quinn, and E. A. Tuci.Evolutionary robotics: A new scientific tool for studyingcognition. Artificial Life, 11(1-2):79–98, 2005.

J. J. Hopfield. Neural networks and physical systems withemergent collective computational abilities. PNAS, 79(8):2554–2558, April 1982. URLhttp://www.pnas.org/content/79/8/2554.abstract.

E. Izhikevich. Polychronization: Computation with spikes.Neural Comput., 18(2):245–282, 2006.

N. Jakobi. Minimal Simulations for Evolutionary Robotics.PhD thesis, COGS, 1998.

60 / 62

Page 61: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Bibliografıa III

H. H. Lund, B. Webb, and J. Hallam. A robot attracted tothe cricket species gryllus bimaculatus. In P. Husbands andI. Harvey, editors, IV European Conference on ArtificialLife ECAL97, pages 246–255. MIT Press/Bradford Books,MA, 1997.

W. Maass. Networks of spiking neurons: the third generationof neural network models. Neural Networks, 10:1659–1671,1997.

Helene Paugam-Moisy, Regis Martinez, and Samy Bengio.Delay learning and polychronization for reservoircomputing. Neurocomput., 71(7-9):1143–1158, 2008.ISSN 0925-2312. doi:http://dx.doi.org/10.1016/j.neucom.2007.12.027.

61 / 62

Page 62: Navegaci on mediante Evoluci on de Redes Neuronales ... · reconocimiento de patrones o extracci on de caracter sticas (navegaci on) paralelamente, adquisici on de informaci on y

Contenidos

Area deinvestigacion

RoboticaEvolutiva

Objetivos

Diseno deTopos

Resultados

Analisis de unindividuo

Conclusiones

Referencias

Bibliografıa IV

M. Suzuki. Enactive robot vision. PhD thesis, Lausanne,diciembre 2007. URLhttp://library.epfl.ch/theses/?nr=3974.

M. Suzuki and Dario Floreano. Enactive Robot Vision.Adaptive Behavior, 2008.

B. Webb. Robots in invertebrate neuroscience. Nature, 417:359–363, 2002.

62 / 62