sistemas clasificadores

21
Introducci´ on a la Computaci´ on Evolutiva Dr. Carlos A. Coello Coello Introducci´ on a la Computaci´ on Evolutiva Dr. Carlos A. Coello Coello Departamento de Computaci´ on CINVESTAV-IPN Av. IPN No. 2508 Col. San Pedro Zacatenco exico, D.F. 07300 email: [email protected] http: //delta.cs.cinvestav.mx/~ccoello Clase No. 20 2014

Upload: mario-montalvo

Post on 10-Sep-2015

251 views

Category:

Documents


1 download

DESCRIPTION

Sistemas clasificadores

TRANSCRIPT

  • Introduccion a la Computacion Evolutiva Dr. Carlos A. Coello Coello

    Introduccion a la Computacion Evolutiva

    Dr. Carlos A. Coello Coello

    Departamento de Computacion

    CINVESTAV-IPN

    Av. IPN No. 2508

    Col. San Pedro Zacatenco

    Mexico, D.F. 07300

    email: [email protected]

    http: //delta.cs.cinvestav.mx/~ccoello

    Clase No. 20 2014

  • Introduccion a la Computacion Evolutiva Dr. Carlos A. Coello Coello

    Paisajes de Aptitud

    El concepto de paisaje de aptitud (fitness landscape) fueintroducido por Sewall Wright en 1932, como una metafora paradescribir multiples dominios de atraccion en la dinamica evolutiva.La idea de Wright fue ver el espacio de busqueda como si tuvieramultiples picos hacia los cuales la poblacion evolucionara,escalandolos.

    Clase No. 20 2014

  • Introduccion a la Computacion Evolutiva Dr. Carlos A. Coello Coello

    Paisajes de Aptitud

    Wright estaba principalmente interesado en analizar la forma enque las poblaciones podan escapar de los optimos locales a travesde fluctuaciones estocasticas. Por tanto, esta es una de las primeraspropuestas para usar procesos estocasticos para optimizar funcionesmultimodales.

    Clase No. 20 2014

  • Introduccion a la Computacion Evolutiva Dr. Carlos A. Coello Coello

    Paisajes de Aptitud

    El concepto de Wright fue concebido como una ayuda paravisualizar el comportamiento de los operadores de seleccion yvariacion durante el proceso evolutivo. Por tanto, los paisajes deaptitud normalmente se usan para estudiar la eficacia de losalgoritmos evolutivos.

    Clase No. 20 2014

  • Introduccion a la Computacion Evolutiva Dr. Carlos A. Coello Coello

    Paisajes de Aptitud

    Particularmente, los investigadores han adoptado los denominadospaisajes de aptitud NK propuestos por Stuart Kauffman [1987]para explorar la forma en la cual la epstasis controla la rugosidadde un paisaje adaptativo.

    Clase No. 20 2014

  • Introduccion a la Computacion Evolutiva Dr. Carlos A. Coello Coello

    Paisajes de Aptitud

    La idea de Kauffman fue especificar una familia de funciones deaptitud que tuvieran una rugosidad que pudiera ser ajustable atraves de la manipulacion de un solo parametro.

    Clase No. 20 2014

  • Introduccion a la Computacion Evolutiva Dr. Carlos A. Coello Coello

    Sistemas de Clasificadores

    Desde los orgenes de los algoritmos geneticos, hubo investigadoresinteresados en aplicar este tipo de tecnicas a problemas deaprendizaje de maquina. La motivacion principal es que loscromosomas, los cuales representan conocimiento, son tratadoscomo datos a ser manipulados mediante operadores geneticos y, almismo tiempo, como codigo ejecutable a ser utilizado para realizaralguna tarea. Esto dio pie al desarrollo de los denominadossistemas de clasificadores, en los cuales se usan algoritmosevolutivos para resolver problemas de aprendizaje.

    Clase No. 20 2014

  • Introduccion a la Computacion Evolutiva Dr. Carlos A. Coello Coello

    Sistemas de Clasificadores

    Desde los viejos das de los algoritmos geneticos, se considerarondos tipos de enfoques para disenar sistemas de clasificadores:

    1. El primer enfoque consiste en representar todo un conjunto dereglas usando un individuo (o sea, una cadena cromosomica),mantener una poblacion de conjuntos de reglas y usar elmecanismo de seleccion y los operadores de un algoritmogenetico para producir nuevos conjuntos de reglas. A este tipode tecnica se le denomina enfoque Pitt, dado que fuedesarrollado por Kenneth De Jong y sus estudiantes, cuandoeste se encontraba en la Universidad de Pittsburgh.

    Clase No. 20 2014

  • Introduccion a la Computacion Evolutiva Dr. Carlos A. Coello Coello

    Sistemas de Clasificadores

    2. John Holland desarrollo, al mismo tiempo que De Jong, otromodelo en el cual los miembros de la poblacion son reglasindividuales y un conjunto de reglas es realmente toda lapoblacion. A este se le denomina el enfoque Michigan.

    A continuacion, discutiremos en un poco mas de detalle estos dosenfoques.

    Clase No. 20 2014

  • Introduccion a la Computacion Evolutiva Dr. Carlos A. Coello Coello

    Sistemas de Clasificadores: El Enfoque Michigan

    Los sistemas de clasificadores son un tipo de sistema basado enreglas con mecanismos generales para procesar reglas en paralelo, afin de generar, de manera adaptativa, nuevas reglas, as como paraprobar la efectividad de las reglas existentes. Los sistemas declasificadores proporcionan un marco de trabajo en el cual unapoblacion de reglas codificadas como cadenas de bits evolucionancon base en recibir, intermitentemente, estmulos y refuerzo de suambiente. El sistema aprende que respuestas son apropiadascuando se presenta un cierto estmulo. Las reglas en un sistema declasificadores forman una poblacion de individuos que evolucionanen el tiempo.

    Clase No. 20 2014

  • Introduccion a la Computacion Evolutiva Dr. Carlos A. Coello Coello

    El Enfoque Michigan

    Un sistema de clasificadores consta de los siguientes componentes:

    detector y efector,

    sistema de mensajes (entrada, salida, y listas de mensajesinternos),

    sistema de reglas (poblacion de clasificadores),

    sistema de asignacion de credito (el algoritmo bucket brigade), y

    procedimiento genetico (reproduccion de los clasificadores).

    Clase No. 20 2014

  • Introduccion a la Computacion Evolutiva Dr. Carlos A. Coello Coello

    El Enfoque Michigan

    El ambiente enva un mensaje (p.ej., un movimiento en un tablero),el cual es aceptado por los detectores del sistema de clasificadores ycolocado en la lista de mensajes de entrada. Los detectoresdecodifican el mensaje (posiblemente sub-dividiendolo en variosmensajes) y lo colocan en la lista de mensajes internos. Losmensajes activan clasificadores; los clasificadores activados colocanmensajes en la lista de mensajes. Estos nuevos mensajes puedenactivar a otros clasificadores o pueden irse a la lista de mensajes desalida. En este ultimo caso, los efectores del sistema declasificadores codifican estos mensajes en un mensaje de salida, elcual se regresa al ambiente. El ambiente evalua la accion delsistema (retroalimentacion del ambiente) y se usa el algoritmo delbucket brigade para actualizar los clasificadores.

    Clase No. 20 2014

  • Introduccion a la Computacion Evolutiva Dr. Carlos A. Coello Coello

    El Enfoque Michigan

    El enfoque Michigan puede percibirse como un modelocomputacional de la cognicion: el conocimiento de una entidadcognitiva se expresa como una coleccion de reglas que sufrenmodificaciones en el tiempo. Podemos evaluar una unidad cognitivacompleta en terminos de su interaccion con el ambiente; laevaluacion de una sola regla (o sea, de un solo individuo) no tieneningun sentido.

    Clase No. 20 2014

  • Introduccion a la Computacion Evolutiva Dr. Carlos A. Coello Coello

    El Enfoque Pitt

    En el enfoque Pitt, cada individuo en la poblacion codifica todo elconjunto de reglas (es decir, el individuo es una entidad cognitiva).Estos individuos compiten entre s, de manera que los individuosdebiles se mueren y los fuertes sobreviven y se reproducen (usandoel mecanismo de seleccion y los operadores convencionales de unalgoritmo genetico). En otras palabras, se aplica un algoritmogenetico al problema de aprendizaje. Con esto, se evita el problemade la asignacion de credito, para el cual se requiere un metodoheurstico (como el algoritmo del bucket brigade) para distribuir elcredito (positivo o negativo) entre las reglas que cooperaron paraproducir un comportamiento deseable o indeseable.

    Clase No. 20 2014

  • Introduccion a la Computacion Evolutiva Dr. Carlos A. Coello Coello

    El Enfoque Pitt

    El enfoque Pitt, sin embargo, plantea varias preguntas interesantes.Por ejemplo: debemos usar cadenas de longitud fija pararepresentar las reglas? Esto facilita el funcionamiento del algoritmogenetico, pero puede ser muy restrictivo. De hecho, pueden usarserepresentaciones mas complejas para los sistemas de reglas (p.ej.,incorporando logica difusa, entradas que sean numeros reales,operadores booleanos, etc.).

    Clase No. 20 2014

  • Introduccion a la Computacion Evolutiva Dr. Carlos A. Coello Coello

    El Futuro de la Computacion Evolutiva

    Metamerismo: El proceso en el cual una unidad estructurales duplicada un cierto numero de veces y durante ese procesose reoptimiza para otros usos.

    Auto-adaptacion: Evitar el uso de parametros ad-hoc en losalgoritmos evolutivos.

    Clase No. 20 2014

  • Introduccion a la Computacion Evolutiva Dr. Carlos A. Coello Coello

    El Futuro de la Computacion Evolutiva

    Tecnicas que exploten arquitecturas paralelas: Esimportante explotar al maximo las arquitecturas paralelasmediante nuevos algoritmos evolutivos. Esto traera importantesganancias en terminos de esfuerzo computacional, sobre todo allidiar con problemas del mundo real.

    Clase No. 20 2014

  • Introduccion a la Computacion Evolutiva Dr. Carlos A. Coello Coello

    El Futuro de la Computacion Evolutiva

    Teora: Pruebas de convergencia, modelos matematicos de losalgoritmos evolutivos, epstasis, diversidad, etc.

    Entender mejor la evolucion natural: Simulacionescomputacionales que permitan entender las complejasinteracciones que ocurren entre los seres vivos.

    Clase No. 20 2014

  • Introduccion a la Computacion Evolutiva Dr. Carlos A. Coello Coello

    El Futuro de la Computacion Evolutiva

    Coevolucion: Muchos investigadores han dirigido susesfuerzos a estudiar mejor la coevolucion como un modeloalternativo para resolver problemas en computacion evolutiva.

    El AG sin parametros: Es, sin lugar a dudas, el sueno de losexpertos en computacion evolutiva.

    Clase No. 20 2014

  • Introduccion a la Computacion Evolutiva Dr. Carlos A. Coello Coello

    El Futuro de la Computacion Evolutiva

    Las 3 grandes preguntas:

    1) A que tipo de problemas deben aplicarse los algoritmosevolutivos?

    2) Como podemos mejorar nuestra comprension delfuncionamiento de los algoritmos evolutivos?

    Clase No. 20 2014

  • Introduccion a la Computacion Evolutiva Dr. Carlos A. Coello Coello

    El Futuro de la Computacion Evolutiva

    3) Que nuevas ideas pueden aplicarse a la computacion evolutivaa fin de extender el paradigma (p.ej., inspiracion biologica)?

    Clase No. 20 2014