Estado del Arte: PSO

Ignacio Salas DonosoIng. Civil Informática, UTFSM

Temario

PSO

Resumen

PSO

Posición

Velocidad

PSO (Particle Swarm Optimization)

Busca resolver problemas con el comportamiento de enjambres

Cada partícula se desplaza en el dominio, e interactúa con las demás partículas

Además de tener posición y velocidad, pueden recordar su mejor posición

También pueden conocer la mejor posición de otra partícula en la vecindad

PSO

Velocidad Final

Velocidad Actual

¿Qué tan lejos estoy de mi

mejor posición?

¿Qué tan lejos estoy de la

posición de las demás partículas?

Modifica de la velocidad y la posición de cada partícula

Posición Final

Posición Actual

PSO

La velocidad y posición de cada partícula se modifican con las siguientes expresiones

Velocidad actual

Factores aleatorios

Posición actual

Factor Cognitivo Factor Social

Mejor posición de la partícula i

Mejor posición global

PSO

Velocidad máxima

V MAX

Inercia

PSO

Factor de Constricción

Asegura la convergencia a un mínimo global evitando que las partículas detengan su movimiento

Se puede considerar como un caso especial del factor de inercia

PSO

PSO binario

1 0 1 1 0 0 0 0 1 1

Posición actual de la partícula

Existe una probabilidad P de que un bit se convierta en 1

0.2 0.1 0.30 0.9 0.5 0.7 0.3 0.8 0.1 0.4Velocidad

actual de la partícula

La modificación de la posición de la partícula se da de la siguiente manera

PSO

Sistema de recomendación con PSO

A

A

Preferencia de dos usuarios por el mismo producto

Distancia Euclideana

Ponderación de las 22 características del producto para el usuario objetivo

Calculado con PSO

Se calcula el fitness de cada ítem

Fitness(i) = Voto estimado – Voto real

El Fitness del usuario es el promedio de los fitness de los productos

PSO

PSO cooperativo (CPSO) para entrenar Redes Neuronales

Solución

Enjambre 3Enjambre 2Enjambre 1

Capa de entrada Capa oculta

Capa de salida

CPSO ajusta las ponderaciones entre nodos de la red neuronal

PSO

PSO y SVM (Support Vector Machine) en la selección de características

Atrib. 1 Atrib. 2 Atrib. 3 Atrib. 4 Atrib. 5 Atrib. 6 Atrib. 7 Atrib. 8 Atrib. 9

1 0 0 1 1 1 0 1 1

Se usó un PSO binario, el 1 indica que se utiliza el atributo

El rendimiento de la solución se prueba con SVM

SVM busca un hiperplano que separe un conjunto en dos, maximizando el margen

PSO

PSO y K-Means para agrupar documentos

Minimizar

Maximizar

Cada punto es un vector, donde cada elemento es la importancia de un término en un documento

Un enjambre representa una cantidad de agrupamientos posibles para la colección de documentos

Cada partícula mantiene una matriz, con los centroides de cada grupo

Resumen

PSO se basa en la idea de tener un conjunto de partículas que simulan el comportamiento de los enjambres

Para evaluar el cambio de velocidad, se considera la variación de la posición con respecto a la experiencia personal y grupal

Existen mejoras con respecto a la velocidad, ya sea para controlar su avance, como para controla la dirección de la partícula, que mejoran el rendimiento de PSO

PSO aplicado a algoritmos de aprendizaje, como redes neuronales, SVM o K-Means, muestran resultados interesantes