•Neurona elemento de proceso•Variantes y combinaciones: gran flexibilidad: ¿demasiada?

Aprendizaje flexible: Redes neuronales

•Respuesta de elemento•Interconexiones

•Aproximador universal, ¿lento?, ¿seguro?•¿Opaco?•Diseño indefinido

Aprendizaje supervisado: Perceptrones

Ejemplo: indexación

doc1 doc2 doc3 doc4 .......... doc n

w1 w2 ....... wn

punteros a documentos

Red neuronal

palabra

•Buen interpolador•Usa categorización por proximidad

Aprendizaje supervisado: Redes de base radial

•Clasificación no preetiquetada•Rápido

Aprendizaje no supervisado: Redes competitivas (SOM)

Ejemplo: zonificación

•Recuperación a partir de contenido parcial•Capacidad limitada

Memoria asociativa: Autoasociadores

Escalabilidad

•Perceptrón masivo (300 ocultos), 300 ciclos•Intel Pentium 4 a 2,8 GHz, bus a 800 MHz, 1 MB cache, 1 GB RAM•35 000 datos•500 variables•5 horas

•Análisis de algodón•Estabilidad de estrato rocoso•Reconocimiento de imágenes

Análisis de algodón

Problema: Clasificar los restos de materiales en las balas de algodón

Datos: amplia muestra de imágenes 640£480Proceso:

•Análisis de imagen•Estadística y redes neuro-difusas•Justificación teórica de los resultadosResultado publicado: 98%

Estabilidad de roca

Problema: Determinar estabilidad de techos de mina

Datos: 230 casos, 12 variablesProceso:

•Redes neuronales, perceptrón (4, 9 ocultos) y radial (43 ocultos)•Diseño por validación cruzadaResultado publicado: ≥90%

Reconocimiento de imágenes

Problema: Dados los píxels decir qué es (dentro de un conjunto acotado)

Datos: típicamente decenas de miles de casos, decenas de píxels de lado

Resultados publicados: Dígitos: Error del 0.2% (como personas)Señales de tráfico: 0.56% (personas ~1%, otras técnicas ~3%)Reconocimiento de fonemas: 18%

Implementación

Tamaño: Hasta mil millones de parámetrosImplementación:

• Clúster de 1000 equipos de 16 núcleos• GPU: factor 50