MODELOS INSPIRADOS EN LA NATURALEZANeuronas Red NeuronalEvolución Natural Algoritmo genéticoExperiencia Sistema ExpertoRazonamiento Lógica DifusaEnfriamiento de metales Recocido SimuladoHormigas Colonia de Hormigas

1

5. REDES NEURONALES

5.1 Características del Sistema Nerviosoadaptabilidad aprendizaje continuodistribución del procesamiento y del “almacenamiento”alta redundanciaplasticidad (creación/modificación de sinapsis).tolerante a fallas

10 a 100 billones de neuronas, cada una conectado a otras 10.000 neuronas

Los humanos pierden prox. 1000 neuronas por dia.

2

Cerebro HumanoEl cerebro humano contiene aproximadamente 12 billones de células nerviosas o neuronas. Cada neurona tiene de 5.600 a 60.000 conexiones dendríticas provenientes de otras neuronas (figura 1). Estas conexiones transportan los impulsos enviados desde otras neuronas y están conectadas a la membrana de la neurona. Cada neurona tiene una salida denominada axón. El contacto de cada axón con una dendrita se realiza a través de la sinapsis. Tanto el axón como las dendritas transmiten la señal en una única dirección.

3

Neuronas

¿Cómo funciona ?

Color

Sabor

Olor

Sonido

Tersura

Conexionesinformación

acciones

4

Unidad de Procesamiento: La Neurona

Cuerpo

DendritasAxón

Señal

Sinapsis

(Información)

5

Sinapsis• Región donde las neuronas

entran en contacto– Los impulsos son transmitidos desde el

axón de una neurona hacia las dendritas de otra neurona.

– Efecto excitatorio: estimula la acción de la neurona.

– Efecto inhibitorio: efecto contrario

axón dendrita

6

REDES NEURONALES.

• Intento de producir sistemas de aprendizaje inspirados en la naturaleza (basado en modelos abstractos de cómo pensamos y cómo funciona el

cerebro)• Modelo matemático inspirado en el funcionamientos de las neuronas

biológicas• Conformado por varias unidades de procesamiento (neuronas)

interligadas por conexiones (sinapsis)• Eficiente donde los métodos tradicionales son considerados inadecuados.

• El aprendizaje se logra en la actualización de esos pesos.

• Los redes neuronales sirven para resolver problemas: Primero los problemas son complejos, o sea usted no puede inventar un

algoritmo simple para resolver el problema paso a paso o una fórmula precisa para darle una respuesta y

Segundo, los datos proporcionados para resolver el problema son igualmente complejos y puede ser aleatorio o incompletos.

7

5.2 NEUROCOMPUTACION• Entre otros nombres utilizados tenemos (conexionismo, procesamiento

distribuido en paralelo, cómputo neuronal o neural , Redes adaptativas y cómputo colectivo). El modelo neurológico es programado para aprender

• Las redes neuronales, poseen un grado de interconexiones similares a la estructura del cerebro, este método ciertamente no es empleado en computadoras convencionales

• Aprender es una capacidad que la red posee gracias a sus neuronas . La neurona biológica posee características no algorítmicas y de esa forma no aplica principios digitales o circuitos lógicos

• Se una red aprende, ella obviamente retiene conocimiento, el conocimiento almacenado está distribuido por toda la red ,

• El cerebro humano consume de 20 a 25% de la energía corporal y posee un total de 10 billones de neuronas siendo que cada uno hace entre mil a diez mil conexiones con las neuronas adyacentes , Se fuese posible que un chips reprodujera esas conexiones tendría aproximadamente 5,000 m2

• fuente[1] Malcon A. Pag.45

8

9

El Aprendizaje sináptico es masivamente paralelo lo que torna flexible, rápido y Eficaz, haciendo una comparación entre el cerebro y el computador resulta los siguiente valores

Parámetro Cerebro Computador

Material Orgánico Metal o plástico

Velocidad Milisegundos Nanosegundos

Tipos de procesamiento Paralelo Secuencial

Almacenamiento Adaptativo Estático

Control de procesos Distribuido Centralizado

Número de elementos procesados

10e11 a 10e14 10e5 a 10e6

Ligazones entre elementos procesados

10 000 <10

Tabla 5-1. Comparación entre cerebros y computadora digitales

Fuente: Malcon 1997 pag.52

9

Tabla 5.2 Cuadro comparativo entre computadoras y neurocomputadoras

Maquinas de Von Neumann

Neurocomputadores

Ejecuta programas Aprende

Ejecuta operaciones lógica

Ejecuta operaciones no lógicas , transformaciones complejas

Depende del modelo o del programador

Descubre las relaciones o reglas de los datos y ejemplo

Verifica una actividad a la vez

Verifica todas las posibilidades en paralelo

10Fuente: Malcon 1997 pag.53

Red Neuronal

Neuronas intermedias

Neuronas de salida

Neuronas de Entrada

Conexiones

ArquitecturaModelo de redes neuronales Uno de los primeros

modelos matemáticos de una neurona fue el propuesto por McCulloch y Pitts en 1943 y es en el que se basan las redes

Neuronales actuales.

11

5.3 ELEMENTOS DE LAS NEURONALES ARTIFICIALES La neurona artificial.-También llamado elemento de procesamiento Señales de entrada y salida (Xi) , la neurona posee al principio una o mas

señales de entrada y una señal de salida. Las entradas de una neurona artificial puede ser comparadas exactamente como estímulos para la neurona natural, todos estos estímulos son traídos simultáneamente osea se procesan paralelamente

Pesos(Wi).- Los pesos son atributos importantes de la neurona se puede comparar con las dentritas realizando sus sinapsis con otras neuronas. gracias a esta comparación los pesos son llamados de pesos sinápticos. Los pesos representados por W (weight=peso) son valores que representan el grado de importancia que determinada entrada posee en relación al determinada neurona.

Función de activación y función de transferencia La función de activación antecede a la función de transferencia y tiene por

atribución repasar la señal para la salida de la neurona en modelos simples la función de activación puede ser la propia suma de entradas

La función de transferencia define a quien envía para afuera de la neurona el valor pasado por la función de activación

12

La neurona artificial posee el siguiente formato

13

ENTRADAS

Wj0

W j1

W j2

X0

X1

X2

SALIDAS

FUNCION DESUMA

FUNCION DETRANSFERENCIA

PESOS

Las conexiones entre las neuronas procuran simular las conexiones sinápticas biológicas haciendo uso de una variable llamada peso, la función de suma acumula los datos recibidos (estímulos) de otros elementos y la función de transferencia procesa a la función suma

Elemento ProcesadorEntrada / Función de Transferencia / Salida

f : Representa la función de transferencia para esa unidad, que corresponde a la función escogida para transformar la entrada netai (entrada ponderada

total) en el valor de salida

14

Valores de entrada / salida• Las señales de e/s de una RNA son generalmente números reales• Estos números deben encontrarse dentro de un intervalo típicamente entre

[0,1] o [–1,1]

15

Nombre Relación S y E Ícono Función

Limitador Fuerte

hardlim

Limitador Fuerte Simétrico

hardlims

Lineal Positiva poslin

Lineal purelin

Lineal Saturado

satlin

Resumen de funciones de transferencia

16

Resumen de funciones de transferencia: (cont…)

Nombre Relación S y E Ícono Función

Lineal Saturado Simétrico

satlins

Sigmoidal Logarítmico

logsig

Tangente Sigmoidal Hiperbólica

tansig

Competitiva compet

17

Figura 5.4 La conexión sináptica artificial

18

ESTIMULO

Las unidades son conectadas a través de conexionesCodifican el conocimiento de la red

conexiones poseen valores asociados (pesos)Tipos de conexiones

excitatorias wij > 0inhibitorias wij < 0inexistentes wij = 0

El tipo de conexión, numero de capas de neuronas y el tipo de entrenamiento son los aspectos que difieren en los tipos de redes neuronales, entre los modelos ya publicados en las revistas especializadas se encuentran como clásicos los modelos de BackPropagation, Hopfield , Cohonem , Perceptron, Boltzman y otros

5.4 TIPOS DE REDES NEURONALES

19

Topología o Arquitectura de RNA) Redes Feedforward (No recurrentes) Conexiones unidireccionales:

Una Capa:Perceptron, Adaline (ADAptive LInear Neuron),

Multicapa: MLP

Clasificación de RN por el tipo de sus Conexiones

20

B) Redes Feedback (recurrentes)

Presenta conexiones de Retorno

Topología o Arquitectura de RN

Redes de kohonen Redes de Base Radial

21

5.5 TIPOS DE APRENDIZAJE ARTIFICIALAprendizaje Supervisado

Aprendizaje No Supervisado

??

22

• Aprendizaje Supervisado• Se logra comparando la salida de la red con la respuesta correcta ya

conocida por el MAESTRO.• La diferencia de esta comparación permite ajustar los pesos de las

conexiones entre sus neuronas, para buscar una salida mas aproximada a la correcta.

• El aprendizaje se da a través de un proceso iterativo de ajuste aplicado a sus pesos sinápticos

• Aprendizaje No Supervisado• No requiere influencia externa para ajustar sus pesos de las

conexiones entre sus neuronas.• No recibe ninguna información del entorno que le indique si la salida

generada respecto a una determinada entrada es o no correcta.• Por ello se dice que estas RN son capaces de Autoorganizarce.

23

5.6 APLICACIONES

• Se usan para la clasificación y reconocimiento de patrones.

• Problemas donde es importante el patrón más que los datos exactos.

• Aplicaciones: Clasificación.,Regresión , Agrupamiento (Clustering) ,Aproximación de curvas

24

Clasificación

Clasificador de Patrones

ElectrocardiogramaNormalAnornal +

25

Clustering

26

Aproximación de curvas

27

5.7 DIFERENCIA DE REDES NEURONALES CON LOS SISTEMAS EXPERTOS

Las redes neuronales se asemejan a los sistemas expertos en cuanto al objetivo de representar el conocimiento pero son radicalmente opuestos en cómo aspiran a conseguirlo. Como vemos, los sistemas expertos se acercarían más al razonamiento deductivo -obtener reglas- y las redes neuronales al inductivo -aprendizaje mediante ejemplos-. La gestión empresarial utiliza frecuentemente ambos esquemas de razonamiento, por lo que ambas técnicas tienen cabida. Además, ambos modelos son perfectamente compatibles, de forma que se pueden integrar en un único sistema. (internet)

28