presentación de powerpoint - nib.fmed.edu.uy · • en la sinapsis se produce la transmisión de...
TRANSCRIPT
Eduardo Mizraji
Grupo de Modelización de Sistemas Cognitivos
Sección Biofísica, Facultad de Ciencias.
Universidad de la República
Montevideo, Uruguay
SEMINARIO DE INGENIERÍA BIOMÉDICA
Las redes neuronales: de la biología a los
algoritmos de clasificación
Influencias sobre los procedimientos y las
tecnologías médicas
La saga de la neurobiología
Vesalio, el anatomista (1535)
• Las audaces disecciones
de Vesalio mostraron la
forma de investigar la
naturaleza de los órganos
presentes en el cuerpo
humano, abriendo una
nueva y rica etapa en el
conocimiento científico.
Willis realiza descripciones minuciosas de la
anatomía del cerebro y de las arterias que lo irrigan
(1670)
Broca y la generación del lenguaje
(1870)
• Broca, en sus estudios anatómicos muestra que existen en la corteza cerebral, en el lóbulo frontal izquierdo, regiones relacionadas con la emisión de la palabra. Crea la noción de afasia motriz.
Regiones del cerebro
• Los trabajos de anatomistas y neurólogos como Vesalio, Willis, Broca y Wernicke (entre muchos otros), abrieron la vía que condujo a los detallados mapas anatómicos actuales.
Neuronas de Ramón y Cajal
Neuronas de la corteza cerebral con la
técnica de Golgi
Dibujos de Ramón y Cajal
• Se ven en estos dibujos de Ramón y Cajal tres variedades de neuronas. A la izquierda se ve una típica neurona de la corteza cerebral, con su axón emergiendo por la parte inferior del dibujo.
Capas celulares de la corteza cerebral y
circuitos neuronales
• La citoarquitectura de
la corteza cerebral
mostró la existencia de
complejos circuitos
neuronales conectando
señales aferentes con
señales eferentes.
El potencial de acción
• Esta imagen de libro
de texto, muestra el
potencial de acción,
que es la señal
electroquímica básica
para la transmisión de
información a lo largo
de los axones.
La sinapsis: la zona de transmisión de
información entre neuronas
• En la sinapsis se produce la transmisión de información entre un axón y alguna región de otra neurona. En esta compleja estructura se supone que se ubican los fenómenos de memoria. Algunas sinapsis usan códigos químicos mediante moléculas especiales: los neurotransmisores.
EL “CABLEADO” NEURONAL DE LA CORTEZA CEREBRAL
Redes neurales anatómicas
Antecedentes del nuevo paradigma
cognitivo: James y Freud (1890)
William James y Sigmund Freud pueden ser
vistos hoy en día como precursores del desarrollo
de modelos neurales con los que enfocar las
complejidades de la biología de los procesos
cognitivos.
Redes neurales de James (1890)
Red neural de Freud (1895)
Pregunta: ¿Qué faltó para que por 1890 se desarrollase una teoría biofísica y neurocomputacional de las redes neuronales?
Posible respuesta: ‘Sumergir’ la teoría en los métodos de la física y la matemática.
Racionalismo y empirismo: La inmutable controversia filosófica
La Escuela de Atenas (pintado por Rafael entre 1510 y1511)
Platón y Aristóteles: filósofos de la Grecia clásica
(340 AC)
Sus puntos de vista
sobre la naturaleza de
la actividad mental
siguen hoy en día
teniendo fuerte
influencia sobre la
investigaciones
científicas.
La física y el álgebra simbólica:
una base para la neurociencia computacional
Newton Leibniz
Lagrange
Laplace
Babbage, Gregory,
De Morgan, Boole,
Cayley, …
Modelos de redes neuronales
Siglo XVII
Siglo XVIII
Siglo XIX
Siglos XX y XXI
Diagrama de influencias
“Dicen sobre ello los filósofos:
la Naturaleza no hace nada en vano,
y es vano mucho cuando basta con
poco. Pues la Naturaleza es simple, y no
se complace con causas superfluas
para las cosas.”
Newton y el principio de
parsimonia
Leibniz, los operadores y
la notación binaria
Máquina de calcular de Pascal
Máquina de Leibniz (cuatro operaciones)
Lagrange y Laplace ‘legislan’ al sistema solar
Una aplicación de las leyes y los métodos de Newton
usando el formalismo simbólico de Leibniz
Una rebelión británica: ‘de-istas’ contra ‘dot-istas’
Los ‘dot-istas’ adherían a la notación de fluxión de Newton:
Los ‘de-istas’ adherían a la notación diferencial de Leibniz:
,
,
Charles Babbage y su alumna Ada Lovelace
Fragmento del “Apéndice” al texto de Cálculo de Lacroix
sobre el cálculo en diferencias finitas escrito por
Babbage y colaboradores
Inicio del documento de Internet que reproduce el
trabajo matemático de Ada Lovelace
Máquina diferencial Máquina analítica
Las máquinas matemáticas de Babbage
George Boole y sus leyes del pensamiento (1854)
George Boole
Sidney Harris y el almuerzo de Boole
Los modelos de redes neuronales y su
influencia en la evolución de la computación
La Teoría de las Redes Neuronales Los precursores: McCulloch y Pitts (1943)
La neurona formal de McCulloch-Pitts
• Las neuronas formales
poseen umbrales y
conducen señales
binarias (0 ó 1).
Ajustando los
umbrales, pueden ser
diseñadas para
ejecutar diferentes
operaciones lógicas
La red Y = Xor (X1,X2) de McCulloch-Pitts
Red de McCulloch-Pitts conformada por
dos neuronas formales.
John von Neumann y la EDVAC
JvN con Oppenheimer
Los modelos neurales y la psiquiatría :
el trabajo precursor de W. Ross Ashby
William Ross Ashby imágenes
En su ofocina en 1955 Su laboratorio en Barnwood House
Su Triumph TR 2 WRA con su homeóstato
Libros
I to C (1956)
D for a B (1952)
Un capítulo fundamental de I to C
Relación conectividad-estabilidad de Ashby ilustrada
en un experimento de Solé y Goodwin
Parámetro
de orden:
Probabilidad de la
estabilidad
Modelos de memorias neurales y la
neurocomputación basada en datos
La memoria asociativa de los animales
superiores
• El cerebro de un animal superior es capaz de poseer memorias que permiten inducir (crear hipótesis) ante percepciones incompletas. En el esquema se ve un animal que ante una imagen parcial posee una memoria que reconstruye la imagen completa de un ratón.
Lashley y las memorias no localizadas
(1936)
• Lashley concluyó, a partir de
estudios experimentales sobre
animales, que existían funciones
cognitivas que dependían de la
actividad colectiva de extensas
redes de neuronas. Aportó
argumentos que se oponían a
una localización precisa de la
memoria en los cerebros de los
animales superiores.
Hebb y las bases celulares de la memoria
(1949)
• Donald Hebb, psicólogo canadiense, supuso –igual que Lashley- que los datos guardados en la memoria no estaban rigurosamente localizados (esto es: no existía una correspondencia "una neurona-un dato"). Y postuló que la información era almacenada a través de modificacioones en las capacidades de transmisión de las sinapsis.
Perceptrón simple
Memoria asociativa “no-holográfica" de
Longuet-Higgins, Buneman y Willshaw:
Dennis Gabor y su holograma
Tres ángulos de visión para un holograma de Terminator
Uno de los trabajos precursores de Dennis Gabor
Cayley y las matrices de la memoria
Anderson y el acceso desde la fisiología
• James A. Anderson, fisiólogo, construyó el primer modelo matricial de memoria distribuida asociativa y mostró que la información era codificable como vectores extensos. Mostró el carácter distribuido, y también superpuesto, del almacenamiento de la información en esas redes neurales.
Kohonen y el acceso desde la ingeniería
• Teuvo Kohonen, ingeniero
eléctrico finlandés,elaboró
independiantemente de Anderson
el mismo modelo matricial de
memoria distribuida asociativa.
Utilizó con enorme talento toda la
potencia del álgebra de matrices
para analizar las propiedades de
estas memorias.
Cooper y el acceso desde la física
• Leon N. Cooper, físico teórico, utilizó el modelo matricial de Anderson y Kohonen para explorar la capacidad de los animales para realizar actividades "inteligentes" utilizando la información imperfecta almacenada en las memorias distribuidas. Mostró que la imperfección de estas memorias podría ser un factor ventajoso para la sobrevida del individuo en un medio hostil.
Las memorias matriciales de Anderson,
Kohonen y Cooper (1972)
• Inspirados en el Perceptrón y las memorias holográficas, estos modelos pudieron ser poderosamente implementados usando técnicas de álgebra lineal. Extensas redes neuronales pudieron ser representadas por matrices, y los datos se introducían en la memoria usando aprendizajes "Hebbianos".
Las memorias asociativas matriciales
(J.A.Anderson, T.Kohonen, L.N.Cooper 1972)
Memoria hetero-asociativa:
Memoria autoasociativa
Experimentos de Kohonen:
memoria autoasociativa (1977)
Reconocimiento por interpolación
(Kohonen 1977)
El hipocampo como memoria asociativa
matricial
• El hipocampo es una importante región de la corteza cerebral involucrada en procesos de memoria de corta duración.
• Varios investigadores han sugerido que su anatomía muestra las condiciones apropiadas para sustentar una memoria distribuida matricial.
Rumelhart y McClelland : el impacto de
la psicología matemática (1986)
• Rumelhart y
McClelland,
psicólogos cognitivos,
editaron un libro que
introdujo un nuevo
paradigma en la teoría
de las redes neurales:
el procesamiento
distribuido paralelo
(PDP).
Perceptrón de con capa oculta
Perceptrones con capas ocultas (1986)
• La doctrina PDP se basó en una fusión de la teoría del perceptrón con ideas procedentes de la teoría de las memorias distribuidas matriciales.
• Una extensión importante fue la introducción de capas ocultas (hidden- layers) entre las neuronas de entrada y las de salida
El algoritmo de retropropagación de
errores (1986)
• Este algoritmo es una regla
matemática por la cual se
extienden las reglas de
aprendizaje "Hebbiano" a
redes neurales con capas
ocultas.
• Este algoritmo debe su
importancia a su gran
versatilidad, que le permite
crear memorias con variadas
bases de datos.
Robot dotado de una red neural artificial con capas ocultas y
entrenado para mantener su camino mediante backpropagation
MEMORIAS CONTEXTO-DEPENDIENTES (Mizraji, 1987)
Modelo para la actividad de la neurona individual
Los dos primeros términos corresponden a un asociador de patrones matricial clásico. El tercer término implica sinapsis detectoras de coincidencia.
MEMORIAS CONTEXTO-DEPENDIENTES Matriz asociada
Estas memorias contexto-dependientes matriciales y multiplicativas están especializadas en la detección de coincidencias.
MEMORIAS CONTEXTO-DEPENDIENTES
EJEMPLO: f1 = Imagen de un perro p1 = Contexto "idioma castellano" p2 = Contexto "idioma inglés" g1 = Respuesta "perro" g2 = Respuesta "dog" Si los contextos son ortogonales, entonces: al par (f1 , p2 ) {Imagen "perro", Contexto "ingles"} la matriz M asocia la respuesta g2 {"dog"}.
Memorias y álgebra
• En estas teorías las memorias se representan mediante objetos matemáticos denominados matrices. A la vez, los datos se codifican como objetos matemáticos llamados vectores
• Como ilustración, se muestra en la figura la forma que adoptan memorias matriciales capaces de realizar operaciones lógicas (o-exclusivo X e implicación L) para pequeños vectores de dimensión 2.
•El cerebro humano es una red de módulos neuronales
•Estos módulos son a su vez redes neuronales extensas
•Por consiguiente, el cerebro puede considerarse
como una red de redes
El cerebro como una red de redes
Kohonen, la red SOM y la medalla Frank Rosenblatt del IEEE-2007
Un clasificador neural:
La red SOM (‘self-organizing map’) de Kohonen
Poverty Map: Clasificación de los países por sus parámetros
socio-económicos mediante una red SOM
Una red de redes en acción
El problema de Minsky
Pregunta:
¿Qué es algo rojo y redondo, de
sabor dulce y textura crujiente, una
fruta del tamaño de un puño?
Respuesta: ?
El problema de Minsky
Pregunta:
¿Qué es algo rojo y redondo, de
sabor dulce y textura crujiente, una
fruta del tamaño de un puño?
Respuesta:
Una manzana.
Memorias matriciales para la solución de
un problema planteado por Minsky
• Una memoria asociativa
matricial y el filtro de
intersección suministran
una arquitectura,
postulada por Pomi y
Mizraji en 2001, para
resolver un problema de
diagnóstico frente a una
sucesión de claves
incompletas (problema
de Minsky).
Los modelos de redes neuronales
en la investigación médica
Miscelánea de utilizaciones
Las redes neuronales como auxiliares para el
diagnóstico y el pronóstico en Medicina 1
Las redes neuronales como auxiliares para el diagnóstico y
el pronóstico en Medicina 2
Las redes neuronales como auxiliares para el diagnóstico y
el pronóstico en Medicina 3
Las redes neuronales como auxiliares para el diagnóstico y
el pronóstico en Medicina 4
Las redes neuronales como auxiliares para el diagnóstico y
el pronóstico en Medicina 5
Las redes neurales en la detección de ‘patterns’ epidemiológicos 1
Las redes neurales en la detección de ‘patterns’ epidemiológicos 2
Las redes neurales en la detección de ‘patterns’ epidemiológicos 3
Complementariedad entre la heurística de las redes neurales y la estadística
Conclusiones
Una primera conclusión
La búsqueda científica de la comprensión de las
actividades cognitivas, produce ideas, modelos y
procedimientos que pueden provocar súbitos saltos
evolutivos tecnológicos aun cuando la comprensión de
esas actividades cognitivas está lejos de ser alcanzada.
Un ejemplo: la utilización de los modelos neurales como
rutinas de un paquete de programas matemáticos
Una segunda conclusión
La investigación en las bases neurales de la actividad
cognitiva ya está comenzando a suministrar modelos
con la posibilidad de servir como territorios de
experimentación neurocomputacionales para hipótesis
fisiopatológicas sobre el origen de afecciones
psiquiátricas.
Asimismo, también en el domino de la psiquiatría,
estos modelos comienzan a ser útiles para
experimentar ‘in numero’ terapias farmacológicas o
conductuales.