redes neuronales - presentacion.ppt

25
Redes Neuronales Su implementación en Hardware

Upload: empresahackers

Post on 13-Jan-2016

116 views

Category:

Documents


1 download

TRANSCRIPT

Page 1: Redes Neuronales - Presentacion.ppt

Redes Neuronales

Su implementación en Hardware

Page 2: Redes Neuronales - Presentacion.ppt

¿Qué son las Redes Neuronales Biológicas?

Implementación Software

Introducción

Implementación Hardware

Ejemplos

Futuras Tendencias y Conclusión

• Son el principal elemento del Sistema Nervioso.

• Cada neurona posee un cuerpo y dos tipos de prolongaciones: dendritas y cilindroeje o axón.

• Las neuronas se conectan por medio de sinapsis.

• Se disponen en capas.

• Las conexiones entre neuronas tienen pesos que representan la influencia de una sobre la otra.

• Cada una envía su información de estado multiplicado por el correspondiente peso.

• Luego se suman los valores recibidos desde las dendritas para actualizar los estados respectivos.

Page 3: Redes Neuronales - Presentacion.ppt

¿Qué son las Redes Neuronales Artificiales (ANN)?

Implementación Software

Introducción

Implementación Hardware

Ejemplos

Futuras Tendencias y Conclusión

Una ANN es un paradigma de procesamiento de la información que está inspirado en la manera en que los sistemas nerviosos biológicos procesan la información.

• Las ANN aprenden a través de ejemplos.

• Una ANN es configurada para una aplicación específica a través de un proceso de aprendizaje.

• Son aptas para resolver problemas que no poseen un algoritmo claramente definido para transformar una entrada en una salida.

• Se emplean ejemplos representativos de la transformación deseada para “entrenar” el sistema.

• Los sistemas autómatas evolucionan sin una reprogramación explícita.

Page 4: Redes Neuronales - Presentacion.ppt

¿Por qué usar Redes Neuronales Artificiales?

Implementación Software

Introducción

Implementación Hardware

Ejemplos

Futuras Tendencias y Conclusión

Las redes neuronales artificiales se aplican a problemas que la gente puede resolver bien, pero las computadoras no.

Una red neuronal entrenada puede verse como un experto en la categoría de información que se le ha sido dada para analizar.

Ventajas:

• Aprendizaje adaptable.

• Auto – Organización.

• Operación en tiempo real.

• Tolerancia a fallas a través de código de información redundante.

Page 5: Redes Neuronales - Presentacion.ppt

¿Por qué usar Redes Neuronales Artificiales?

Implementación Software

Introducción

Implementación Hardware

Ejemplos

Futuras Tendencias y Conclusión

Las redes neuronales se consideran la mejor técnica de reconocimiento de patrones y análisis de tendencias en los datos.

Aplicaciones:

• Pronósticos de ventas

• Control de procesos industriales

• Investigación sobre clientes

• Validación de datos

• Administración de riesgo

• Marketing

Page 6: Redes Neuronales - Presentacion.ppt

¿Cómo funcionan las Redes Neuronales Artificiales?

Implementación Software

Introducción

Implementación Hardware

Ejemplos

Futuras Tendencias y Conclusión

• Las ANN se basan en el circuito de procesamiento de entradas en el cual los pesos son sumados.

• Las funciones de peso se llaman Atenuadores. Las entradas son pesadas multiplicando su valor por un factor menor o igual a uno.

• Las entradas atenuadas son sumadas mediante la Función “Sigmoid”. Si la salida de la función suma excede el valor de entrada máximo de la neurona, ésta responde generando una salida.

Page 7: Redes Neuronales - Presentacion.ppt

Salidas

Entradas

Atenuadores

Modelo de Neurona

Implementación Software

Introducción

Implementación Hardware

Ejemplos

Futuras Tendencias y Conclusión

¿Cómo funcionan las Redes Neuronales Artificiales?

Page 8: Redes Neuronales - Presentacion.ppt

P P P

P P P

P P P

Red Neuronal Artificial SalidasEntradas

Red Neuronal

Implementación Software

Introducción

Implementación Hardware

Ejemplos

Futuras Tendencias y Conclusión

¿Cómo funcionan las Redes Neuronales Artificiales?

Page 9: Redes Neuronales - Presentacion.ppt

Modelos de Conectividad

P

P P

P P

Modelo de Hopfield

Implementación Software

Introducción

Implementación Hardware

Ejemplos

Futuras Tendencias y Conclusión

Page 10: Redes Neuronales - Presentacion.ppt

Implementación Software

Introducción

Implementación Hardware

Ejemplos

Futuras Tendencias y Conclusión

Implementación en Software

• Una Red Neuronal implementada en software es considerada una simulación y presenta numerosas desventajas sobre sus similares de hardware.

• El principal motivo para descartar una implementación software es el de la velocidad.

• Un chip especializado para ANN, de funcionamiento paralelo, es capaz de ofrecer respuestas totalmente confiables en tiempo real.

• Para aplicaciones que exigen Redes de menos de 100 neuronas y escaso entrenamiento las implementaciones software son suficientes.

• Cuando los problemas a resolver exigen cantidades tales como 1000 neuronas y 10000 sinapsis, es necesario emplear hardware de alta performance.

Page 11: Redes Neuronales - Presentacion.ppt

Hardware vs Software

Implementación Software

Introducción

Implementación Hardware

Ejemplos

Futuras Tendencias y Conclusión

La mayoría de las aplicaciones ANN en uso comercial están implementadas en software y corren en una computadora de propósito general con un procesador convencional simple.

Razones más comunes para usar hardware ANN:

• Velocidad: las ANN son intrínsecamente paralelas, y las implementaciones hardware pueden hacer uso de esto.

• Costo: una implementación hardware puede proveer márgenes para reducir los costos del sistema: cantidad de componentes, potencia de los requerimientos, etc.

• Confiabilidad: reducida probabilidad de fallas en el equipo.

• Condiciones operativas especiales: en aplicaciones que imponen restricciones tales como tamaño físico o peso limitado, una implementación hardware puede ser esencial

• Seguridad: el hardware especializado puede ofrecer mejor protección contra la "ingeniería inversa" de potenciales competidores.

Page 12: Redes Neuronales - Presentacion.ppt

Componentes Utilizados

Implementación Software

Introducción

Implementación Hardware

Ejemplos

Futuras Tendencias y Conclusión

• Neurocomputadoras: proveen un completo sistema basado en técnicas neuronales, con significativo poder de procesamiento.

• Aceleradoras de PC y otras tarjetas: son generalmente hechas para un bus estándar tal como el ISA.

• Chips: pueden ser usados para construir algunas de las formas precedentes o pueden ser incluidos dentro de otros dispositivos para hacer una unidad de aplicación completa.

• Bibliotecas celda: permiten un apropiado nivel de funcionalidad neuronal al ser incluidas dentro de un chip dedicado al lado de otras funciones necesarias. Esto es lo indicado para aplicaciones de gran volumen.

• Microcomputadoras embebidas: pueden ser pensadas como computadoras de propósito general implementando un software ANN en hardware dedicado sin los periféricos normales de una computadora.

Page 13: Redes Neuronales - Presentacion.ppt

Tipos de Implementación Hardware

Implementación Software

Introducción

Implementación Hardware

Ejemplos

Futuras Tendencias y Conclusión

Digital

Analógica

Híbrida

Page 14: Redes Neuronales - Presentacion.ppt

Implementaciones digitales

Tipos de Implementación Hardware

Implementación Software

Introducción

Implementación Hardware

Ejemplos

Futuras Tendencias y Conclusión

Todos los valores pasados en la red están representados por palabras binarias con una longitud de palabra característica.

Ventajas:

• Liberación del ruido.

• Almacenamiento de coeficientes de peso por una indefinida longitud de tiempo mediante RAM.

• Tecnologías de fabricación off-the-shelf.

• Precisión exacta de las fases de multiplicación y suma.

• Fácil incorporación dentro de los sistemas existentes.

Page 15: Redes Neuronales - Presentacion.ppt

Implementaciones digitales

Tipos de Implementación Hardware

Implementación Software

Introducción

Implementación Hardware

Ejemplos

Futuras Tendencias y Conclusión

Restricciones:

• Baja velocidad de operación, especialmente en los pasos de multiplicación y suma.

• Las entradas del mundo real son típicamente analógicas, y deben ser convertidas a un formato digital para ser procesadas.

Page 16: Redes Neuronales - Presentacion.ppt

Implementaciones digitales

Tipos de Implementación Hardware

Implementación Software

Introducción

Implementación Hardware

Ejemplos

Futuras Tendencias y Conclusión

• Arquitecturas Slice: proveen bloques de construcción de los cuales pueden ser construidas redes neuronales de tamaño y longitud de palabra arbitraria.

• Chips Multiprocesador: consiste en poner muchos procesadores simples en un solo procesador. Hay dos grupos: SIMD y Arreglos Sistólicos.

• Funciones Base Radiales: operan por la manipulación de vectores prototipo, que definen regiones de influencia alrededor de la formación de datos de entrada.

• Otros diseños digitales: algunas redes neuronales digitales no pueden ser clasificadas usando las categorías expuestas. Por ejemplo, el MT19003 NISP es un procesador RISC, que implementa siete instrucciones optimizadas para redes multicapa. Los chips Hitachi Wafer SI han sido diseñados para implementar redes Hopfield y de retropropagación.

Page 17: Redes Neuronales - Presentacion.ppt

Tipos de Implementación Hardware

Implementaciones analógicasImplementación

Software

Introducción

Implementación Hardware

Ejemplos

Futuras Tendencias y Conclusión

• Tienen la capacidad de alcanzar altas velocidades y alta densidad de implementación.

• Diseño neurofórmico: la circuitería intenta imitar el comportamiento de neuronas biológicas y sinapsis tan cerca como sea posible.

Desventajas debido a dificultades en:

• La obtención de alta precisión a efectos de diferencias en componentes.

• El almacenamiento a largo plazo de coeficientes de peso analógicos.

• La implementación de multiplicadores analógicos.

Page 18: Redes Neuronales - Presentacion.ppt

Tipos de Implementación Hardware

Diseños híbridosImplementación

Software

Introducción

Implementación Hardware

Ejemplos

Futuras Tendencias y Conclusión

Por la combinación de técnicas digitales y analógicas, los diseños híbridos intentan obtener “lo mejor de ambos mundos”.

En algunos diseños las comunicaciones externas son digitales, mientras que el procesamiento interno es total o parcialmente analógico.

Ejemplos:

• Bellcore CLNN-32

• AT&T ANNA

• Neuroclassifier

• Neural Semiconductor

Page 19: Redes Neuronales - Presentacion.ppt

Tipos de Implementación Hardware

Implementaciones ópticasImplementación

Software

Introducción

Implementación Hardware

Ejemplos

Futuras Tendencias y Conclusión

Los hologramas se utilizan para implementar la función sináptica, logrando la conectividad a través de la luz.

• No están lo suficientemente desarrolladas.

• Los rayos de luz no pueden sufrir interferencias.

• La principal dificultad es poder soportar la variedad de tipos de entrada que existen a menudo, como así también la generación de atenuadores holográficos.

Page 20: Redes Neuronales - Presentacion.ppt

Implementación Software

Introducción

Implementación Hardware

Ejemplos

Futuras Tendencias y Conclusión

Aplicaciones y ejemplos

Las redes neuronales han sido usadas en la imitación de patrones, para generalizar, para combinar nuevas situaciones con otras anteriores, reflejar estructuras dentro de su entorno, y seleccionar entre diversas posibilidades.

• Intel Corporation lanzó un chip de red neuronal analógica en Agosto de 1990.

• Las investigaciones prosiguieron además en los laboratorios de AT&T, TRW, Texas Instruments, IBM, General Electric, NASA’s Jet Propulsion Laboratory, entre otros.

• Los investigadores de Allied Signal entrenaron una red para reconocer objetivos submarinos a partir de un sonar.

• La Universidad de Pennsylvania creó una red neuronal óptica para detectar objetos mediante un radar.

Page 21: Redes Neuronales - Presentacion.ppt

Implementación Software

Introducción

Implementación Hardware

Ejemplos

Futuras Tendencias y Conclusión

Aplicaciones y ejemplos

• Los beneficios de las redes neuronales han sido reconocidos especialmente en Japón, donde un número considerable de bienes de consumo está haciéndose usando esta tecnología.

• Compañías europeas que han investigado el uso de redes neuronales basadas en hardware: Ericsson (UK y Suecia), Philips Research (NL), Siemens AG Munich, Siemens / Nixdorf Bonn, 3M Laboratories (Europa) GmbH Neuss, XIONICS Document Technologies GmbH dortmund, Robert Bosch GmbH Reutlingen, Spectrum Microelectronics Siek (Alemania), Fiat (Italia), Domain Dynamics Ltd (UK).

El soft NestorWriter de Nestor, Inc. utiliza un diseño de red neuronal para interpretar letras manuscritas sobre un pad sensible.

Page 22: Redes Neuronales - Presentacion.ppt

Implementación Software

Introducción

Implementación Hardware

Ejemplos

Futuras Tendencias y Conclusión

CNAPS de Adaptive Solutions

• Emplea chips CNAPS-1064 ó 1016 según posea 64 ó 16 elementos procesadores (neuronas).

• Cada elemento procesador contiene un multiplicador de 9x16 bits, un acumulador de 32 bits y 4 kbytes de memoria “on-chip” para almacenamiento de pesos sinápticos.

• Arquitectura SIMD.

• No provee operaciones de punto flotante, y la división debe ser implementada mediante algoritmos.

Page 23: Redes Neuronales - Presentacion.ppt

Implementación Software

Introducción

Implementación Hardware

Ejemplos

Futuras Tendencias y Conclusión

ZISC de IBM (Zero Instruction Set Computer)

• Desarrollado en los laboratorios IBM de París.

• Es de tipo Funciones Base Radiales (RBF).

• El ZISC036 consta de 36 neuronas.

• El chip se vende por separado, o en formatos de Tarjetas ISA, SIMM o PCI.

Page 24: Redes Neuronales - Presentacion.ppt

Implementación Software

Introducción

Implementación Hardware

Ejemplos

Futuras Tendencias y Conclusión

Futuras tendencias y conclusión

Están emergiendo los chips basados en neuronas como también las aplicaciones para la resolución de problemas complejos. Claramente, el presente es un período de transición para la tecnología de las redes neuronales.

Realidades alternativas producidas por entornos sensitivos.

Integración de la Inteligencia Artificial con la vida orgánica.

Nuevas interfases máquina-hombre.

Predicción 2 Predicción 3Predicción 1

Page 25: Redes Neuronales - Presentacion.ppt

IntegrantesIntegrantes Aguilera Fernández Oscar A. Carbajal Coronado Jaime F. Chávez Mendoza Diana Leal Aranda Liliana A. Karla Gpe. Montes de Oca Lima