Redes Neuronales - Feed-forward

20 de Mayo de 2016

Redes Neuronales Edicion I

Feed-forward

Contenido

Redes

Neuronales 1Edicion 20 de Mayo de 2016

Elaborado por: Jonathan González C.I.:20.630.880

• Feed-forward

[EXTRA] • Redes Neuronales en la Actualidad

Feed-forward ¿Qué es?, ¿Como funciona?

Las redes neuronales se basan en una idea sencilla, dados unos parámetros hay una forma de combinarlos para predecir un cierto resultado. Son un modelo para encontrar esa combinación de parámetros y aplicarla al mismo tiempo. En el lenguaje propio, encontrar la combinación que mejor se ajusta es "entrenar" la red neuronal. Una red ya entrenada se puede usar luego para hacer predicciones o clasificaciones, es decir, para "aplicar" la combinación.

Las redes neuronales están formadas por un conjunto de neuronas artificiales interconectadas.

Estas neuronas de la red se encuentran distribuidas en diferentes capas de neuronas, de manera que las neuronas de una capa están conectadas con las neuronas de la capa siguiente, a las que pueden enviar información.

Antes de comenzar a hablar acerca del funcionamiento de las redes feedforward, es importante definir este termino, el cual describe

un tipo de sistema que reacciona a los cambios en su entorno, normalmente para mantener algún estado concreto del sistema. Un sistema que exhibe este tipo de comportamiento responde a las alteraciones de manera predefinida, en contraste con los sistemas retroalimentados.

En redes neuronales el concepto feed-forward tambien llamado “unidireccional”, normalmente hace referencia a redes del tipo perceptrón multicapa en las que las salidas de las neuronas van a las siguientes capas pero no a las anteriores, de modo que no hay bucles de retroalimentación.

Arquitectura. el termino arquitectura se refiere a la topología, estructura o patrón de conexionado de una red neuronal.

Cada neurona de la red es una unidad de procesamiento de información, es decir, recibe información a través de las conexiones con las neuronas de la

Feed-forward ¿Qué es?, ¿Como funciona?

capa anterior, procesa la información, y emite el resultado a través de sus conexiones con las neuronas de la capa siguiente, siempre y cuando dicho resultado supere un valor "umbral".

En una red neuronal ya entrenada, las conexiones entre neuronas tienen un determinado peso ("peso sináptico").

En una red neuronal artificial los nodos se conectan por medio de sinapsis, estando el comportamiento de la red determinado por la estructura de conexiones sinápticas. Estas conexiones sinápticas son direccionales, es decir, la información solamente puede propagarse en un único sentido (desde la neurona pre-sináptica a la pos-sináptica). En general las neuronas se suelen agrupar en unidades estructurales que denominaremos capas. El conjunto de una o más capas constituye la red neuronal.

Arquitectura Feed.forward o Unidireccional con cuatro capas de neuronas. (Una capa de entrada, dos capas ocultas y una capa de salida)

Una capa de entrada, también denominada sensorial, está compuesta por neuronas que reciben datos o señales procedentes del entorno. Una capa de salida se compone de neuronas que proporcionan la respuesta de la red neuronal. Una capa oculta no tiene una conexión directa con el entorno, es decir, no se conecta directamente ni a órganos sensores ni a efectores.. Este tipo de capa oculta proporciona grados de libertad a la red neuronal gracias a los cuales es capaz de representar más fehacientemente determinadas características del entorno que trata de modelar.

Para poder aprender, las redes neuronales se sirven de un algoritmo de aprendizaje.

Estos algoritmos están formados por un conjunto de reglas que permiten a la red neuronal aprender (a partir de los datos que se le suministran), mediante la modificación de los pesos sinápticos de las conexiones entre las neuronas (recordar que el umbral de cada neurona se modificará como si fuera un peso sináptico más).

Generalmente los datos que se usan para entrenar la red se le suministran de manera aleatoria y secuencial.

Feed-forward ¿Qué es?, ¿Como funciona?

Redes Feed-forward mas conocidas -El perceptrón Simple, el cual es un modelo unidireccional, consta de una red con una capa de salida de n neuronas y otra capa de salida de m neuronas también utiliza señales binarias. Las neuronas de entrada son discretas, la función de activación de las neuronas de la capa de salida es de tipo escalón además es un dispositivo entrenable que puede determinar automáticamente los pesos sinápticos que clasifican un conjunto de patrones etiquetados.

Entre los aspectos a destacar de este sistema puede decirse que es capaz de realizar tareas de clasificación de forma automática, a partir de un número de ejemplos etiquetados, el sistema determina la ecuación del plano discriminante y Puede usarse como neurona dentro de otro tipo de red de neurona artificial.

Por otra parte es importante señalar que no siempre el algoritmo de entrenamiento del Perceptrón podrá aproximarse hacia al error nulo. De hecho el Perceptrón es incapaz de aproximarse en aquellas funciones que son linealmente separables, es decir, aquellas cuyos elementos pueden ser separados por una línea recta.

-El perceptrón Multicapa, este modelo esta compuesto por Capa de entrada, capa de salida y capas ocultas, las cuales ya fueron mencionadas y explicadas anteriormente.

Entre los aspectos a destacar de esta red se encuentra la propagación de los patrones de entrada en el perceptrón multicapa define una relación entre las variables de entrada y variables de salida de la red. Así como también debemos mencionar que es una de las arquitecturas más utilizadas para resolver problemas reales. Se evalúa un conjunto de datos de entradas y se obtienen valores reales o vectores con valores reales.

-La Red Adaline, es muy similar al Perceptrón, excepto que su función de transferencia es lineal, en vez de escalón, el perceptrón es mucho mas sensible al ruido a diferencia del adaline ya que es este usa el algoritmo de aprendizaje LMS.

Feed-forward ¿Qué es?, ¿Como funciona?

Por otra parte, tanto el adaline como el perceptrón sufren de la misma limitación: solo pueden resolver problemas linealmente separables.

Entre las aplicacoines principales de este tipo de red se encuentra en el campo de procesamiento de señaes y aplicación de patrones (siempre y cuando los patrones sean linealmente separables) -La red Madaline, Fue una de las primeras redes neuronales multicapa entrenable con múltiples elementos adaptivos. Esta estructura fue diseñada después de adaline, para ir mas allá de la solución de problemas linealmente separables y es básicamente una combinación del perceptrón multicapa en la organización de múltiples capas de red Adaline.

-Y por ultimo tenemos la Red BackPropagation, la cual al igual que el Perceptron, ADALINE y MADALINE, la red Back-Propagation se caracteriza por tener una arquitectura en niveles y conexiones estrictamente hacia adelante entre las neuronas.

Consiste en un aprendizaje de un conjunto predefinido de pares de entradas-salidas dados como ejemplo, empleando un ciclo propagaciónadaptación de dos fases.

En la primera se aplica un patrón de entrada como estímulo para la primera capa de las neuronas de la red, se va propagando a través de todas las capas superiores hasta generar una salida.

Después se compara el resultado obtenido en las neuronas de salida con la salida que se desea obtener y se calcula un valor del error para cada neurona de salida.

En la segunda fase los errores se transmiten hacia atrás, partiendo de la capa de salida, hacia todas las neuronas de la capa intermedia que contribuyan directamente a la salida, recibiendo el porcentaje de error aproximado a la participación de la neurona intermedia en la salida original. La importancia de este algoritmo consiste en su capacidad de auto adaptar los pesos de las neuronas de las capas intermedias para aprender la relación que existe entre un conjunto de patrones dados como ejemplo y sus salidas correspondientes.

Redes Neuronales En la Actualidad

Inspirándose en el comportamiento conocido del cerebro humano. Se trata de crear modelos artificiales que solucionen problemas difíciles de resolver mediante técnicas algorítmicas convencionales. Últimamente las redes neuronales están volviendo a la actualidad por los logros que están consiguiendo. Por ejemplo, Google ha logrado derrotar a su propio reCAPTCHA con redes neuronales, en Stanford han conseguido generar pies de fotos automáticamente... Metas bastante impresionantes y que cada vez se acercan más a esa idea original de reproducir el funcionamiento del cerebro humano en un ordenador.

Por otra parte un equipo de investigación de la Universidad de Alcalá ha desarrollado un método basado en computación neuronal para la predicción de temperatura ambiente, a corto y medio plazo, en cualquier punto geográfico.

Según los autores, esta investigación puede tener muchas aplicaciones en campos como la agricultura, energía o aeronáutica.

La red tarda unos seis días en “aprender” qué es un número basándose en una base de datos de mas de 200,000 ejemplos.