From Andres.Perez@di.epfl.chWed Apr 12 11:38:53 1995 Date: Wed, 12 Apr 1995 11:36:16 +0200 (MET DST) From: "Andres Perez U." To: Univalle-elec-ex , Andres Perez , bermudez@lrehp4.epfl.ch, caicedo@iai.es, cpinedo@aramis.iup.univ-evry.fr, jaime@maxwell.univalle.edu.co, jramirez@lag.ensieg.fr, machado@elde.epfl.ch, pineda@di.epfl.ch, restrepo@di.epfl.ch Cc: Beatriz Ocampo , German Vega <93823375@hector.unil.ch> Subject: Siguiendo con la idea de las micropublicaciones electrOnicas From Supervised Learning Neural Networks to Hardware-Evolvable Neural Networks with Unsupervised Learning ANDRES PEREZ U (LSL-EPFL) Reporte Interno Una Red Neuronal Artificial realiza el "mapeo" de un conjunto de vectores de una dimensiOn n a una dimensiOn m. De dicho mapeo emergen una serie de propiedades como aprendizaje, procesamiento paralelo distribuido, memoria asociativa, etc. Como ejemplo tomemos el caso del reconocimiento de patrones : los patrones de entrenamiento son los vectores de la dimensiOn n a mapear, y la pertenencia o no de dichos patrones a una clase dada determina los vectores del espacio de dimensiOn m. { 1,1,1,1,1, 0,0,0,1,0, 0,0,1,0,0, 0,0,1,0,0, ----> { 0,0,0,0,0,0,0,1,0,0 } 0,0,1,0,0, 0,0,1,0,0, 0,0,1,0,0 } El aprendizaje de un conjunto de patrones dado implica un preprocesamiento que defina un espacio intermediario que facilite el aprendizaje de los mismos [1] : { 1,1,1,1,1, { 1,1,1,1,0, 0,0,0,1,0, 0,0,0,1,0, 0,0,1,0,0, 0,0,0,1,0, 0,0,1,0,0, 0,0,1,1,1, ----> { 0,0,0,0,0,0,0,1,0,0 } 0,0,1,0,0, 0,0,0,1,0, 0,0,1,0,0, 0,0,0,1,0, 0,0,1,0,0 } 0,0,0,1,0 } Sin embargo, es posible obviar un supervisor que asigne las clases a los patrones de entrada. La definiciOn de un espacio intermediario como tal implica lo que se denomina aprendizaje no supervisado. Las dimensiones de dicho espacio se denominan caracterIsticas y la transformaciOn de un vector de entrada al espacio de caracterIsticas : extracciOn de caracterIsticas [1]. La definiciOn del espacio de caracterIsticas consiste en la extracciOn de las propiedades estadIsticamente sobresalientes de las se~ales de entrada : es tan importante encontrar las regularidades entre las se~ales como la redundancia intrInseca en las mismas. [1] Los Algoritmos Competitivos son un tipo de algoritmos de aprendizaje no supervisado, donde se implementa una competencia entre los elementos de procesamiento utilizando un tipo de no linearidad llamada Winner-take-all [4]. La idea consiste en que en vez de examinar la respuesta de cada unidad de procesamiento para determinar cual es la mayor, la respuesta de dicha unidad sea la Unica diferente de cero [6], y la realizaciOn de esta tarea sin requerir de un supervisor externo es lo que se conoce como dinAmica competitiva. Para hacer responder de forma mAxima una unidad ante un vector de entrada particular, los pesos de la misma deben hacerse iguales al vector de entrada.La modificaciOn de los pesos puede hacerse segUn la fOrmula : W(t+1) = W(t) + a(X-W)y donde X es el vector de entrada, W el de pesos e y es la salida de la unidad Expandiendo la fOrmula, el producto aXy corresponde al tipo de aprendizaje de Hebb : "cuando un axOn de una cElula A estA suficientemente cerca a una cElula B y repetidamente o persistentemente toma parte en su excitaciOn, algUn proceso de crecimiento o cambio metabOlico toma lugar en una o mas cElula de forma que la eficiencia de A como excitaciOn de B es incrementada". Por otro lado el tŽrmino -aWy es un tErmino que garantiza la normalizaciOn, es decir que la suma de las fuerzas sinApticas no supere un valor que estŽ gobernado por caracterIsticas fIsicas en la CElula [6]. En el cortex cerebral, Areas individuales exhiben un ordenamiento lOgico en su funcionalidad, por ejemplo el llamado mapa tonotOpico de las regiones auditivas donde neuronas vecinas responden a similares frecuencias. Dichas regiones se conocen como mapas ordenados de caracterIsticas [6]. Inspirado en el cortex cerabral se han desarrollado modelos neurocomputacionales donde unidades localizadas fIsicamente cerca a otras responden a vectores de clases similares. Para demostrar la formaciOn de un mapa de caracterIsticas puede recurrirse al ejemplo en el cual las unidades son entrenadas para reconocer sus posiciones relativas en el espacio de 2D. Kohonen ha desarrollado un forma de ilustrar la dinAmica del proceso de aprendizaje. En lugar de visualizar la posiciOn de los elementos de procesamiento, estos son visualizados segUn su ubicaciOn en el espacio de pesos y despuEs se grafican conecciones entre las unidades vecinas en el espacio fIsico [6]. En un mEtodo de aprendizaje competitivo, cuando la distribuciOn de la se~al de entrada no es uniforme, habrAn unidades que ganen la competencia mas veces que las demAs y tendrAn mas oportunidad de actualizar sus pesos, incluso habrAn unidades que nunca ganen la competencia. Una alternativa propuesta para este problema es que en lugar de actualizar los pesos de la unidad ganadora solemente, se define una vecindad fIsica alrededor de dicha unidad y se actualizan los pesos de dichas unidades vecinas tambiEn [1]. Este proceso es visto en las neuronas del cOrtex, donde la interacciOn lateral entre ciertas neuronas obedece a una funciOn conocida como El Sombrero mexicano. Un elemento de procesamiento central excita una peque~a vecindad con conexiones excitactorias, a medida que la distancia del nodo central aumenta, la excitaciOn disminuye hasta convertirse en una actividad inhibitoria. Finalmente una segunda actividad excitatoria a mayor distancia es observada. Una aproximaciOn de esta funciOn consiste en definir una distancia que determine una vecindad alrededor de la unidad ganadora y sobre la cual actualizar los pesos [6]. Siguiendo a un proceso de auto-organizaciOn, puede ser deseable asociar a ciertas entradas unos ciertos valores de salida. A la arquitectura SOM puede a~adirse una capa de asociaciOn, para formar una estructura llamada : Feature Map Classifier (FMC) [6]. El algoritmo de aprendizaje de los SOFM estA basado en dos efectos : interacciOn inhibitoria a larga distancia, y excitatoria a corta distancia.Sin embargo estos algoritmos contienen una fuerte idealizaciOn : cada unidad compite con "todas las otras unidades" en la red, es decir, la competencia es una operaciOn global. Esto limita la posibilidad de implementar SOFM en hardware paralelo [3]. Miikulainen ha investigado la formaciOn de regiones de actividad localizada como un proceso dinAmico : reemplaza la distancia Euclidiana y la supervisiOn global inherente en SOM por cAlculos locales compatibles con el modelo de suma ponderada de actividades de la neurona. Miikulainen se ha inspirado en Kohonen quien a sugerido que la auto- organizaciOn en sistemas biolOgicoas se debe a la acciOn de inhibiciones laterales y redistribuciOn de recursos sinApticos [2]. Los algoritmos mencionados de aprendizaje no supervisado utilizan una red estAtica donde son sus parAmetros : pesos sinApticos, etc quienes son modificados durante el aprendizaje. La idea de adicionar nuevas unidades detectoras de caracterIsticas no es nueva. Ya en 1987 Grossberg y Carpenter utilizan en su ART un parAmetro de umbral que vigila cuando una entrada es suficientemente diferente para adicionar una nueva unidad, pero este parAmetro es fijo para todas las unidades, lo cual asume una distribuciOn uniforme de la informaciOn de entrada. Igualmente se han propuesto adiciones de unidades a un SOM. [1] Trabajos ilustrativos en el Area son : - GAR (Grow and Represent) [1] es un modelo incremental de aprendizaje no supervisado basado en una no linearidad global WTA que define un parAmetro de umbral que cambia en el tiempo y posee etapas de "sue~o" donde se busca adaptar el sistema ante cambios en la densidad de probabilidad de la se~al en el tiempo, y eliminar unidades no imprescindibles. - SOM with local competition and evolutionary optimization [3] : Define un modelo de SOM donde cada unidad posee un parAmetro de fitness que cambia en el tiempo y del cual depende si la unidad permanece activa o se desactiva. Cuando una neurona es activada hereda los pesos sinApticos de sus neuronas vecinas mas prOximas. A diferencia de la aproximaciOn clAsica de evolucionar una poblaciOn de redes, una red es considerada como una poblaciOn y cada unidad de la misma como un individuo. - Growing Cell Strcutres in k dimensions [8] : Una red SOM que parte de una arquitectura de k dimensiones fija (una lInea, un triAngulo, un tetrahedro, un hypertetraedro), y sufre un crecimiento fractal como resultado de la adiciOn de unidades de acuerdo a la frecuencia de activaciOn de las unidades ya exitentes al obedecer a una no linearidad Winner Take All. Adicionalmente presenta la eliminaciOn de unidades "superfluas" de una manera similar a la red GAR. [1] Neural Models of Incremental Supervised and Unsupervised Learning Ethem Alpaydin A.I. PhD thesis EPFL [2] Self-organizing process based on lateral inhibition and synaptic resource redistribution Miikulainen Risto, Utexas-Austin [3] Self-organizing Maps : Local competition and Evolutionary Optimization Jockush S, Ritter Helge, Bielefeld University (Germany) [4] Mosaic NN-course : Gurney Kevin, Brunel University (UK) [5] Neural networks approaches to Image Compression Dony R, haykin S. McMaster University (Canada) [6] NN (book) Freeman-Skapura [7] Why topological maps are useful for learning in an Autonomous Agent Zrehen (EPFL), Gaussier [8] FRIETZKE Bernd, "Growing Cell Structures", Artificial Neural Networks 2, 1992 --------------- ANDRES PEREZ U. LSL - EPFL