Neocognitrón
El neocognitrón es una red neuronal artificial jerárquica y de múltiples capas propuesta por Kunihiko Fukushima en 1979. Se ha utilizado para el reconocimiento de caracteres manuscritos japoneses y otras tareas de reconocimiento de patrones, y sirvió de inspiración para las redes neuronales convolucionales.
En 1969, publicó una arquitectura similar, pero con núcleos diseñados a mano e inspirados en las convoluciones de la visión de los mamíferos. En 1979, la mejoró hasta convertirla en el neocognitrón, que aprende todos los núcleos convolucionales mediante un aprendizaje no supervisado (en su terminología, "autoorganizado" mediante el "aprendizaje sin un maestro").
El neocognitrón se inspiró en el modelo propuesto por Hubel y Wiesel en 1959. Encontraron dos tipos de células en la corteza visual primaria, llamadas célula simple y célula compleja, y también propusieron un modelo en cascada de estos dos tipos de células para su uso en tareas de reconocimiento de patrones.
El neocognitrón es una extensión natural de estos modelos en cascada. El neocognitrón consta de varios tipos de células, las más importantes de las cuales se denominan células S y células C. Las células S extraen las características locales y las células C toleran la deformación de estas características, como los desplazamientos locales. Las características locales de la entrada se integran gradualmente y se clasifican en las capas superiores. La idea de la integración de características locales se encuentra en varios otros modelos, como el modelo de red neuronal convolucional, el método SIFT y el método HoG.
Existen varios tipos de neocognitrones. Por ejemplo, algunos tipos de neocognitrones pueden detectar múltiples patrones en la misma entrada utilizando señales regresivas para lograr una atención selectiva.
Véase también
- Red neuronal artificial
- El aprendizaje profundo
- Reconocimiento del patrón
- Campo receptivo
- Mapa de autoorganización
- Aprendizaje sin supervisión
Notas
- ^ Fukushima, Kunihiko (octubre de 1979). " 置ずיctarringistrosamente escrito" [modelo de red neuronal para un mecanismo de reconocimiento de patrones no afectado por el cambio de posición — Neocognitron —]. Trans. IECE (en japonés). J62-A (10): 658–665.
- ^ LeCun, Yann; Bengio, Yoshua; Hinton, Geoffrey (2015). "Aprendizaje profundo" (PDF). Naturaleza. 521 (7553): 436-444. Código:2015Natur.521..436L. doi:10.1038/nature14539. PMID 26017442. S2CID 3074096.
- ^ Fukushima, Kunihiko (1969). "Extracción visual de las características por una red multicapas de elementos análogos del umbral". Transacciones IEEE en Ciencia de Sistemas y Cibernética. 5 (4): 322–333. doi:10.1109/TSSC.1969.300225. ISSN 0536-1567.
- ^ Fukushima, Kunihiko (abril de 1980). "Neocognitron: Un modelo de red neuronal autoorganizador para un mecanismo de reconocimiento de patrones no afectado por el cambio de posición". Cibernética biológica. 36 (4): 193–202. doi:10.1007/BF00344251. ISSN 0340-1200.
- ^ David H. Hubel y Torsten N. Wiesel (2005). Percepción cerebral y visual: la historia de una colaboración de 25 años. Oxford University Press US. p. 106. ISBN 978-0-19-517618-6.
- ^ Hubel, DH; Wiesel, TN (octubre de 1959). "Cambios receptivos de neuronas individuales en la corteza del gato". J. Physiol. 148 (3): 574–91. doi:10.1113/jphysiol.1959.sp006308. PMC 1363130. PMID 14403679.
- ^ Fukushima 1987, pág. 83.
- ^ Fukushima 1987, pág. 84.
- ^ Fukushima 2007.
- ^ Fukushima 1987, págs. 81 y 85.
Referencias
- Fukushima, Kunihiko (abril de 1980). "Neocognitron: Un modelo de red neuronal autoorganizador para un mecanismo de reconocimiento de patrones no afectado por el cambio de posición". Cibernética biológica. 36 (4): 193–202. doi:10.1007/bf00344251. PMID 7370364. S2CID 206775608.
- Fukushima, Kunihiko; Miyake, S.; Ito, T. (1983). "Neocognitron: un modelo de red neuronal para un mecanismo de reconocimiento de patrones visuales". Transacciones IEEE en sistemas, hombres y cibernéticos. SMC-13 (3): 826-834. doi:10.1109/TSMC.1983.6313076. S2CID 8235461.
- Fukushima, Kunihiko (1987). "Un modelo jerárquico de red neuronal para la atención selectiva". En Eckmiller, R.; Von der Malsburg, C. (eds.). Computadoras neuronales. Springer-Verlag. pp. 81–90.
- Fukushima, Kunihiko (2007). "Neocognitron". Scholarpedia. 2 (1): 1717. Código:2007SchpJ...2.1717F. doi:10.4249/scholarpedia.1717.
- Hubel, D.H.; Wiesel, T.N. (1959). "Los campos receptivos de los noreones solteros en la corteza del gato". J Physiol. 148 (3): 574-591. doi:10.1113/jphysiol.1959.sp006308. PMC 1363130. PMID 14403679.
Enlaces externos
- Neocognitron en Scholarpedia
- NeoCognitron por Ing. Gabriel Minarik - aplicación (C#) y vídeo
- Neocognitron resources at Visiome Platform - includes MATLAB environment
- He aquí - un simulador Neocognitron