Perceptrón Multicapa (MLP)
Composición afín no lineal. Base del Teorema de Aproximación Universal (Cybenko, 1989; Hornik, 1991): cualquier función continua sobre compactos de $\mathbb{R}^n$ puede aproximarse arbitrariamente con una capa oculta.
Sugerencias rápidas:
No se encontraron resultados para
Prueba con términos más generales o verifica la ortografía.
Taxonomía completa: Perceptrones, Convolucionales, Recurrentes, Transformers, Autoencoders y Difusión
Catálogo interactivo con diagramas de flujo tensorial de las principales topologías neuronales de la historia de la inteligencia artificial, desde el Perceptrón multicapa y ResNet hasta arquitecturas de difusión y grafos.
De los hiperplanos del perceptrón clásico a los modelos de difusión y operadores continuos en SciML. Una clasificación analítica basada en transformaciones espaciales, conservación de simetrías y flujos de información.
Composición afín no lineal. Base del Teorema de Aproximación Universal (Cybenko, 1989; Hornik, 1991): cualquier función continua sobre compactos de $\mathbb{R}^n$ puede aproximarse arbitrariamente con una capa oculta.
Aprovecha la localidad espacial y la equivarianza ante traslación mediante campos receptivos compartidos (LeCun, 1989). Reduce drásticamente los parámetros libres en tensores de alta dimensionalidad (imágenes 2D/3D).
Resuelve el problema del desvanecimiento del gradiente (*vanishing gradient*) mediante compuertas multiplicativas ($f_t, i_t, o_t$) y un carril lineal de memoria aditiva $C_t$ (Hochreiter & Schmidhuber, 1997).
Aprende un espacio latente continuo y ordenado mapeando entradas a distribuciones gaussianas $\mathcal{N}(\mu, \Sigma)$. Emplea el truco de reparametrización ($z = \mu + \sigma \odot \epsilon$) para permitir backpropagation estocástico.
Juego de suma cero minimax entre dos redes: un Generador que sintetiza candidatos a partir de ruido latente y un Discriminador que estima la probabilidad de que una muestra sea real (Goodfellow et al., 2014).
Sustituye la recurrencia secuencial por comparaciones cuadráticas de producto punto escalado entre todos los tokens en paralelo (Vaswani et al., 2017). Pilar fundacional de los Large Language Models (LLMs) y Vision Transformers (ViT).
Incrusta operadores diferenciales en derivadas parciales (EDPs) directamente en la pérdida mediante diferenciación automática continua (Raissi et al., 2019). No requiere mallas espaciales rígidas (*mesh-free*).
Inspirados en la física estadística del no-equilibrio (Sohl-Dickstein, 2015; Ho et al., 2020). Destruyen progresivamente la estructura de la señal con ruido gaussiano hacia adelante y entrenan una red para revertir el proceso paso a paso.