Google Research presenta “Nested Learning”

Investigadores de Google Research anunciaron un avance disruptivo en el campo del aprendizaje automático con la presentación del artículo “Nested Learning: The Illusion of Deep Learning Architectures”, publicado en la conferencia NeurIPS 2025, una de las citas científicas más importantes en inteligencia artificial.

El estudio, desarrollado por Ali Behrouz, Meisam Razaviyayn, Peiling Zhong y Vahab Mirrokni, propone un nuevo paradigma de aprendizaje —Nested Learning (NL)— que cuestiona los fundamentos del aprendizaje profundo tradicional y sugiere una arquitectura más coherente, flexible y explicativa.

De la profundidad a la anidación

El concepto de Nested Learning (aprendizaje anidado) plantea que los modelos de IA no deberían limitarse a apilar capas (deep learning), sino que deberían organizarse como sistemas de optimización multinivel o paralelos, cada uno con su propio flujo de contexto y memoria.

Según los autores, esto permite recrear propiedades del cerebro humano, como la consolidación gradual de la memoria y la adaptación continua, que los modelos actuales —incluidos los grandes modelos de lenguaje— no logran reproducir.

Superando las limitaciones del aprendizaje profundo

Los investigadores comparan el funcionamiento de los modelos actuales con un trastorno de amnesia anterógrada, en el cual el sistema es incapaz de generar nuevas memorias a largo plazo después del entrenamiento inicial. “Los modelos de lenguaje aprenden, pero no recuerdan. Experimentan solo el presente inmediato”, señalan los autores.

Nested Learning ofrece una solución a través de una arquitectura que permite actualizaciones a múltiples escalas temporales, inspirada en la neurofisiología del hipocampo humano.

Este enfoque integra memoria de trabajo, memoria continua y mecanismos de autoactualización para lograr aprendizaje perpetuo y adaptativo, sin necesidad de reentrenamientos masivos.

HOPE: el modelo que aprende modificándose a sí mismo

Basados en esta teoría, los autores presentan el modelo HOPE (Higher-Order Persistent Engine), una arquitectura auto-referencial que aprende a modificar su propio algoritmo de actualización, un concepto que recuerda la plasticidad sináptica del cerebro.

En pruebas de lenguaje natural y razonamiento común, HOPE superó a modelos de referencia como Transformers, RetNet y DeltaNet, mostrando mejor capacidad de generalización y menor pérdida de memoria.

Optimización profunda y memoria continua

Otra de las aportaciones clave del trabajo es la reinterpretación de los optimizadores clásicos (como Adam o SGD) como módulos de memoria asociativa capaces de comprimir y recordar gradientes, lo que abre la puerta a “optimizadores con memoria profunda” y algoritmos autorreflexivos.

Asimismo, la propuesta de un sistema de memoria continua (Continuum Memory System) amplía la clásica distinción entre memoria a corto y largo plazo, permitiendo que cada nivel del modelo procese información en su propio ritmo temporal, replicando la estructura jerárquica del cerebro.

Para acceder a la versión completa aquí.