Un equipo de investigadores de Google DeepMind ha publicado un innovador marco conceptual titulado «Niveles de AGI para operacionalizar el progreso en el camino hacia la AGI».
Este artículo propone un sistema de clasificación para evaluar el desarrollo de la Inteligencia Artificial General (AGI) basado en criterios de rendimiento, generalidad y autonomía.
El trabajo, presentado en la 41ª Conferencia Internacional sobre Aprendizaje Automático (ICML 2024), ofrece un marco estructurado para comparar modelos de IA, evaluar riesgos y medir el progreso hacia la AGI de una manera estandarizada y operativa.
Principales Contribuciones
📌 Un Modelo Basado en Niveles de AGI
El documento introduce una clasificación de AGI basada en dos dimensiones clave:
- Profundidad (rendimiento): Qué tan bien una IA realiza tareas en comparación con humanos.
- Amplitud (generalidad): Qué tan diversas son las tareas que puede realizar una IA.
Esta categorización permite ubicar los sistemas actuales de IA dentro de un espectro de desarrollo hacia la AGI.
📌 Diferenciación entre Inteligencia Artificial Estrecha y General
El informe distingue entre:
✔ IA estrecha (ANI): Modelos altamente especializados en tareas específicas (ej. AlphaFold para predicción de estructuras de proteínas).
✔ IA general emergente: Sistemas como ChatGPT o Bard, que muestran capacidades generales en múltiples tareas pero aún no alcanzan un nivel de rendimiento humano confiable.
✔ AGI plena: Un sistema que iguala o supera la inteligencia humana en la mayoría de los ámbitos cognitivos.
📌 Marcos de Evaluación y Riesgos
El documento enfatiza la necesidad de definir métricas claras para evaluar los modelos de IA. Algunas de sus recomendaciones incluyen:
✔ Creación de nuevas pruebas de referencia que midan capacidades emergentes.
✔ Evaluación del potencial de despliegue sin necesidad de aplicación inmediata.
✔ Monitoreo de riesgos, incluyendo sesgos, alineación con valores humanos y efectos en la economía.
📌 Autonomía y Seguridad en la Implementación de AGI
El informe propone seis niveles de autonomía en la interacción entre humanos y AGI, desde IA como herramienta (asistencia en tareas específicas) hasta IA como agente autónomo. Cada nivel introduce distintos riesgos y desafíos regulatorios.
📖 Accede al artículo completo aquí
