El filósofo y especialista en ética de la ciencia Christopher DiCarlo presenta su nueva obra Building a God: The Ethics of Artificial Intelligence and the Race to Control It (Prometheus, 2025), un libro que aborda el desafío más trascendental de nuestra época: cómo construir y gobernar inteligencias artificiales superpoderosas sin poner en riesgo la supervivencia de la humanidad.
En un momento en que los avances en inteligencia artificial (IA) se aceleran de manera vertiginosa, DiCarlo invita a reflexionar sobre las implicaciones éticas, políticas y sociales de crear sistemas que podrían superar las capacidades humanas en todos los aspectos.
Una metáfora potente: “construir un dios”
El autor utiliza la metáfora de “edificar un dios” para describir el proceso de diseñar inteligencias artificiales dotadas de características casi divinas: omnisciencia, omnipotencia y omnipresencia.
A diferencia de los dioses religiosos, estos “dioses artificiales” serían creados por los propios humanos, lo que plantea la pregunta central: ¿qué principios morales y salvaguardas deben incorporarse en su diseño para evitar consecuencias catastróficas?
Entre la promesa y el riesgo
El libro examina tanto las oportunidades como los peligros de la IA. Por un lado, promete resolver problemas globales como el hambre, las enfermedades y el cambio climático.
Por otro, advierte sobre el riesgo existencial de perder el control sobre una superinteligencia mal alineada con los valores humanos.
A lo largo de sus capítulos, DiCarlo desarrolla conceptos clave como:
- IA 101: historia, aplicaciones y fundamentos técnicos.
- Beneficios y riesgos de la IA, desde la eficiencia en salud y energía hasta la amenaza de desempleo masivo o manipulación social.
- Gobernanza global de la IA, con propuestas de acuerdos internacionales que limiten el uso irresponsable de estas tecnologías.
- Escenarios de futuros posibles, que van desde utopías de abundancia hasta distopías de colapso civilizatorio.
Una llamada urgente a la acción
El autor plantea que estamos ante nuestro propio “momento Oppenheimer”, similar al que enfrentaron los científicos que crearon la bomba atómica.
Para DiCarlo, la diferencia es que la IA, a diferencia de la energía nuclear, no puede contenerse en fronteras geográficas y sus efectos podrían expandirse sin control.
De allí surge su propuesta de un “Proyecto Manhattan de la IA”, orientado a la cooperación internacional para mitigar riesgos y definir marcos éticos universales.
Para adquirirlo aquí.
