La profecía de Stephen Hawking: «La Inteligencia Artificial podría significar el fin de la raza humana»

El Papa León XIV se ha convertido en la última voz de peso en sumarse a una advertencia que lleva años acumulando firmantes de primer nivel: la inteligencia artificial representa un riesgo existencial para la humanidad que exige regulación urgente, responsabilidad de las empresas que la desarrollan y un debate ético que la velocidad del sector tecnológico no está permitiendo que se produzca con la seriedad necesaria.

León XIV publicó el 15 de mayo de 2026 su primera encíclica, Magnifica Humanitas, el primer documento papal dedicado íntegramente a la inteligencia artificial.

La presentó en la Sala del Sínodo del Vaticano con una declaración que resume el tono de todo el documento: «Las inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad».

El Papa eligió el nombre de León XIV precisamente por el paralelismo con León XIII, quien escribió Rerum Novarum en 1891 para responder a los desafíos sociales de la Revolución Industrial. Firmó su encíclica sobre IA el 15 de mayo de 2026, el mismo día en que se publicó Rerum Novarum 135 años antes. El mensaje es claro: la inteligencia artificial es la gran revolución de nuestro tiempo y la Iglesia tiene algo que decir sobre ella.

«Desarmar la IA», escribe León XIV, «no significa renunciar a ella, sino impedirle el dominio sobre lo humano». Y añade: la IA «puede curar, conectar, educar», pero también puede «dividir, descartar, generar nuevas injusticias», porque «no es neutral», ya que «toma el rostro de quien la concibe, la financia, la regula, la utiliza».

La advertencia sobre el poder concentrado

Una de las preocupaciones centrales de la encíclica es la concentración de poder. El Papa preguntó directamente: «¿Cómo podemos asegurar que el desarrollo de la inteligencia artificial sirva realmente al bien común y no se utilice únicamente para acumular riqueza y poder en manos de unos pocos?» «Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público, y crece el riesgo de un desarrollo distorsionado que provoca nuevas dependencias, exclusiones y manipulaciones».

El Papa presentó la encíclica junto a Chris Olah, cofundador de Anthropic, la empresa de IA que ha estado en disputa legal con la administración Trump por el uso de su tecnología en operaciones militares y de defensa. No es un detalle menor: el mayor líder espiritual del mundo eligió como interlocutor a uno de los creadores de los sistemas que advierte que pueden ser peligrosos.

Hawking se adelantó diez años

León XIV es la última voz de peso en una conversación que lleva más de una década acumulando firmantes ilustres. Fue en 2014 cuando Stephen Hawking, el físico teórico más influyente de su generación, lanzó la advertencia más radical que se había escuchado hasta entonces: «El desarrollo pleno de la IA podría significar el fin de la raza humana».

Hawking no era un alarmista de guardia. Era el científico que había formulado la teoría de la radiación de los agujeros negros, que había pasado décadas pensando sobre los límites del universo y la naturaleza del tiempo. Su argumento era preciso: la IA desarrollada hasta entonces había demostrado ser útil, pero una versión más elaborada podría decidir rediseñarse por cuenta propia y alcanzar un nivel superior. Y los humanos, limitados por su lenta evolución biológica, no podrían competir con máquinas que se mejoran a sí mismas a velocidades exponenciales.

La carta de los mil expertos

En 2023, más de un millar de expertos y altos ejecutivos tecnológicos firmaron una carta abierta pidiendo una pausa de seis meses en el entrenamiento de los sistemas de IA más potentes. Entre los firmantes estaban Elon Musk, el cofundador de Apple Steve Wozniak e investigadores de DeepMind, una de las empresas más avanzadas en el campo.

El argumento era el mismo que Hawking había formulado casi una década antes pero con más urgencia: los laboratorios que trabajan con esta tecnología están en una «carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden comprender, predecir o controlar de forma fiable».

La pausa nunca se produjo. Los modelos siguieron mejorando a una velocidad que ninguna regulación internacional ha logrado seguir. GPT-4, que era el sistema más avanzado cuando se publicó esa carta, lleva ya varios modelos sucesores que lo superan en capacidad.

Lo que la IA puede hacer que preocupa

Los riesgos que León XIV, Hawking y los firmantes de la carta tienen en mente no son todos iguales pero convergen en varios puntos críticos.

La posibilidad de que sistemas de IA sean usados para fines malintencionados: espionaje, manipulación masiva de opiniones, desinformación a escala industrial. León XIV advirtió específicamente sobre los «enjambres de drones autónomos coordinados por IA» y declaró que «ningún algoritmo puede hacer que la guerra sea moralmente aceptable».

El riesgo de amplificar desigualdades y prejuicios existentes si los sistemas se entrenan con datos sesgados. La IA no crea sesgos de la nada: los amplifica y los sistematiza a una escala que los hace mucho más difíciles de corregir.

Y el riesgo más profundo, el que más preocupaba a Hawking y al que León XIV dedica el núcleo filosófico de su encíclica: que la tecnología sustituya progresivamente la agencia humana en decisiones que afectan a millones de personas, sin que nadie haya elegido que así fuera.

El momento de hablar es ahora

«El momento de hablar sobre la inteligencia artificial es ahora», escribió León XIV en su encíclica.

Que el líder de la Iglesia Católica, el físico más brillante de su generación y algunos de los fundadores de la propia industria tecnológica coincidan en ese diagnóstico de urgencia debería ser suficiente para que los gobiernos y los organismos internacionales actuaran con una velocidad que hasta ahora no han mostrado.

La ONU lleva años pidiendo a las empresas que sean responsables. La UE ha aprobado la primera regulación de IA del mundo. Estados Unidos sigue sin un marco regulatorio federal coherente.

Mientras tanto, los modelos siguen mejorando. Las empresas siguen compitiendo. Y la carrera que Musk, Wozniak y mil expertos pedían pausar en 2023 no solo no se ha detenido: se ha acelerado.

Hawking lo dijo en 2014. El Papa lo escribe en una encíclica en 2026.

El intervalo entre la advertencia y la regulación efectiva sigue siendo el problema más peligroso de la historia tecnológica contemporánea.