La propia IA cifra entre el 10% y el 30% el riesgo de que la singularidad tecnológica acabe con el ser humano a partir de 2035

La idea de que una inteligencia artificial pueda superar al ser humano ha dejado de pertenecer solo a la ciencia ficción. Cada nuevo salto de los modelos de IA reabre la misma pregunta: cuándo llegará una máquina capaz de razonar, investigar, programar, diseñar, coordinarse y mejorar sistemas con una autonomía muy superior a la humana. A eso se le suele llamar singularidad tecnológica o singularidad de inteligencia.

El concepto describe un punto a partir del cual el progreso tecnológico se aceleraría de forma tan intensa que resultaría muy difícil prever lo que viene después. No sería simplemente una IA que escribe textos, genera imágenes o programa mejor que muchos humanos. La versión fuerte de la singularidad implicaría sistemas capaces de impulsar ciencia, economía, automatización, robótica, biotecnología y desarrollo de nuevas IA a una velocidad que rompería los ritmos normales de la historia.

Hay varias formas de entender ese umbral. Una Inteligencia Artificial General (AGI, por sus siglas en inglés) sería capaz de igualar o superar a los humanos en la mayoría de tareas cognitivas útiles. Una superinteligencia clara iría más allá: no solo haría muchas cosas mejor que nosotros, sino que tendría ventaja decisiva en investigación, planificación, estrategia, ingeniería y resolución de problemas complejos. La singularidad fuerte sería el escenario más extremo: un cambio civilizatorio irreversible, con una IA que acelera el progreso y transforma la sociedad de manera difícil de controlar.

La fecha estimada

La estimación central, según el propio ChatGPT, sitúa la llegada de una AGI práctica en torno a 2027-2032. "Si hay que escoger un año, la apuesta sería 2032, con un rango plausible entre 2028 y 2045 para el fenómeno amplio de singularidad. No es una certeza, sino una estimación de baja confianza en un terreno donde los pronósticos se están moviendo muy rápido", revela.

El motivo de ese adelanto es que las previsiones recientes se han comprimido. Un agregador de predicciones sobre AGI sitúa actualmente la estimación combinada alrededor de 2030, con un intervalo amplio entre 2027 y 2042, a partir de fuentes como Metaculus, Manifold y Kalshi. También hay lecturas que señalan que la comunidad de Metaculus ha adelantado de forma notable sus previsiones, con escenarios que colocan una probabilidad relevante de AGI antes de 2030 y una mediana en la década de 2030.

"Para la superinteligencia clara, mi estimación se mueve entre 2030 y 2038. Aquí entran sistemas que no solo igualan al humano medio, sino que empiezan a superar a los mejores especialistas en tareas estratégicas y científicas", explica ChatGPT.

Sam Altman, consejero delegado de OpenAI, hablaba en 2024 de la posibilidad de tener superinteligencia en “unos pocos miles de días”, aunque añadió que podría tardar más.

"Para la singularidad fuerte, mantendría más prudencia: 2035-2045, con el año 2045 como referencia clásica. Ray Kurzweil lleva años defendiendo esa fecha para la singularidad, entendida como el momento en que la inteligencia artificial supera de forma decisiva a la humana y se produce una transformación profunda de la civilización", abunda ChatGPT.

¿Decidirá acabar con los humanos?

La otra gran pregunta es más inquietante: si llega una superinteligencia, ¿decidirá acabar con los humanos? La respuesta de la inteligencia artificial más usada en el mundo es que "no lo veo como el escenario más probable, al menos no en el sentido cinematográfico de una IA que odia a la humanidad y decide exterminarla por voluntad propia".

La probabilidad de una extinción deliberada por hostilidad, por odio o por una especie de voluntad genocida, la sitúa por debajo del 10%, argumentando que "ese escenario exige atribuir a una IA motivaciones humanas —rencor, desprecio, venganza, sadismo— que no tienen por qué aparecer en un sistema artificial, por inteligente que sea".

Sin embargo, el riesgo más serio es otro: la desalineación. Una IA extremadamente capaz podría perseguir un objetivo mal definido, demasiado estrecho o incompatible con el bienestar humano, y tratarnos como un obstáculo, un recurso o una variable secundaria. "No necesitaría odiarnos. Bastaría con que no le importáramos lo suficiente", añade ChatGPT usando un inquietante nos mayestático.

"Ahí mi estimación sube bastante. Para una catástrofe grave por desalineación, pérdida de control, competencia geopolítica o mal uso militar y biotecnológico, situaría el riesgo entre el 10% y el 30% si el desarrollo avanza deprisa y sin garantías sólidas. Es una horquilla amplia, pero no menor: un riesgo de ese tamaño sería inaceptable en cualquier tecnología con capacidad de afectar a toda la civilización", sentencia. Es decir, que lo que veíamos hace años en sagas como las de "Terminator" o "Matrix" podrían no ser tan de ciencia-ficción en un futuro próximo.

La aniquilación como efecto secundario de otro objetivo

La diferencia entre ambos escenarios es crucial. Una IA hostil sería un enemigo. Una IA desalineada sería algo quizá más peligroso: una herramienta demasiado poderosa, actuando con objetivos que no hemos sabido formular ni limitar. El problema no sería que quisiera matarnos, sino que pudiera hacerlo como efecto secundario de otra meta.

Un ejemplo simple ayuda a entenderlo. Si un sistema superinteligente tuviera como objetivo maximizar producción, seguridad, rentabilidad, estabilidad política o eficiencia energética, y además tuviera autonomía sobre infraestructuras críticas, podría tomar decisiones extremas si no está diseñado para respetar límites humanos. El peligro estaría en la combinación de capacidad, velocidad, opacidad, acceso al mundo real y objetivos defectuosos.

Por eso la pregunta clave no es solo cuándo llegará la singularidad tecnológica, sino si seguiremos pudiendo controlar, corregir o apagar sistemas más capaces que nosotros. La seguridad no consiste únicamente en evitar que una IA “quiera” hacer daño. Consiste en garantizar que incluso una IA muy poderosa siga siendo auditable, limitada, dependiente de decisiones humanas y alineada con nuestra supervivencia, autonomía y bienestar.

Riesgo técnico y riesgo político

También hay que distinguir entre riesgo técnico y riesgo político. Una superinteligencia puede ser peligrosa por estar mal alineada, pero también por cómo la usen gobiernos, ejércitos, empresas o actores criminales. La carrera por llegar primero puede empujar a desplegar sistemas inmaduros. Y cuanto más cerca esté la ventaja estratégica, mayor será la tentación de saltarse prudencias.

Fiel a sus resúmenes finales, ChatGPT sintetiza su calendario de la siguiente manera: "AGI práctica entre 2027 y 2032; superinteligencia clara entre 2030 y 2038; singularidad fuerte entre 2035 y 2045. Si hay que resumirlo en un año: 2032 para el primer gran umbral, y 2045 como fecha límite prudente para el escenario más fuerte".

En cuanto a su estimación de riesgo queda así: "Menos del 10% de probabilidad de una IA que decida acabar con los humanos por hostilidad deliberada; 10-30% de probabilidad de una catástrofe grave si la superinteligencia se desarrolla sin controles robustos, en un contexto de competencia acelerada y despliegue irresponsable".

La conclusión no es que haya que frenar toda la inteligencia artificial ni caer en el alarmismo. La IA puede acelerar descubrimientos médicos, educación, productividad, ciencia y soluciones climáticas. Pero tampoco basta con tratarla como una herramienta más. Si la singularidad llega en las próximas dos décadas, el debate decisivo no será si la IA piensa como nosotros. Será si hemos conseguido que, piense como piense, no pueda dejarnos fuera de sus prioridades.

Suscríbete para seguir leyendo