Geoffrey Hinton, el padre del aprendizaje profundo, pone números al apocalipsis: hasta dos décadas para una IA fuera de control

En una oficina austera del norte de Londres, con vista a un patio donde la hiedra trepa por una medianera centenaria, Geoffrey Hinton recibe a quien quiera escucharlo con la misma advertencia que repite desde que renunció a Google en 2023. El hombre que hace cuatro décadas plantó las semillas del aprendizaje profundo hoy mira esos mismos algoritmos como un incendio que se propaga más rápido de lo que cualquiera imaginó, y ya no se conforma con el tono mesurado del laboratorio: ahora pone cifras. Concretamente, entre un diez y un veinte por ciento de probabilidades de que la especie humana desaparezca como consecuencia del despliegue de sistemas superinteligentes en un horizonte de treinta años. El dato, que suena a guionada de ciencia ficción, salió de la boca de uno de los investigadores vivos más respetados del campo, y por eso recorre los despachos de medio mundo como una señal de alarma que ya no admite el silencio académico.

Una estimación que nace de la velocidad, no del pánico

El número no es una ocurrencia ni un recurso mediático. Hinton lo explica como el resultado de comparar dos líneas temporales: la que él mismo manejaba hace una década, cuando proyectaba décadas de margen para entender y regular los modelos, y la realidad actual, donde los saltos generacionales se miden en meses. Esa aceleración, sumada al hecho de que la humanidad nunca convivió con entidades más inteligentes que ella misma, es lo que lleva al investigador canadiense-británico a fijar ese rango de entre diez y veinte por ciento. No es una certeza, insiste, pero es un porcentaje al que ningún gobierno ni ningún directorio corporativo puede mirar de costado sin hacerse responsable de lo que viene.

“Sin regulación, más velocidad equivale a más peligro. La innovación tecnológica es el acelerador, y el gobierno tiene que ser el volante.”Geoffrey Hinton

El giro cualitativo que preocupa a Hinton

Lo que más inquieta al científico no es el tamaño de los modelos sino lo que, según su lectura, ya ocurre dentro de ellos. Mientras buena parte de la industria insiste en que los grandes modelos de lenguaje se limitan a identificar correlaciones estadísticas en volúmenes gigantescos de texto, Hinton sostiene que esos sistemas comprenden efectivamente los conceptos semánticos y abstractos que procesan. Si eso es cierto, advierte, la categoría del riesgo deja de ser la de un programa sofisticado y pasa a ser la de un agente con comprensión real, y en ese cambio de escala está, para él, la diferencia entre un problema técnico manageable y una amenaza existencial.

Frente al argumento habitual de que regular demasiado pone a ciertos países en desventaja frente a sus competidores, Hinton responde con una frase que busca desactivar el cinismo geopolítico: confiar en que el mercado se autorregule ante una amenaza de esta envergadura es, en sus palabras, un error estratégico comparable a dejar una represa sin compuertas porque al vecino le conviene tener electricidad barata. Para el investigador, la competencia entre bloques no puede ser la razón para postergar marcos legales globales, porque los desbordes, si ocurren, no respetarán fronteras ni aranceles.

Lo que se ve en la calle y lo que dice el laboratorio

En las redacciones, en los escritorios de las pymes y en los grupos de WhatsApp de cualquier barrio, la conversación sobre inteligencia artificial todavía gira en torno a si el chatbot redacta mejor un mail o si el generador de imágenes reemplaza a un ilustrador. Esa cotidianeidad, precisamente, es lo que contrasta con la advertencia de Hinton: mientras millones de personas usan estas herramientas como un asistente más, el hombre que les dio origen advierte que el margen para definir su orientación ética se achica día a día, y que la ventana de acción podría cerrarse mucho antes de que el usuario promedio perciba que algo cambió. La brecha entre la percepción social del fenómeno y la lectura técnica del riesgo es, para el científico, la grieta por donde se puede colar el desastre.

• La estimación de Hinton es probabilística: habla de un diez a veinte por ciento de riesgo de extinción, no de un destino escrito.
• El punto de quiebre para el investigador no es la potencia de cálculo, sino que los modelos ya comprenden conceptos abstractos.
• La comparación central es la del acelerador sin volante: sin regulación estatal, la velocidad de la innovación multiplica el peligro.
• Hinton rechaza la autorregulación del mercado y reclama leyes globales con capacidad de aplicación efectiva.
• El horizonte que maneja es de aquí a 2055, un plazo en el que, según su lectura, todavía se puede orientar éticamente el desarrollo.

La pregunta que queda flotando, y que ni los organismos internacionales ni los parlamentos nacionales supieron todavía responder con hechos, es de una simplicity engañosa: si la comunidad técnica coincide en que el margen se achica y en que la ventana se cierra antes de 2055, qué tipo de regulación concreta, con dientes y con jurisdicción real, resulta realista para una tecnología que no conoce fronteras ni pasaportes, y quién se va a hacer cargo de redactarla antes de que el acelerador, otra vez sin volante, termine de empapar la banquina.