Sam Altman advierte que la humanidad podría perder el control de la inteligencia artificial

Sam Altman, el CEO de OpenAI, volvió a encender las alarmas sobre el rumbo que está tomando la inteligencia artificial. En una serie de declaraciones recientes, el directivo identificó dos escenarios que, según su propia mirada, concentran los mayores peligros del desarrollo tecnológico: que los humanos pierdan el control sobre sistemas cada vez más avanzados y que una sola persona, empresa o país termine acumulando un poder desproporcionado gracias a esa misma tecnología.

“Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas”, sostuvo Altman, en una frase que resume el tono de preocupación que atraviesa toda su argumentación.

Los dos riesgos centrales

El primer riesgo apunta al corazón mismo del avance técnico: que la capacidad de los modelos crezca más rápido que nuestra capacidad de controlarlos. Para evitarlo, Altman planteó que las técnicas de alineación y seguridad deben avanzar al mismo ritmo que las propias capacidades de los modelos, o incluso por delante de ellas.

El segundo riesgo es de naturaleza política y económica. “Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos”, advirtió. Y reconoció que sortear ambos peligros a la vez obliga a transitar lo que describió como un “angosto camino intermedio”.

Regulación federal y coordinación internacional

A la hora de proponer soluciones concretas, el titular de OpenAI respaldó la creación de un marco regulatorio federal que fije requisitos de seguridad comunes para los modelos de frontera —es decir, aquellos que se ubican en el límite de las capacidades tecnológicas actuales— y que incorpore auditores independientes en los mecanismos de supervisión.

“Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia.”Sam Altman, CEO de OpenAI

Altman aclaró que las empresas no deberían esperar nuevas leyes para empezar a aplicar medidas de seguridad por cuenta propia, y señaló que la coordinación internacional es uno de los ámbitos en los que el sector privado va a necesitar sí o sí el respaldo de los gobiernos.

• Avanza más rápido que la regulación: por qué las técnicas de seguridad deben correr a la par o por delante de la capacidad de los modelos
• Un marco federal con estándares compartidos para los modelos de frontera
• Auditores independientes incorporados a los mecanismos de supervisión
• Empresas que aplican medidas de seguridad aunque todavía no haya nuevas leyes
• Coordinación entre gobiernos para evitar que la competencia geopolítica empuje a asumir riesgos innecesarios