Cuando la máquina también aprende a hacer daño: la advertencia del MI5 sobre la inteligencia artificial y las armas biológicas

Mi abuela decía siempre que lo que se sabe, se sabe, y lo que no, se inventa, y por eso a mí me gusta sentarme a leer estas cosas con el mate al lado y la lapicera en la mano, porque uno no quiere que lo agarren desprevenido. Esta semana, mientras el mundo se sigue maravillando con lo que la inteligencia artificial puede hacer por nosotros, un señor muy serio llamado Ken McCallum, director general del MI5, el servicio de inteligencia británico, decidió tirar la primera piedra y advertir, ni más ni menos, que la IA ya está siendo usada por terroristas y delincuentes para acceder a conocimientos científicos avanzados, y que entre los peligros más preocupantes aparece la posibilidad de desarrollar armas biológicas o aprender a liberar agentes patógenos a partir de información que está dando vueltas, libremente, en fuentes abiertas de internet. La frase del propio McCallum, que a mí me quedó resonando en la cabeza, fue: "La IA ya está intensificando la lucha por la ciberseguridad entre atacantes y defensores", y la dijo en el marco de su análisis anual de amenazas, que es como el discurso que el jefe de espías inglés da cada año para ponerles la lupa a los riesgos que se vienen.

Un galpón nuevo en el MI5: el Centro de Evaluación de Amenazas de IA

Lo que a mí más me llamó la atención de la noticia no es solamente el problema, que ya de por sí suena a película de espías, sino la respuesta que están pensando desde el propio servicio de inteligencia británico, porque lo que se anunció es la creación de un Centro de Evaluación de Amenazas de IA que va a funcionar adentro del MI5, una especie de galpón moderno, con computadoras y cerebros humanos, dedicado exclusivamente a estudiar, con tiempo y con seriedad, tanto los riesgos como las oportunidades que trae esta tecnología, siempre con el foco puesto en la seguridad nacional. McCallum fue muy claro al explicar que dedica una parte enorme de su jornada a pensar cómo anticiparse a los cambios tecnológicos, y la idea de fondo es encontrar un equilibrio entre los beneficios que la IA puede aportar y los daños que puede generar cuando cae en manos equivocadas, algo que a mí me parece un acto de honestidad intelectual poco frecuente, porque muchas veces los organismos de seguridad llegan a estos debates cuando el problema ya está en la calle y no cuando todavía se puede prevenir.

Lo que más me preocupa, y se lo fui comentando a varios colegas mientras preparaba esta nota, es el contexto en el que aparece esta advertencia, porque no se trata de un científico loco trabajando en un sótano, sino de herramientas que se vuelven accesibles para gente que no tiene formación técnica especializada, o sea, cualquier persona con una conexión a internet y un poco de paciencia puede sentarse frente a una pantalla y empezar a explorar temas que antes requerían años de estudio en un laboratorio, y la combinación de esa accesibilidad con información científica sensible que está disponible en línea es, justamente, el corazón de la preocupación que expresó el director del MI5, que lo dijo con una claridad que a mí me pareció conmovedora, porque habló de la necesidad de posicionarse en la vanguardia de esos cambios antes de que los riesgos se materialicen, una forma muy elegante de decir que hay que correr más rápido que el problema.

Lo que se viene: la pregunta que nadie puede esquivar

Y acá, amigas y amigos, es donde la nota se vuelve incómoda, porque una cosa es leerlo desde un portal de noticias y otra muy distinta es preguntarse qué medidas deberían tomar los gobiernos para regular el acceso a información sensible en sistemas de inteligencia artificial, una pregunta que no tiene una respuesta fácil y que tampoco se puede resolver con un decreto de tres renglones, porque la inteligencia artificial avanza a una velocidad que muchas veces supera la capacidad de reacción de los Estados, y los marcos regulatorios que se discuten hoy en Europa, en Estados Unidos y también en nuestra región suelen quedar viejos antes de entrar en vigencia. Lo que queda claro, después de escuchar a McCallum, es que el desafío ya no es solamente tecnológico, sino profundamente político y ético, y que va a requerir un esfuerzo conjunto entre los servicios de inteligencia, los desarrolladores de IA, la comunidad científica y los ciudadanos de a pie, que somos al final del día los que convivimos con los riesgos y también con los beneficios de una tecnología que, como diría mi abuela, no es ni buena ni mala en sí misma, sino dependiendo de quién la tenga en la mano.

“La IA ya está intensificando la lucha por la ciberseguridad entre atacantes y defensores.”Ken McCallum, director general del MI5