HardFlow: un método para fijar reglas a la inteligencia artificial sin reentrenar los modelos

Vamos a los números y, sobre todo, a la lógica con que un grupo de investigadores del Instituto de Tecnología de Massachusetts (MIT) presentó HardFlow, un método orientado a imponer condiciones de seguridad a la inteligencia artificial en el momento en que los modelos son utilizados, sin necesidad de reentrenarlos. El trabajo, difundido por esa universidad, fue sometido a pruebas en tres frentes distintos: manipulación robótica, resolución de laberintos y edición de imágenes a partir de instrucciones escritas. En los tres frentes, el sistema cumplió todas las restricciones fijadas y obtuvo resultados de calidad superiores a los de los métodos utilizados como referencia.

En comparación con el año anterior, cuando la discusión sobre seguridad en inteligencia artificial giraba en buena medida alrededor de filtros posteriores o de reentrenamientos costosos, HardFlow propone una vía intermedia: intervenir en el proceso de generación del modelo, manteniendo su entrenamiento intacto. El equipo de investigación lo describe como una forma de exigir reglas obligatorias mientras el sistema ya está en funcionamiento.

Una prueba con un brazo robótico

En uno de los ensayos, se le pidió a un brazo robótico llegar hasta un objeto sorteando los elementos que encontraba en su camino. Evitar una colisión era una condición que debía respetarse; reducir la distancia recorrida, un objetivo de eficiencia que podía buscarse entre los trayectos permitidos. HardFlow consiguió que el brazo encontrara el recorrido más corto hacia el objetivo. La mayoría de las alternativas evaluadas o bien chocó contra los obstáculos, o bien eligió caminos considerablemente más extensos.

• Manipulación con robots: el brazo robótico sorteó obstáculos y eligió el camino más corto hacia el objeto objetivo.
• Resolución de laberintos: el sistema cumplió las restricciones de cada prueba.
• Edición de imágenes a partir de instrucciones escritas: las modificaciones respetaron las condiciones y mejoraron los resultados frente a los métodos de referencia.

El método actúa sobre modelos generativos ya entrenados y, en particular, sobre los modelos de emparejamiento de flujo. Para hacer viable ese funcionamiento, el equipo dividió el cálculo en problemas más pequeños, aprovechando la estructura interna de esos modelos. Esa división es la pieza que permite que el sistema opere sin volver a entrenar la inteligencia artificial.

Dónde se imponen las reglas

La diferencia central respecto de la técnica de referencia, el muestreo basado en proyección, está en el momento en que se exige el cumplimiento de las restricciones. Esa técnica las impone en cada etapa de la generación, lo que puede restringir las opciones que el sistema explora y dificultar la obtención de una solución mejor. HardFlow, en cambio, permite mayor libertad en las etapas intermedias del cálculo, que luego se descartan, y exige que el resultado final respete las condiciones. Para orientar la generación hacia respuestas válidas, el equipo recurrió a herramientas de control óptimo y a correcciones graduales.

En términos formales, la comparación puede leerse del siguiente modo, considerando los frentes evaluados por el equipo del MIT:

• Restricciones cumplidas: 100% de los casos en las tres líneas de evaluación.
• Calidad de las soluciones: superior de manera consistente frente a los métodos de referencia.
• Tiempo de procesamiento: similar o menor al de la mayoría de las alternativas comparadas.

Lo que HardFlow deja ver es que es posible combinar, dentro de un mismo proceso, condiciones obligatorias -como evitar una colisión o respetar una instrucción escrita- con objetivos de mejora -como acortar un camino o, técnicamente, minimizar una función de costo-. Para los investigadores, eso vuelve al método especialmente apto para aplicaciones de robótica y para sistemas generativos en los que el respeto de reglas no puede quedar librado a la etapa de filtrado posterior.

Qué indicador mirar el mes que viene

El mes próximo habrá que seguir de cerca la evolución de los tiempos de procesamiento reportados en publicaciones independentes, dado que HardFlow se presenta como competitivo frente a los métodos de referencia en ese rubro, pero la métrica estadística definitiva depende de nuevas réplicas y de su aplicación a modelos de mayor escala. Ese será el indicador clave para evaluar si la ventaja observada en las pruebas del MIT se sostiene fuera del laboratorio.