Un robot, un laberinto y la trampa de pedirle a la inteligencia artificial que cumpla reglas sin volver a entrenarla

A uno le pasa todo el tiempo: le pide a la inteligencia artificial que haga algo y, cuando se lo devuelve, descubrió que pasó por encima de tres cosas que no debía. Imaginen eso mismo, pero con un brazo robótico de por medio y un objeto en la otra punta de la sala. El equipo del MIT se hartó de que la IA generativa ignore las condiciones de seguridad y decidió resolver el problema sin tener que volver a entrenar al modelo desde cero. La solución se llama HardFlow y los resultados, al menos en las pruebas que publicaron, sorprenden.

HardFlow es un método que permite exigir condiciones obligatorias a modelos de inteligencia artificial que ya fueron entrenados. Lo que hace, en criollo, es actuar en el momento en que el modelo se usa, no en el momento en que se construye. Para que esto sea viable, los investigadores del Instituto de Tecnología de Massachusetts (MIT) trozaron el cálculo en problemas más chicos, apoyándose en la estructura de los modelos de emparejamiento de flujo, una arquitectura de IA generativa diseñada para transformar ruido aleatorio en datos coherentes, como imágenes o trayectorias.

El truco: reglas al final, no en cada paso

La diferencia con otros métodos es cuándo se imponen las restricciones. La técnica usada como referencia, llamada muestreo basado en proyección, ajusta las condiciones en cada etapa de la generación. Como cada paso intermedio es vigilado, el sistema termina con menos opciones para explorar y suele conformarse con soluciones mediocres. HardFlow deja mayor libertad durante los pasos internos y exige que el resultado final respete las condiciones. Las etapas intermedias se descartan, y para guiar la generación los investigadores usaron herramientas de control óptimo, una rama de la matemática que define la mejor manera de llevar un sistema de un estado a otro respetando reglas.

• Manipulación con robots: un brazo robótico llegó al objeto esquivando obstáculos, mientras la mayoría de las alternativas chocaba o daba rodeos mucho más largos.
• Recorridos por laberintos: el método encontró caminos válidos respetando las restricciones del diseño.
• Edición de imágenes a partir de instrucciones escritas: cumplió las consignas y produjo imágenes de mejor calidad que los métodos de referencia.

Los autores del trabajo reportaron que todas las restricciones se cumplieron en los casos examinados y que la calidad de las soluciones superó de manera consistente a las referencias. El tiempo de procesamiento fue similar o menor al de la mayoría de los métodos con los que se lo comparó. O sea: no solo cumple las reglas, sino que encima lo hace más rápido y mejor que las alternativas.

Como autocritica, confieso que la primera vez que leí el paper me perdí entre siglas y términos técnicos. Pero la idea de fondo es bastante doméstica: es como cocinar siguiendo una receta que te permite improvisar en el momento, en lugar de tener que estar midiendo cada ingrediente a cada paso. Si el guiso final sale rico y nadie se intoxica, el método funcionó. Con la IA generativa pasa lo mismo: lo que importa es el plato terminado, no que el chef haya chequeado cada movimiento de cuchara.

Para los que trabajan con inteligencia artificial, el mensaje práctico es claro: antes de gastar fortunas reentrenando un modelo cada vez que aparece una nueva restricción, probá si un método como este te permite imponer las condiciones sobre la marcha. En muchos casos, la diferencia entre una IA útil y una IA peligrosa no está en el modelo, sino en cómo se lo usa. Y ahí es donde HardFlow parece haber dado en la tecla.