El MI5 mira a la IA y se le eriza la piel: "esto también puede terminar muy mal"

Volví a mi casa después de un día largo, encendí la notebook y le pregunté al buscador de turno cómo se hacía un bizcochuelo de chocolate. La receta apareció en dos segundos, con fotos, tips y hasta un video. Entonces pensé: si la máquina me resuelve esto con esa facilidad, qué no será capaz de explicarle a alguien con malas intenciones. Spoiler: parece que los espías británicos pensaron lo mismo, pero con menos humor y más preocupación.

Ken McCallum, director general del MI5, presentó su análisis anual de amenazas y dejó una frase que recorrió el mundo: "la IA ya está intensificando la lucha por la ciberseguridad entre atacantes y defensores". Traducido al castellano de cocina: la misma herramienta que te ayuda a escribir un mail del trabajo también puede servir para que un grupo terrorista aprenda a mezclar cosas que no conviene mezclar.

De qué habla exactamente McCallum

El jefe del servicio de inteligencia británico señaló que la IA está ampliando las capacidades de grupos terroristas y redes delictivas para acceder a conocimientos científicos avanzados. El punto más sensible de su advertencia: que actores maliciosos podrían usar estos sistemas para desarrollar armas biológicas o aprender a liberar agentes patógenos, ese eufemismo técnico para "soltar virus o bacterias a propósito", echando mano a información disponible en fuentes abiertas, o sea, en internet, a la vista de cualquiera.

Lo más inquietante no es lo sofisticada que pueda ser la amenaza, sino lo barata. Cualquiera con una conexión y un navegador puede empezar a tirar preguntas a un modelo de lenguaje. No hace falta ser doctor en nada ni tener un laboratorio con campana de vidrio. Por eso la combinación que preocupa a los organismos de inteligencia es simple y aterradora: accesibilidad total más información científica sensible al alcance de un click.

La respuesta del MI5: un centro propio para mirar de cerca a la IA

Ante este panorama, McCallum anunció la creación de un Centro de Evaluación de Amenazas de IA que funcionará dentro del propio MI5. La misión del organismo será estudiar tanto los riesgos como las oportunidades de estas herramientas, con foco en su impacto sobre la seguridad nacional. O sea, los espías quieren sentarse a la mesa antes de que los platos se rompan solos.

McCallum contó que dedica una parte importante de su jornada a evaluar cómo anticiparse a los cambios tecnológicos y encontrar un equilibrio entre los beneficios de la IA y los daños de su uso malicioso. Suena razonable, sobre todo cuando uno se da cuenta de que la velocidad con la que aparecen nuevas herramientas supera, por mucho, la velocidad con la que se escriben las leyes que deberían regularlas.

Qué se puede hacer desde lo concreto

• Exigir que los desarrolladores de modelos de IA incluyan filtros y barreras de seguridad que bloqueen pedidos vinculados a armas químicas, biológicas o radiológicas, igual que un barman no le sirve el trago número diez a alguien que ya no se tiene en pie.
• Limitar el acceso a ciertos tutoriales y papers científicos sensibles cuando se detecte que un usuario los está pidiendo de manera reiterada y sospechosa, sin convertir internet en un archivo clasificado.
• Promover acuerdos internacionales para que la regulación no quede atada a la frontera de cada país, porque los virus, como los memes, no piden visa.
• Fomentar equipos multidisciplinarios dentro de los servicios de inteligencia, mezclando espías con científicos y ethicistas, para no regular a ciegas lo que no se entiende.
• Invertir en educación digital crítica: que la gente aprenda a leer una pantalla con el mismo cuidado con que lee la etiqueta de un medicamento.

Mi confesión de autor: mientras leía el informe del MI5 me acordé de todas las veces que le pedí a la IA que me resumiera un paper de trescientas páginas porque me daba paja leerlo. Si yo, que solo quería entender un estudio sobre sueño, recibí un resumen clarísimo en diez segundos, imaginen lo que puede hacer alguien con menos escrúpulos y más paciencia. Por eso celebro que un servicio de inteligencia serio se tome el tema con la seriedad que merece, en lugar de mirar para otro lado como hacemos muchos cuando el problema todavía no nos explotó en la mano.

Consejo final, y va en imperativo porque la ocasión lo amerita: no le pidas a la IA que te explique cómo fabricar nada que pueda lastimar a alguien, no compartas instrucciones sensibles en redes aunque parezca un dato inofensivo, y si trabajás en ciencia o en política, empujá para que la regulación avance al ritmo de la tecnología y no veinte años tarde. La próxima vez que la IA te resuelva algo en dos segundos, acordate de esto: lo que es útil para vos también puede ser útil para el que está del otro lado.