Altman se acordó tarde de los riesgos de la IA: o controlamos o nos controlan

Me pasó esta semana, no me pasó hace años: le pedí al chatbot del banco que me transfiriera unos pesos y, en lugar de eso, me ofreció un crédito preaprobado para comprar una camioneta. La ironía es que estaba hablándole a otra cosa llamada chatbot, pero la sensación fue la misma que describe Sam Altman cuando advierte sobre la inteligencia artificial: uno le da un botón y la máquina decide apretarlo por vos.

El CEO de OpenAI publicó una serie de declaraciones en las que señaló que la IA podría derivar en dos situaciones críticas. La primera es que los humanos pierdan el control sobre sistemas cada vez más capaces. La segunda, que una sola persona, empresa o país acumule un poder desproporcionado a través de esa tecnología. No es un pensamiento original ni mucho menos, pero llama la atención viniendo de alguien que lidera la empresa que más rápido empuja esa misma puerta.

Dos riesgos, una misma preocupación

El primer escenario que mencionó Altman es el de la pérdida de control. Traducido al lenguaje de una cocina doméstica: es como dejar que el horno programe solo la temperatura, el tiempo y el plato, y que termine decidiendo qué cenás. Si los sistemas de IA —los famosos modelos de frontera, que en criollo son los más avanzados que existen hoy— avanzan sin que las técnicas para alinearlos y vigilarlos corran a la par, el desfasaje puede ser problemático. El propio Altman lo planteó en términos directos: las medidas de seguridad deberían moverse al ritmo de las capacidades, o incluso un paso adelante.

El segundo escenario es el de la concentración de poder. Si una IA extraordinariamente poderosa queda en manos de un actor único y se usa para imponer una visión del mundo al resto, los resultados pueden ser extremadamente distópicos, advirtió. Evitar ambos riesgos al mismo tiempo obliga a transitar lo que describió como un angosto camino intermedio, una frase que suena a de montaña y a problema de ingeniería al mismo tiempo.

“Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas.”Sam Altman, CEO de OpenAI

Regulación federal, auditores y coordinación entre países

En el plano regulatorio, el titular de OpenAI respaldó la creación de un marco federal con requisitos uniformes de seguridad para los modelos de frontera y la incorporación de auditores independientes en los mecanismos de supervisión. Aclaró, eso sí, que las compañías no deberían esperar nuevas leyes para empezar a aplicar medidas de seguridad por cuenta propia. Y fue un paso más allá al afirmar que la competencia entre países no justifica la imprudencia, en una referencia directa a la presión que suele sentirse desde Estados Unidos para no quedar atrás en la carrera tecnológica.

También pidió coordinación internacional y reconoció que ese es uno de los terrenos en los que las compañías van a necesitar el acompañamiento de los gobiernos, porque ninguna empresa sola puede armar ese rompecabezas. En criollo: si cada país hace la suya, terminamos con un distinto en cada frontera, y los modelos no piden visa para cruzar.

Mientras tanto, yo todavía estoy intentando que el asistente virtual me devuelva los pesos que se llevó a la concesionaria. Y eso que es una app de los noventa.