Hinton, el padrino de la IA, ahora le tiene miedo a su propia criatura: "hay hasta un 20 % de chances de que nos extinga"

Volví a pedirle a una app el resumen del clima y me tiró un pronóstico con la temperatura de Nairobi. Lo gracioso es que le avisé, le pedí disculpas y hasta le mandé un "gracias". Sí, le hablé de usted a un chatbot como si fuera el portero del edificio. Y ahí, mientras me maldecía a mí mismo por lo bajo, me acordé de Geoffrey Hinton: si un programa ya me convence de que vale la pena ser amable con él, algo está pasando que no estaba en los manuales de hace diez años.

Hinton, el físico y psicólogo cognitivo de 78 años al que muchos llaman el padrino de la IA, dejó Google en 2023 no por una pelea ni por un escándalo, sino para poder hablar tranquilo. Y lo que dice no es tranquilizador: calcula entre un 10 % y un 20 % de probabilidades de que una IA superinteligente termine con la humanidad en los próximos treinta años. O sea, antes de 2055.

De patrones a conceptos: la diferencia que a Hinton lo desvela

Según el científico, los modelos de lenguaje que hoy están en el centro de la conversación ya dejaron de ser simples detectores de patrones estadísticos en montañas de texto. Para él, estos sistemas "comprenden" efectivamente los conceptos abstractos que procesan. Es una diferencia de categoría, no de grado: una cosa es que un programa complete la frase porque vio millones de veces qué viene después, y otra muy distinta es que entienda qué significa lo que está diciendo.

“La humanidad nunca se enfrentó a entidades más inteligentes que ella misma, y ese punto ciego es el mayor peligro del momento.”Geoffrey Hinton

Para graficar el problema, Hinton usa una imagen bien de barrio: la innovación tecnológica es como el acelerador de un auto, y la regulación estatal es el volante. Sin volante, cuanto más pisas el pedal, más te acercás al guardarrail. Suena elemental, pero es la queja central: vamos a fondo y todavía no aprendimos a doblar.

• Hinton estima entre 10 % y 20 % de chances de extinción por IA superinteligente en un horizonte de 30 años.
• Los modelos actuales, en su lectura, ya manejan conceptos abstractos, no solo correlaciones estadísticas.
• Pide regulación estatal urgente y tratados globales, y descarta la autorregulación del mercado.
• Dejó Google en 2023 para poder hablar sin atajos corporativos.

El falso dilema de regular o competir

Acá entra el argumento que más se escucha en los despachos oficiales: "si regulamos, perdemos frente a China o Estados Unidos". Hinton lo descarta de un plumazo. Para el británico, usar la geopolítica como excusa para no poner límites es un error estratégico del tamaño de un rascacielos. La competencia entre países, dice, no puede ser motivo suficiente para postergar leyes globales sobre una tecnología que, según su propia proyección, podría volverse incontrolable antes de que termine la década del 2040.

Mientras tanto, los modelos siguen aprendiendo solos, ganando capacidad a un ritmo que el propio Hinton admite que subestimó cuando arrancó con esto. La ventana para decidir qué tipo de sistemas queremos construir, advierte, se está achicando. Y aclara algo clave: no está en contra de la tecnología, está en contra de ir tan rápido sin manuales de instrucciones.

El consejo que sí sirve

No soy el indicado para decir cómo se regula una superinteligencia desde la mesa de un bar, pero algo aprendí del episodio del clima en Nairobi: si ya le hablo de usted al chatbot del teléfono, más vale que alguien con poder de veto esté prestándole atención al asunto. Informate de qué proyectos de ley se debaten en tu país, exigí que los representantes expliquen su postura sobre IA y no te quedes con la lectura cómoda de que "esto lo arregla el mercado". La próxima vez que le pidas el pronóstico del tiempo, fijate quién te está contestando: a lo mejor, vale la pena preguntarle antes quién lo entrenó.