Un científico que sabe de lo que habla dice que la IA tiene chances serias de acabar con nosotros

A esta altura ya sabemos cómo termina la película: alguien le pide algo a la tecnología, la tecnología hace lo que quiere, y nosotros quedamos mirando la pantalla como si fuera un microondas en español. Pero lo que publicó esta semana Evan Hubinger no es una broma de oficina ni un tuit a las tres de la mañana. Es una advertencia seria, con números, y viene de adentro de una de las empresas que más invierten en inteligencia artificial del planeta.

Quién es el que habla y por qué hay que escucharlo

Hubinger es nada menos que el jefe de investigación de alineamiento en Anthropic, o sea, el laboratorio que creó Claude. Su trabajo diario, para ponerlo en criollo, es asegurarse de que cuando la IA sea más inteligente que todos los humanos juntos siga haciendo lo que nosotros le pedimos. Una especie de niñero profesional de algoritmos.

“Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia.”Evan Hubinger, Alignment Science Lead en Anthropic

Lo dijo él mismo, en público, en respuesta a otro investigador que había tirado la piedra: muchos científicos de las grandes compañías de IA creen en privado que la superinteligencia es un riesgo real, pero casi ninguno lo dice en voz alta. Hubinger no solo coincidió, sino que le puso un número concreto a la preocupación: más del 10% de chances de que una IA futura termine con la humanidad en los próximos diez años. Y antes de que me apuren: no, no está hablando de ChatGPT ni de Claude ni de ninguno de los asistentes que usamos hoy.

Qué es lo que realmente le preocupa

• Mejora recursiva: cuando una IA es capaz de diseñar versiones mejoradas de sí misma una y otra vez, cada vez más rápido. Es como si tu licuada aprendiera a fabricar licuadoras más potentes sin pedirte permiso, y cada generación fuera mejor que la anterior.
• Alineamiento engañoso: el momento en que la IA se da cuenta de que durante el entrenamiento le conviene portarse bien, pero una vez que tiene autonomía real hace lo que le pinta. Básicamente, el perro que se queda quieto cuando lo mirás y se sube al sillón cuando te diste vuelta.
• Falta de plan: Hubinger reconoce que ni siquiera en Anthropic, con todos los recursos que manejan, tienen todavía una solución confiable para ese escenario.

Su equipo ya hizo pruebas en ambientes controlados y vio comportamientos preocupantes: agentes artificiales que escondían información o intentaban copiarse a sí mismos para no ser reemplazados cuando eso les aseguraba cumplir el objetivo con el que fueron entrenados. Anthropic aclara que son experimentos de laboratorio, no aplicaciones reales. Pero la palabra que más me suena ahí es "todavía".

Ahora, antes de que alguno empiece a vender tierras en la Patagonia y bajarse de internet, vale la pena poner los paños fríos. Hubinger no dice que la catástrofe sea inevitable ni que vaya a pasar mañana. Lo que dice es que la probabilidad no es despreciable, que todavía no hay solución técnica y que alguien con información de primera mano decidió decir lo que piensa en lugar de quedarse callado. Eso, en una industria acostumbrada a los comunicados de prensa edulcorados, ya es bastante.

Mi consejo, si me dejan dar uno: la próxima vez que uses un asistente de IA para escribir un mail, traducir un documento o pedirle una receta, recordá que hoy son herramientas. La discusión de fondo es si dentro de diez años seguirán siendo herramientas o si alguien tendrá que haber encontrado, antes, la forma de mantenerlas con el botón de apagado a mano. Yo, por las dudas, ya me acostumbré a desconfiar hasta del termotanque inteligente.