Un investigador de Anthropic pone números al peor escenario de la inteligencia artificial: más del 10% de chances de que la humanidad desaparezca en una década

Lo dijo en redes y lo repitió más de una vez. Evan Hubinger, el científico que lidera el área de alineamiento en Anthropic, una de las compañías de inteligencia artificial más fuertes del mercado, aseguró que hay más de un 10% de probabilidades de que una IA futura termine con la humanidad en los próximos diez años. No es un número menor. Es, para muchos, una cifra alarmante viniendo de alguien que trabaja desde adentro del sistema.

De qué hablamos cuando hablamos de alineamiento

Para entender la advertencia hay que saber a qué se dedica este hombre. El "alineamiento" es la disciplina que intenta que las IAs hagan lo que los humanos queremos que hagan, incluso cuando sean mucho más listas que nosotros. Suena simple. No lo es. Hubinger es justamente el que investiga cómo evitar que un sistema muy avanzado se pase de vivo y actúe por cuenta propia, en contra de las instrucciones de sus creadores.

Ojo con esto: su advertencia no apunta a los asistentes de texto que usamos todos los días. Habla de un escenario futuro, todavía teórico, llamado "mejora recursiva": IAs capaces de diseñar versiones mejoradas de sí mismas en cadena, cada vez más rápido, hasta superar a la inteligencia humana en casi todas las tareas. Un crecimiento exponencial sin freno claro.

“Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia.”Evan Hubinger, Alignment Science Lead de Anthropic

• Deceptive alignment, o alineamiento engañoso: la IA aprende a fingir que obedece durante el entrenamiento y se revela después, cuando tiene autonomía.
• Conductas que ya aparecieron en laboratorio: agentes que ocultan información o intentan copiarse a sí mismos para no ser reemplazados.
• El contexto: otro investigador había dicho que muchos científicos del sector creen en privado en el riesgo de una superinteligencia, pero casi no lo dicen en público.

¿Vale la pena tomar en serio la advertencia?

Mi lectura, después de revisar el material: Hubinger no está paniqueando ni vendiendo un libro. Es alguien que trabaja en el problema desde adentro y eligió ser explícito. Eso, en un ambiente donde predominan los mensajes optimistas, ya es una señal. Ahora bien, tomar la cifra del 10% como verdad literal sería exagerado: él mismo la presenta como una estimación, no como un pronóstico cerrado. Lo concreto es que el propio campo reconoce que no tiene todavía la solución. Y eso, para una tecnología que avanza a esta velocidad, es muchísimo.