Hinton, el padre del aprendizaje profundo, pone números al apocalipsis: hasta un 20 % de chances de que la IA nos extinga

Lo dice el tipo que puso los ladrillos. Geoffrey Hinton, el británico-canadiense de 78 años al que el mundo del deep learning le debe una buena parte de sus cimientos, volvió a sonar fuerte esta semana con un número que cuesta digerir: entre un 10 % y un 20 % de probabilidades de que una inteligencia artificial superinteligente termine con la humanidad en los próximos treinta años.

Para dimensionarlo: eso es más chances que las que tiene cualquier persona de morir en un accidente aéreo, y menos que las de sufrir un infarto antes de los 70. Un número incómodo, ni apocalíptico ni menor. Por eso Hinton lo repite con tono de sismólogo que ve venir el temblor.

El acelerador sin volante

En una entrevista reciente, el investigador usó una imagen bien gráfica: la innovación tecnológica es como un coche sin volante. Cuanto más se pisa el acelerador, más rápido se llega al desastre. La regulación estatal, en su esquema, es ese volante que falta.

“Sin regulación, los gobiernos están entregando poder a entidades privadas que no fueron elegidas por nadie y cuyo objetivo es maximizar beneficios.”Geoffrey Hinton

Yo lo probé en carne propia cuando dejé Google en 2023: me fui justamente para poder decir estas cosas sin que un departamento de relaciones públicas me pusiera un bozal legal. El hombre renunció a uno de los sueldos más altos del sector para poder gritar lo que ve. Eso, como mínimo, hay que escucharlo.

Ya no es solo estadística: entienden conceptos

Ojo con esto. El punto que más me llamó la atención de sus últimas declaraciones no es el porcentaje apocalíptico, sino algo más técnico y por eso más inquietante. Hinton sostiene que los grandes modelos de lenguaje ya no se limitan a detectar patrones en montañas de texto. Para él, estos sistemas comprenden efectivamente los conceptos abstractos que procesan.

• Patrones estadísticos puros versus comprensión semántica real.
• El salto cualitativo que cambia la categoría del riesgo.
• Por qué entender, y no solo correlacionar, vuelve más difícil controlar a estos sistemas.

¿Es propaganda de un jubilado alarmista o hay evidencia para sostenerlo? Lo cierto es que Hinton no está solo: colegas como Yann LeCun, de Meta, lo discuten, pero el debate ya está instalado en la comunidad científica y eso, de por sí, es una señal de que algo cambió.

¿Sirve regular a escala global?

La otra discusión que el científico plantea es geopolítica. Frente al argumento clásico de "si nosotros frenamos, China o Estados Unidos nos pasan por encima", Hinton responde que usar la competencia internacional como excusa para no regular es un error estratégico. Lo que propone es simple de decir y complicadísimo de hacer: leyes globales con dientes, no declaraciones de buenas intenciones.

¿Vale la pena tomar en serio estas advertencias? Creo que sí, justamente porque vienen de alguien que no tiene incentivo en apagar la industria: su legado, su currículum y su fortuna personal están atados a que la IA siga avanzando. Cuando alguien que construyó el castillo te dice que las paredes están flojas, conviene revisar los planos.