Altman pone dos puntos sobre la mesa: el día que la IA se nos vaya de las manos y el día que alguien la use para mandar a todos

Sam Altman, el jefe de OpenAI, publicó una serie de declaraciones en las que volvió a meter el dedo en una llaga que la propia industria suele esquivar. Lo hizo en dos frentes que, según él, son los que deberían quitarnos el sueño: que la humanidad pierda el control de sistemas cada vez más capaces, o que una sola persona, empresa o país termine acumulando un poder desproporcionado gracias a esa misma tecnología.

Los dos riesgos que, según Altman, hay que mirar de cerca

El primer punto es el clásico de la ciencia ficción, pero traído a un tono bien directo. Podríamos perder el control del futuro ante la IA, dijo. Y agregó que eso es inaceptable. Lo interesante es la forma en que lo planteó: no como una hipótesis lejana, sino como algo a evitar desde ahora, con técnicas de alineación y seguridad que avancen al mismo ritmo que las capacidades de los modelos, o incluso por delante.

El segundo punto es más terrenal y, para mí, más inquietante. Si una IA extraordinariamente poderosa queda en manos de una sola persona o empresa capaz de imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos, advirtió. Ojo con esto: no habló de robots tomando el poder, sino de concentración de poder con IA como herramienta.

“Evitar ambos riesgos a la vez implica transitar un angosto camino intermedio.”Sam Altman

Qué propone para que ese camino no sea tan angosto

• Un marco regulatorio federal que fije requisitos de seguridad comunes para los modelos de frontera, esos que están en el límite de lo que la tecnología actual permite.
• Incorporar auditores independientes en los mecanismos de supervisión, para que no sean las propias empresas las que se controlen a sí mismas.
• Coordinación internacional entre gobiernos, porque la competencia entre países no debería justificar ningún tipo de imprudencia.

Tampoco les pasó por alto un detalle: las empresas no deberían esperar a que salgan nuevas leyes para empezar a aplicar medidas de seguridad por cuenta propia. Suena lógico, pero en la práctica es un punto de fricción habitual entre quienes desarrollan tecnología y quienes piden que se regulen.

¿Vale la pena prestarle atención? Sí, y por dos motivos. Primero, porque viene de adentro de una de las empresas que más empuja el avance de la IA. Segundo, porque enumera riesgos concretos, no promesas. Habrá que ver si los dichos se traducen en cambios reales o si quedan en otra serie de declaraciones bien escritas.