Anthropic les da a seis investigadores un pase VIP para auditar sus modelos por dentro: qué cambia con este nivel de acceso

Seis investigadores de METR, una organización sin fines de lucro que se dedica a evaluar sistemas de inteligencia artificial, trabajan desde adentro de Anthropic con el mismo acceso que cualquier empleado del equipo de evaluación de riesgos. No es una visita guiada: tienen computadoras de la empresa, espacio físico en las oficinas y herramientas internas. Pueden hablar con el personal como si fueran un colega más.

Lo único que no pueden tocar es lo de siempre: datos de clientes, información cubierta por secreto profesional entre abogado y cliente y los detalles más finos sobre la arquitectura de los modelos. Todo lo demás, habilitado.

Los tres niveles del esquema

• Nivel bajo: organizaciones como SecureBio hacen revisiones acotadas y necesitan pedir autorización antes de publicar.
• Nivel intermedio: reciben más información y pueden publicar sin pedir permiso.
• Nivel alto: solo METR, con acceso equivalente al de un trabajador de la empresa y libertad total para difundir hallazgos.

El dato clave es el último punto: Anthropic no puede bloquear lo que METR publique. Puede pedir que se redacten ciertos datos sensibles, sí, siempre dentro de categorías estrechas y predefinidas. Pero METR queda libre de decir públicamente si esa redacción le pareció justificada o no. Ojo con esto: la posibilidad de señalar públicamente si te parecen razonables los recortes que te imponen es, en la práctica, una forma de control sobre la empresa.

Por qué tanto acceso

• Para detectar cuándo un modelo aparenta estar alineado en lugar de estarlo de verdad.
• Para garantizar independencia económica y operativa respecto de la auditada.
• Para acceder a información sobre el entrenamiento y los mecanismos de seguridad, no solo al modelo.
• Para publicar sin restricciones previas.

La propia Anthropic reconoce que no puede abrir toda su información de seguridad: parte podría ser útil para actores maliciosos o es sensible desde lo comercial. Por eso eligió un modelo de acceso profundo pero acotado, con un grupo chico trabajando bajo acuerdos exigibles y el resto de METR aislado de ese trabajo.

¿Vale la pena este esquema? En lo inmediato, sirve porque suma un grado más de transparencia sin regalar el laboratorio a la primera ONG que toque la puerta. Falta ver cómo se traduce en hallazgos concretos y, sobre todo, si METR termina publicando algo que incomode a la empresa. Cuando eso pase, sabremos si el pase VIP era real o solo una foto bonita.