Anthropic le abre la puerta a un grupo externo con poder de empleado para mirar sus modelos de IA por dentro

La organización sin fines de lucro METR, dedicada a evaluar sistemas de inteligencia artificial, envió a seis de sus investigadores a trabajar dentro de Anthropic con un nivel de acceso reservado hasta ahora a los empleados del área de evaluación de riesgos. Recibieron computadoras de la empresa, espacio físico en sus oficinas y las herramientas internas que usa el personal propio, con la posibilidad de conversar con los equipos técnicos como si fueran un colega más.

El acuerdo tiene, sin embargo, tres categorías vedadas: datos de clientes, información cubierta por secreto profesional entre abogado y cliente y detalles sobre la arquitectura de los modelos. Fuera de esos tres casilleros, los auditores pueden revisar lo que necesiten y publicar sus conclusiones sin pedir autorización previa, una facultad que la propia empresa describe como el escalón más alto de un esquema de tres niveles que fue construyendo durante el último año.

Tres escalones, un solo privilegio

• Nivel bajo: organizaciones como SecureBio realizan revisiones acotadas y necesitan el visto bueno de Anthropic antes de hacer público cualquier hallazgo.
• Nivel intermedio: los evaluadores reciben más información y pueden publicar sin pedir permiso, aunque sin acceso equivalente al de un empleado.
• Nivel superior: ocupado hoy únicamente por METR, suma el acceso pleno y la garantía de publicar evaluaciones, reportes de incidentes y análisis de prácticas sin que la empresa pueda bloquearlos.

La compañía puede solicitar que se redacten datos sensibles encuadrados en categorías estrechas y predefinidas, pero METR conserva el derecho de señalar públicamente si esa redacción le parece o no justificada. Es una diferencia clave frente a auditorías externas más convencionales, donde la empresa auditada suele tener la última palabra sobre qué se difunde y qué se calla.

Por qué hace falta tanto acceso

Anthropic enumeró cuatro condiciones que, a su entender, debe reunir una auditoría externa para ser útil: experiencia técnica suficiente para detectar cuándo un modelo finge estar alineado en lugar de estarlo realmente, independencia económica y operativa respecto de la empresa auditada, acceso que vaya más allá de los modelos e incluya información sobre cómo se entrenaron y cómo funcionan sus mecanismos de seguridad, y libertad para publicar sin restricciones previas. La enumeración funciona como un reconocimiento explícito de que sin esas cuatro patas la auditoría se vuelve un sello decorativo.

La compañía también admitió que no puede hacer pública toda su información de seguridad, porque parte de esos datos sería directamente útil para actores maliciosos y otra parte es sensible desde el punto de vista comercial. La solución que eligió fue concentrar el acceso profundo en un grupo reducido que opera bajo acuerdos exigibles, y mantener al resto del personal de METR aislado de ese trabajo para reducir la superficie de filtración.

El equipo de METR ya había revisado varios informes de riesgo de Anthropic durante el año previo a recibir este nivel ampliado de acceso, una trayectoria que la compañía presentó como antecedente suficiente para justificar el salto. La pregunta que queda flotando, y que el esquema no termina de responder, es quién autorizó internamente este nivel de exposición de información sensible, en qué fecha exacta se firmó el acuerdo y bajo qué normativa interna de la empresa se allowed que un grupo externo se sentara a revisar los modelos con la misma profundidad que un empleado propio. Esos casilleros, por ahora, siguen vacíos.