Anthropic habilita a METR como auditor interno con acceso equivalente al de un empleado y sin veto sobre sus publicaciones

Qué, dónde y a qué hora: seis investigadores de METR, una organización sin fines de lucro dedicada a evaluar sistemas de inteligencia artificial, se incorporaron este año a las oficinas de Anthropic con acceso equivalente al de un empleado del área de evaluación de riesgos. La compañía les entregó computadoras, espacio físico y herramientas internas para auditar sus modelos de manera independiente, según confirmó la propia empresa.

Un esquema con tres niveles de acceso

El programa de evaluadores externos de Anthropic se organiza en tres categorías. En la más baja, organizaciones como SecureBio realizan revisiones acotadas y necesitan autorización antes de publicar. El nivel intermedio concede más información y permite difundir resultados sin pedir permiso. El nivel superior, que hoy ocupa únicamente METR, suma el acceso equivalente al de un empleado y la facultad de publicar evaluaciones, reportes de incidentes y análisis de prácticas empresariales sin que la empresa pueda impedirlo.

Anthropic sí puede solicitar que se redacten datos incluidos en tres categorías reservadas: información de clientes, material cubierto por secreto profesional entre abogado y cliente y detalles sobre la arquitectura de los modelos. METR queda libre de señalar públicamente si considera que esa redacción estaba o no justificada.

Las cuatro condiciones que la empresa considera necesarias

• Experiencia técnica suficiente para detectar cuándo un modelo finge estar alineado en lugar de estarlo realmente.
• Independencia económica y operativa respecto de la empresa auditada.
• Acceso que vaya más allá de los modelos e incluya información sobre cómo se entrenaron y cómo funcionan sus mecanismos de seguridad.
• Libertad para publicar sin restricciones previas.

Anthropic reconoció que no puede hacer pública toda su información de seguridad, porque parte de esos datos podría ser útil para actores maliciosos o resulta sensible desde el punto de vista comercial. Por eso optó por un acceso profundo con un grupo acotado que opera bajo acuerdos exigibles, y mantiene al resto del personal de METR aislado de ese trabajo.

El equipo ya había revisado varios informes de riesgo durante el año anterior a recibir este nivel ampliado. La información publicada por la compañía no detalla los hallazgos específicos de la auditoría ni el calendario de publicación. No se difundieron cifras, nombres propios adicionales ni declaraciones textuales de voceros. Noticia en desarrollo.