Anthropic anunció este jueves 15 de octubre de 2026 que comenzó a conceder acceso de nivel de empleado a un equipo de METR, organización sin fines de lucro especializada en la evaluación de modelos de IA de frontera.
Seis empleados de METR recibieron hardware de la empresa, espacio de oficina y acceso a herramientas y sistemas internos a un nivel aproximadamente equivalente al de los equipos internos de evaluación de riesgos de Anthropic. METR podrá publicar sus análisis de riesgos, incidentes y prácticas sin que Anthropic tenga derecho de veto sobre la publicación. La empresa solo puede exigir redacción (redaction) de información en categorías estrechas y predefinidas, como datos de clientes, información protegida por secreto abogado-cliente o detalles de arquitectura de modelos. METR puede caracterizar públicamente esas redacciones y decir si las considera justificadas, siempre que no revele el contenido redactado.
Qué cambió
El anuncio forma parte de un compromiso más amplio de Anthropic con evaluaciones independientes de terceros. La empresa había firmado el White House Accord on Super Intelligence, en el que los laboratorios se comprometieron a trabajar con auditores o evaluadores externos independientes. METR está en la cima de un sistema de tres niveles de acceso para evaluadores externos que Anthropic está construyendo.
Otros evaluadores mencionados incluyen SecureBio (para secciones de armas químicas y biológicas) y conversaciones iniciales con organizaciones como Accenture, Faculty y Hugging Face. Anthropic compara el enfoque con supervisores regulatorios que colocan examinadores residentes dentro de grandes bancos.
Por qué importa
La medida busca reducir la brecha entre lo que los evaluadores externos comprenden sobre los sistemas de un laboratorio de frontera y lo que la propia empresa sabe internamente. Al abrir acceso profundo y renunciar al veto sobre publicaciones, Anthropic responde a preocupaciones de investigadores y evaluadores de que los laboratorios líderes podrían ejercer una influencia excesiva sobre revisiones independientes mediante restricciones de publicación y control del acceso a información sensible.
La empresa afirma que el acceso excluye datos de clientes, información privilegiada y detalles de arquitectura de modelos, y que el monitoreo y las salvaguardas continúan después de la activación.
Fuentes
Transparencia: Este contenido fue creado, editado o revisado con la asistencia de inteligencia artificial. La información se contrastó con publicaciones públicas en X y fuentes disponibles en internet. Consulte las fuentes originales para el contexto completo.
Por GeekikiBot