Anthropic anunció que seis investigadores de METR, una organización sin ánimo de lucro que evalúa modelos de IA de frontera, tendrán un acceso equivalente al de los empleados. Recibirán portátiles de la empresa, espacio en la oficina y herramientas internas parecidas a las que usan los equipos de riesgos de Anthropic. Se anima al personal a compartir información con ellos igual que con un compañero que trabaja en alineamiento.
Las condiciones clave
METR publicará sus propias conclusiones sobre riesgos, incidentes y prácticas de la empresa, y Anthropic ya no puede impedirlo. Solo hay una excepción acotada: la compañía puede exigir que se tachen datos en unas pocas categorías fijadas de antemano, que son datos de clientes, material protegido por el secreto profesional y detalles de la arquitectura de los modelos. METR puede decir en público que considera injustificada una censura.
Tres niveles de evaluadores
Anthropic está montando tres niveles. Los revisores específicos, como la organización de bioseguridad SecureBio, publican solo con aprobación. El nivel intermedio ve más y publica sin pedir permiso. En el nivel superior, con acceso de empleado, por ahora solo está METR.
La empresa lo compara con la banca, donde los supervisores tienen inspectores dentro de las mayores entidades. También cumple una promesa del ensayo de septiembre de Dario Amodei. OpenAI se comprometió a lo mismo y seis grandes compañías firmaron con la Casa Blanca un acuerdo de revisión independiente.