A Anthropic anunciou que seis pesquisadores da METR, uma organização sem fins lucrativos que testa modelos de IA de ponta, passam a ter acesso equivalente ao de funcionários. Eles recebem notebooks da empresa, espaço no escritório e ferramentas internas parecidas com as das equipes de risco da própria Anthropic. A equipe é incentivada a compartilhar informações com eles tão livremente quanto com um colega que trabalha em alinhamento.
As condições que importam
A METR vai publicar suas próprias conclusões sobre riscos, incidentes e práticas da empresa, e a Anthropic não pode mais vetar a publicação. Há uma única exceção estreita: a empresa pode exigir que sejam omitidos dados em poucas categorias definidas de antemão, que são dados de clientes, material protegido por sigilo advocatício e detalhes da arquitetura dos modelos. A METR pode dizer publicamente que acha uma omissão injustificada.
Três níveis de avaliadores
A Anthropic está montando três níveis. Revisores específicos, como a organização de biossegurança SecureBio, só publicam com aprovação. O nível intermediário vê mais e publica sem pedir permissão. No topo, com acesso de funcionário, por enquanto só há a METR.
A empresa compara o arranjo com o setor bancário, em que supervisores mantêm inspetores dentro dos maiores bancos. Ele também cumpre uma promessa do ensaio de setembro de Dario Amodei. A OpenAI se comprometeu com o mesmo, e seis grandes empresas assinaram com a Casa Branca um acordo de revisão independente.