Anthropic объявила, что шесть исследователей из METR, некоммерческой организации, которая тестирует передовые модели ИИ, получат доступ на уровне сотрудников. У них будут рабочие ноутбуки компании, место в офисе и внутренние инструменты, почти такие же, как у команд, оценивающих риски внутри Anthropic. Сотрудникам предложено делиться с METR всем так же свободно, как с коллегой по работе над безопасностью.
Что важно в условиях
METR сама опубликует свои выводы о рисках, инцидентах и практиках компании, а блокировать публикацию Anthropic больше не вправе. Исключение одно: компания может потребовать скрыть данные в узких заранее оговорённых категориях. Это данные клиентов, материалы под адвокатской тайной и сведения об архитектуре моделей. При этом METR может публично сказать, что считает такие вычёркивания необоснованными.
Трёхуровневая схема
Anthropic строит систему из трёх уровней. Узкие проверяющие вроде SecureBio, которая занимается биобезопасностью, публикуют отчёты только с одобрения компании. Средний уровень получает больше сведений и публикуется без согласования. Высший уровень, с доступом как у сотрудников, пока занимает только METR.
Сама компания сравнивает это с банками, где у крупнейших игроков постоянно сидят инспекторы регулятора. Шаг выполняет обещание Дарио Амодеи из сентябрьского эссе, где он предлагал встраивать внешних оценщиков в лаборатории. OpenAI заявила о таком же намерении, а шесть крупных компаний подписали соглашение с Белым домом о независимой проверке.