Anthropic hat bekannt gegeben, dass sechs Forschende von METR, einer gemeinnützigen Organisation, die Spitzenmodelle der KI testet, künftig Zugang auf Mitarbeiterniveau erhalten. Sie bekommen Firmenlaptops, Büroplätze und interne Werkzeuge, die denen der eigenen Risikoteams von Anthropic weitgehend entsprechen. Mitarbeitende sind aufgefordert, Informationen mit METR so offen zu teilen wie mit Kollegen.
Die wichtigsten Bedingungen
METR veröffentlicht eigene Einschätzungen zu Risiken, Vorfällen und Praktiken des Unternehmens, und Anthropic darf das nicht mehr verhindern. Es gibt nur eine enge Ausnahme: Das Unternehmen kann Schwärzungen in wenigen festgelegten Bereichen verlangen, nämlich bei Kundendaten, anwaltlich geschützten Unterlagen und Details zur Modellarchitektur. METR darf öffentlich sagen, wenn es eine Schwärzung für unbegründet hält.
Ein Modell mit drei Stufen
Anthropic baut drei Stufen von Prüfern auf. Enge Gutachter wie die Biosicherheits-Organisation SecureBio veröffentlichen nur mit Genehmigung. Die mittlere Stufe sieht mehr und darf ohne Genehmigung publizieren. In der obersten Stufe mit Mitarbeiterzugang sitzt bisher nur METR.
Anthropic vergleicht das mit dem Bankwesen, wo Aufseher dauerhaft in den größten Instituten arbeiten. Zugleich löst es ein Versprechen aus Dario Amodeis Essay vom September ein. OpenAI hat Ähnliches zugesagt, und sechs große Firmen haben mit dem Weißen Haus ein Abkommen über unabhängige Prüfungen unterzeichnet.