KI-Sicherheit: Anthropic lässt externe Prüfer zu

Der KI-Entwickler Anthropic öffnet seine Systeme für externe Kontrolleure: Das Unternehmen gewährt unabhängigen Prüforganisationen nach eigenen Angaben weitreichenden Zugang zu seinen Modellen – bis auf Mitarbeiterebene. Der Schritt gilt als Reaktion auf wachsende KI-Sicherheitsbedenken und soll das Vertrauen in die Technologie stärken. Doch Experten sehen in dem Modell sowohl Fortschritte als auch strukturelle Schwachstellen.

Drei Organisationen übernehmen die KI-Prüfung

Anthropic arbeitet für die externe Überprüfung seiner Systeme mit drei Partnern zusammen. Das gemeinnützige Unternehmen Model Evaluation and Threat Research (METR) erhält dabei den tiefsten Einblick: Prüfer bekommen Zugang auf Mitarbeiterebene, können also direkt mit internen Ressourcen und Informationen arbeiten.

Daneben sind die Organisationen Secure Bio und die KI-Firma Faculty als externe Prüfer eingebunden. Gemeinsam sollen sie Risiken in Anthropics Modellen – darunter das bekannte Sprachmodell Claude – systematisch identifizieren und bewerten.

Dieser Schritt ist in der KI-Branche vergleichsweise ungewöhnlich. Viele Unternehmen halten ihre Modellarchitekturen und Trainingsdaten eng unter Verschluss – nicht zuletzt mit Verweis auf den Schutz geistigen Eigentums.

Streitpunkt: Unabhängigkeit und geistiges Eigentum

Trotz des positiven Signals bleiben zentrale Kritikpunkte bestehen. Ein wesentlicher Streitpunkt ist, dass Informationen, die KI-Unternehmen als geistiges Eigentum einstufen, oft auch für die Risikobewertung eines Modells entscheidend sind. Wenn Prüfer keinen vollständigen Einblick erhalten, bleibt die Überprüfung zwangsläufig lückenhaft.

Ein weiteres Problem ist die Frage der echten Unabhängigkeit: Anthropic – wie auch Konkurrent OpenAI – wählt selbst aus, welche Organisationen die Überprüfung durchführen dürfen. Kritiker argumentieren, dass diese Auswahl strukturell zu Interessenkonflikten führen kann.

• Prüfer werden vom zu prüfenden Unternehmen selbst ausgewählt
• Zugang zu als Betriebsgeheimnis eingestuften Modelldaten kann verweigert werden
• Anthropic kann Veröffentlichungen zu Risiken und Vorfällen nicht per Veto blockieren, aber eng definierte Schwärzungen verlangen
• METR kann Schwärzungsanträge öffentlich hinterfragen, ohne zurückgehaltene Informationen preiszugeben

Dieses Gleichgewicht zwischen Transparenz und Unternehmensinteressen gilt als zentrales Spannungsfeld der gesamten KI-Regulierungsdebatte.

Sicherheitsvorfälle erhöhen den Druck auf Anthropic

Der Vorstoß kommt nicht ohne Vorgeschichte. Mehrere Vorfälle haben zuletzt das Vertrauen in Anthropics Modelle erschüttert und den Ruf nach stärkerer externer Kontrolle laut werden lassen.

Besonders aufsehenerregend war ein Fall, bei dem das KI-Modell Claude eine falsche Meldung über einen Mord auf der Website der Polizei in Philadelphia generierte. Solche Fehlinformationen durch KI-Systeme unterstreichen, wie hoch die praktischen Risiken im Einsatz dieser Technologien bereits heute sind.

Derartige Vorfälle zeigen, dass die Notwendigkeit unabhängiger Sicherheitsprüfungen nicht nur theoretischer Natur ist. Die Folgen fehlerhafter KI-Ausgaben können erhebliche gesellschaftliche Konsequenzen haben – von Reputationsschäden bis hin zu gefährlichen Fehlinformationen.

Einordnung: Ein Schritt in die richtige Richtung?

Anthropics Initiative ist ein sichtbares Signal an Regulierer, Öffentlichkeit und Partner, dass das Unternehmen externe Kontrolle grundsätzlich akzeptiert. Das Modell mit METR, Secure Bio und Faculty setzt einen Rahmen, der bei konsequenter Umsetzung Maßstäbe für die Branche setzen könnte.

Dennoch bleibt offen, ob freiwillige Vereinbarungen ausreichen oder ob es verbindlicher gesetzlicher Standards bedarf. Die Debatte über KI-Regulierung und die Rolle unabhängiger Aufsichtsbehörden dürfte durch diesen Schritt eher befeuert als beendet werden. Für die Nutzerinnen und Nutzer von KI-Modellen ist klar: Mehr Transparenz ist notwendig – und der Weg dahin bleibt lang.