Der KI-Entwickler Anthropic gewährt externen Sicherheitsexperten weitreichenden und direkten Zugang zu seinen internen Systemen. Ziel des Anbieters der Claude-Modellreihe ist es, Risiken fortschrittlicher Künstlicher Intelligenz fundiert zu bewerten und Sicherheitsstandards voranzutreiben, ohne das Entwicklungstempo zu drosseln.
Drei-Stufen-System für externe Audits
Wie das Unternehmen mitteilte, hat Anthropic ein dreistufiges Rahmenwerk für die Zusammenarbeit mit unabhängigen Prüfern etabliert:
- Stufe 1 (Begrenzter Zugang): Prüfer führen eng umrissene Risikoanalysen durch. Veröffentlichungen von Testergebnissen bedürfen der vorherigen Genehmigung durch Anthropic. In dieser Stufe befindet sich derzeit die gemeinnützige Bioseicherheitsorganisation SecureBio, die nach einer ersten Überprüfung des Risikoberichts zum Modell Claude Opus 4.6 aktuell den Abschnitt zu biologischen und chemischen Gefahren des Sicherheitsberichts evaluiert.
- Stufe 2 (Erweiterte Rechte): Die Prüfgesellschaften erhalten umfassendere Informationen. Sie dürfen ihre Ergebnisse ohne Vorabgenehmigung publizieren. Anthropic steht lediglich das Recht zu, eng definierte Schwärzungen verlangen zu können – etwa zum Schutz vor der Offenlegung gefährlicher Anleitungen. Die Prüfer haben wiederum das Recht, geforderte Schwärzungen öffentlich zu hinterfragen. In einer frühen Phase dieser Partnerschaft befindet sich die Beratungs- und Analysefirma Faculty (in Zusammenarbeit mit Accenture).
- Stufe 3 (Einbettung auf Mitarbeiterebene): Diese höchste Zugangsstufe bietet Prüfern mitarbeiternahen Systemzugang unter vergleichbaren Veröffentlichungsrechten wie Stufe 2.
Sechs METR-Mitarbeiter arbeiten direkt bei Anthropic
Als erste Organisation nutzt das gemeinnützige Forschungsinstitut METR (Model Evaluation and Threat Research) die höchste Stufe. Im Rahmen der Vereinbarung werden sechs METR-Mitarbeiter direkt bei Anthropic eingebettet. Sie erhalten eigene Firmen-Hardware, Arbeitsplätze in den Büroräumen des KI-Labors sowie Zugriff auf interne Entwicklungssysteme.
Ververtrauliche Kundendaten, rechtlich geschützte Geschäftsinformationen sowie die eigentliche Modellarchitektur bleiben jedoch auch für die METR-Experten ausgespart. Anthropic besitzt kein Veto-Recht gegen Veröffentlichungen von METR zu Vorfällen oder Risikoeinschätzungen, kann jedoch begründete Schwärzungen einfordern.
Zusätzlich befindet sich Anthropic in Gesprächen mit weiteren Akteuren der KI-Branche, darunter der Open-Source-Plattform Hugging Face, um das Netzwerk externer Prüfer weiter auszubauen.
Spannungsfeld zwischen IP-Schutz und Unabhängigkeit
Dem Vorstoß ging eine Debatte voraus. Wie die Nachrichtenagentur Reuters berichtete, versuchten KI-Labore wie Anthropic und OpenAI in Verhandlungen zunächst eine strikte Kontrolle darüber zu behalten, welche Prüfergebnisse an die Öffentlichkeit gelangen dürfen, um Betriebs- und Geschäftsgeheimnisse zu wahren. Ein zentraler Konfliktpunkt bleibt, dass detaillierte Systeminformationen, die Unternehmen als entscheidendes geistiges Eigentum (Intellectual Property) einstufen, oft essenziell für eine fundierte Risikobewertung durch Externe sind.
Gleichzeitig verweisen Branchenbeobachter auf verbleibende Zweifel an der vollständigen Unabhängigkeit der Prüfprozesse: Da die KI-Entwickler selbst auswählen und festlegen, welche externen Organisationen zugelassen werden und welchen Stufenstatus sie erhalten, bleibt das Modell der Selbstevaluierung trotz der Einbettung externer Teams ein Kompromiss zwischen Eigeninteresse und öffentlicher Rechenschaftspflicht.
Mobilfunk-Newsletter: Einmal pro Woche die neusten Informationen rund um Handy, Smartphones und Deals!
Unser kostenloser Newsletter informiert Sie regelmäßig per E-Mail über Produktneuheiten und Sonderaktionen. Ihre hier eingegebenen Daten werden lediglich zur Personalisierung des Newsletters verwendet und nicht an Dritte weitergegeben. Sie können sich jederzeit aus dem Newsletter heraus abmelden. Durch Absenden der von Ihnen eingegebenen Daten willigen Sie in die Datenverarbeitung ein und bestätigen unsere Datenschutzerklärung.
Immer die aktuellsten Nachrichten direkt im Smartphone.
Unsere Kanäle gibt es kostenlos hier:
Telegram: Appdated Telegram Channel
Facebook: Appdated Facebook Seite
Twitter: Appdated Twitter Channel
Technikaffin seit den Zeiten von Amiga 500 und C64 – mittlerweile aber eher mit deutlichem Fokus auf die Bereich Mobilfunk und Telekommunikation. Die ersten Artikel im Telco Bereich habe ich bereits 2006 geschrieben, seit dem bin ich dem Thema treu geblieben und nebenbei läuft mittlerweile auch noch ein Telefon- und Smartphone Museum um die Entiwcklung zu dokumentieren.