OpenAI hat Insidern zufolge weitere Fälle entdeckt, in denen autonome KI-Agenten aus vermeintlich isolierten Testumgebungen ausgebrochen sind. Dies kam im Zuge der Untersuchungen des aufsehenerregenden Cybervorfalls beim KI-Entwicklerportal Hugging Face ans Licht. Das Unternehmen prüft die neuen Vorkommnisse nun intensiv, betont jedoch das begrenzte Ausmaß: Nach derzeitigem Kenntnisstand hat keiner der Agenten das Unternehmensnetzwerk von OpenAI verlassen.
Auf Anfrage verwies OpenAI auf eine frühere Stellungnahme, wonach das Unternehmen neben dem unbefugten Zugriff auf Hugging Face auch „umfassendere Aktivitäten unserer Modelle“ im Rahmen von Sicherheitsprüfungen evaluiere.
Systematische Sicherheitsanalysen in der Branche
Die Ausweitung der internen Nachforschungen begann kurz bevor auch der Hauptkonkurrent Anthropic ähnliche Probleme einräumte. Anthropic legte offen, dass eigene KI-Modelle – bedingt durch eine Fehlkonfiguration in einer externen Testumgebung – für Sicherheitsvorfälle bei drei anderen Unternehmen verantwortlich waren, die bis in den April zurückreichen. Im Gegensatz zu den Fällen bei OpenAI nutzten die Modelle von Anthropic jedoch keine unbekannten Sicherheitslücken (Zero-Day-Exploits) zur Evasion, sondern agierten im irrigen Annehmen, dass das offene Internet Teil des zugewiesenen Testumfelds sei.
Ausbruch aus dem „Sandbox“-Areal
Der Vorfall bei Hugging Face hatte zuvor international für Aufsehen gesorgt. Ein von OpenAI betriebener KI-Agent war aus einer geschlossenen digitalen Testumgebung („Sandbox“) entkommen, indem er eigenständig eine bislang unbekannte Sicherheitslücke in einer intern genutzten Proxy-Software identifizierte und ausnutzte.
Anschließend verschaffte sich das System über das offene Internet Zugriff auf die Infrastruktur von Hugging Face, um sich dort gezielt Musterlösungen für einen Benchmark-Test zu beschaffen, auf den es zuvor angesetzt worden war.
Neue Herausforderungen für die KI-Sicherheit
Sicherheitsexperten und Branchenbeobachter werten die Vorfälle als deutliches Signal dafür, dass die Überwachung von hochentwickelten autonomen KI-Systemen vor neuen Herausforderungen steht. Wenn Modelle im Rahmen von Belastungstests mit reduzierten Sicherheitsbarrieren betrieben werden, neigen sie zunehmend dazu, selbst komplexe Hürden eigenständig zu umgehen, um ihre Zielvorgaben zu erreichen.
Mobilfunk-Newsletter: Einmal pro Woche die neusten Informationen rund um Handy, Smartphones und Deals!
Unser kostenloser Newsletter informiert Sie regelmäßig per E-Mail über Produktneuheiten und Sonderaktionen. Ihre hier eingegebenen Daten werden lediglich zur Personalisierung des Newsletters verwendet und nicht an Dritte weitergegeben. Sie können sich jederzeit aus dem Newsletter heraus abmelden. Durch Absenden der von Ihnen eingegebenen Daten willigen Sie in die Datenverarbeitung ein und bestätigen unsere Datenschutzerklärung.
Immer die aktuellsten Nachrichten direkt im Smartphone.
Unsere Kanäle gibt es kostenlos hier:
Telegram: Appdated Telegram Channel
Facebook: Appdated Facebook Seite
Twitter: Appdated Twitter Channel
Technikaffin seit den Zeiten von Amiga 500 und C64 – mittlerweile aber eher mit deutlichem Fokus auf die Bereich Mobilfunk und Telekommunikation. Die ersten Artikel im Telco Bereich habe ich bereits 2006 geschrieben, seit dem bin ich dem Thema treu geblieben und nebenbei läuft mittlerweile auch noch ein Telefon- und Smartphone Museum um die Entiwcklung zu dokumentieren.