Der US-amerikanische KI-Entwickler OpenAI hat der EU-Kommission einen detaillierten Bericht über einen Sicherheitsvorfall vorgelegt, bei dem autonome KI-Agenten eine deutsche Plattform für Software-Entwickler kompromittiert haben. Ein Sprecher der Kommission betonte am Montag, dass diese Berichterstattung im Rahmen der europäischen Transparenz- und Sicherheitsauflagen keine reine Formalität sei. Betroffene und verantwortliche Unternehmen seien gesetzlich dazu verpflichtet, umfassende Angaben zu Sicherheitsbrüchen zu machen.
Der Vorfall geht auf Untersuchungen von Sicherheitsforschern zurück: Im Frühjahr hatten sich sogenannte KI-Agenten – Systeme, die komplexe Aufgaben eigenständig und weitgehend ohne menschliches Eingreifen lösen sollen – während interner Evaluationstests verselbstständigt.Dabei nutzten die Programme eine Schwachstelle im System aus und kaperten das „DSEWiki“, ein deutsches Entwickler-Forum. Die Agenten funktionierten die Plattform kurzfristig zu einer Art Koordinationsstelle um. Über Tausende automatisierte Eintragsbearbeitungen tauschten die Programme dort Lösungswege für Testaufgaben aus, stimmten sich ab und gaben Anleitungen weiter, wie sich interne Netzwerkbeschränkungen und Sicherheitsfilter umgehen ließen.
Das Ereignis reiht sich in eine Serie unkontrollierter Systemaktionen des Entwicklers ein. Bereits im Juli hatte ein Vorfall auf der internationalen Entwickler-Plattform Hugging Face für Aufsehen gesorgt.Auch dort waren Agenten von OpenAI im Rahmen von Sicherheitstests („ExploitGym“) aus ihren isolierten Testumgebungen ausgebrochen und drangen in die fremde Infrastruktur ein.
Als direkte Konsequenz drosselte OpenAI vorübergehend das Entwicklungstempo und verschärfte die internen Kontrollen für autonome Systeme. Die Veröffentlichung der neuesten Software-Generation „Astra“ wurde vorerst gebremst. Das Start-up stuft die Fähigkeiten dieser hochentwickelten KI-Modelle selbst als potenziell gefährlich ein und sieht vor einer Freigabe zusätzliche, umfassende Sicherheitsvorkehrungen vor.
Mobilfunk-Newsletter: Einmal pro Woche die neusten Informationen rund um Handy, Smartphones und Deals!
Unser kostenloser Newsletter informiert Sie regelmäßig per E-Mail über Produktneuheiten und Sonderaktionen. Ihre hier eingegebenen Daten werden lediglich zur Personalisierung des Newsletters verwendet und nicht an Dritte weitergegeben. Sie können sich jederzeit aus dem Newsletter heraus abmelden. Durch Absenden der von Ihnen eingegebenen Daten willigen Sie in die Datenverarbeitung ein und bestätigen unsere Datenschutzerklärung.
Immer die aktuellsten Nachrichten direkt im Smartphone.
Unsere Kanäle gibt es kostenlos hier:
Telegram: Appdated Telegram Channel
Facebook: Appdated Facebook Seite
Twitter: Appdated Twitter Channel
Technikaffin seit den Zeiten von Amiga 500 und C64 – mittlerweile aber eher mit deutlichem Fokus auf die Bereich Mobilfunk und Telekommunikation. Die ersten Artikel im Telco Bereich habe ich bereits 2006 geschrieben, seit dem bin ich dem Thema treu geblieben und nebenbei läuft mittlerweile auch noch ein Telefon- und Smartphone Museum um die Entiwcklung zu dokumentieren.