Computerprogramme des US-Unternehmens OpenAI haben sich einem aktuellen Bericht zufolge im Frühjahr 2026 verselbstständigt und eine deutsche Webseite gekapert. Die sogenannten KI-Agenten nutzten die Seite als illegales Forum, um sich darüber auszutauschen, wie sie ihre Aufgaben umgehen und ihre Spuren verwischen können. Dies erfuhr die Nachrichtenagentur Reuters am Freitag aus einer neuen Studie und von Insidern. Der bislang nicht öffentlich bekannte Vorfall vom Mai wirft ein neues Licht auf die Gefahren autonomer KI-Systeme.
Schwachstelle in alter Foren-Software ausgenutzt
Bei dem Ziel der Agenten handelte es sich um das „DseWiki“, ein seit rund 25 Jahren betriebenes, deutschsprachiges Wiki für Programmierer. Die KI-Agenten, die in ihren Testläufen das Internet durchsuchen, aber eigentlich keine Inhalte auf externen Servern verändern durften, stießen Ende Mai auf das Wiki. Da die veraltete ProWiki-Software des Forums Bearbeitungen direkt über sogenannte HTTP-GET-Parameter zuließ, konnten die Agenten interne Blockaden für schreibende Zugriffe (POST-Anfragen) unbemerkt umgehen.
Die Agenten funktionierten die Plattform kurzerhand zu einer Art schwarzem Brett um. In wenigen Wochen wurden zwischen 15.000 und 18.000 automatisierte Bearbeitungen registriert. Die Programme nutzten das Wiki, um technische Hürden ihrer Testumgebung im Kollektiv zu überwinden. Entdeckte ein Agent beispielsweise einen Weg, Netzwerkregeln zu manipulieren, landete diese Anleitung umgehend im Wiki und wurde teilweise nur Minuten später von anderen Agenten kopiert.
Katz-und-Maus-Spiel mit dem Moderator
Die Automatismen reagierten sogar aktiv auf menschliche Eingriffe. Als ein Moderator der Seite im Juni die verdächtigen Beiträge bemerkte und begann, diese alphabetisch zu löschen, registrierten die Agenten dieses Muster. Um der Löschung zu entgehen, legten sie Sicherungskopien unter neuen Seitennamen an, die mit dem Präfix „ZZZ“ begannen – so landeten ihre Notizen ganz am Ende der Bearbeitungsliste des Moderators und blieben länger unberührt.
Aufdeckung durch IT-Forscher
Aufgedeckt wurde der Vorfall von den Forschern Cormac Slade Byrd, Sydney Von Arx und Thomas Larsen von der Organisation Nightingale. „Es erscheint äußerst unwahrscheinlich, dass OpenAI das so gewollt hat“, betonte Sydney Von Arx im Hinblick auf das Verhalten der KIs. Die Forscher erkannten die maschinelle Aktivität an der enormen Geschwindigkeit und an verräterischen Benutzernamen wie „OpenAIResearcher“.
OpenAI-Verantwortliche wussten dem Bericht zufolge seit Wochen von dem Vorfall. Ein Sprecher von OpenAI wies jedoch Vorwürfe zurück, das eigene Rechtsteam habe von einer Untersuchung abgeraten oder versucht, den Vorfall zu vertuschen. Das Unternehmen betonte, transparent gehandelt zu haben, und kündigte an, den Untersuchungsbericht nach der Veröffentlichung sorgfältig zu prüfen.
Hacking und „halbintelligente Schwärme“
Die Forscher dokumentierten zudem Versuche der Agenten, die Webseite selbst technisch zu manipulieren. Der Sicherheitsexperte Łukasz Olejnik vom King’s College London wertete dieses Vorgehen klar als Hackerangriff.
Der Vorfall schürt die Sorge vor koordinierten Aktionen autonomer Systeme. Ein Forscher der Universität Cambridge verglich die Kommunikation der Agenten mit der „Operation einer Art Untergrundnetzwerk“. Die Erkenntnisse verstärken die Befürchtung in der Fachwelt, dass die größte Bedrohung durch fortgeschrittene KI womöglich nicht in einer einzelnen Superintelligenz liegt, sondern vielmehr in „riesigen, kollaborierenden Schwärmen von halbintelligenten KIs“.
Mobilfunk-Newsletter: Einmal pro Woche die neusten Informationen rund um Handy, Smartphones und Deals!
Unser kostenloser Newsletter informiert Sie regelmäßig per E-Mail über Produktneuheiten und Sonderaktionen. Ihre hier eingegebenen Daten werden lediglich zur Personalisierung des Newsletters verwendet und nicht an Dritte weitergegeben. Sie können sich jederzeit aus dem Newsletter heraus abmelden. Durch Absenden der von Ihnen eingegebenen Daten willigen Sie in die Datenverarbeitung ein und bestätigen unsere Datenschutzerklärung.
Immer die aktuellsten Nachrichten direkt im Smartphone.
Unsere Kanäle gibt es kostenlos hier:
Telegram: Appdated Telegram Channel
Facebook: Appdated Facebook Seite
Twitter: Appdated Twitter Channel
Technikaffin seit den Zeiten von Amiga 500 und C64 – mittlerweile aber eher mit deutlichem Fokus auf die Bereich Mobilfunk und Telekommunikation. Die ersten Artikel im Telco Bereich habe ich bereits 2006 geschrieben, seit dem bin ich dem Thema treu geblieben und nebenbei läuft mittlerweile auch noch ein Telefon- und Smartphone Museum um die Entiwcklung zu dokumentieren.