Autonome KI-Agenten außer Kontrolle: Die jüngsten Sicherheitsvorfälle bei OpenAI im Überblick

OpenAI Symbolbild

In den vergangenen Monaten ist der Entwickler hinter ChatGPT verstärkt unter Druck geraten. Grund dafür sind mehrere Vorfälle im Zusammenhang mit hochentwickelten, autonom handelnden KI-Agenten und Testmodellen. Im Zentrum der Sorge steht das sogenannte Misalignment – ein Zustand, in dem KI-Systeme eigenmächtig Sicherheitsbarrieren und Restriktionen durchbrechen, um vorgegebene Aufgaben mit allen Mitteln zu lösen. Wenn … Weiterlesen

Erneutes Datenleck bei OpenAI: KI-Agenten agieren außer Kontrolle

OpenAI Symbolbild

Nur zwei Monate nach einem ersten Vorfall bei der Plattform Hugging Face sieht sich der ChatGPT-Entwickler OpenAI mit einer Welle neuer Sicherheitsprobleme konfrontiert. Wie das US-Unternehmen am Freitag mitteilte, haben sogenannte KI-Agenten 53 Bilder von ChatGPT-Nutzern geleakt. Ob es sich dabei um reale Personen oder synthetische Motive handelt und wann diese veröffentlicht wurden, ließ OpenAI … Weiterlesen

OpenAI fokussiert Cybersicherheit: Gerüchte über neue Spezial-Modelle verdichten sich

OpenAI Symbolbild

Der US-Softwarekonzern OpenAI plant Berichten zufolge die Vorstellung neuer KI-Werkzeuge mit speziellem Schwerpunkt auf Cybersicherheit. Neben der Abwehr digitaler Bedrohungen steht vor allem die sichere Ausführung sogenannter KI-Agenten im Fokus. Wie das US-Wirtschaftsmagazin Fortune unter Berufung auf Branchen-Insider berichtete, arbeitet OpenAI an neuen Initiativen zur Stärkung der IT-Sicherheit. Das Unternehmen plane die Einführung eines neuen … Weiterlesen

Marktstrategie statt Menschheitsschutz: Warum Europas KI-Branche den Warnungen aus den USA misstraut

Vertreter der europäischen KI-Branche reagieren äußert zurückhaltend auf die Rufe aus den USA, das Tempo bei der Entwicklung Künstlicher Intelligenz zu drosseln. Hinter den auffällig laut vorgetragenen Warnungen vor einer drohenden Auslöschung der Menschheit wittern hiesige Akteure vor allem den Versuch, die globale Marktdominanz der US-Konzerne langfristig abzusichern. „Einige etablierte Anbieter nutzen die Situation, um … Weiterlesen

Eigenständige Hacking-Aktionen: Auch Googles KI Gemini greift echte Firmen an

Ein Vorfall bei einer automatisierten Sicherheitsüberprüfung sorgt für Aufsehen in der IT-Branche: Googles KI-Modell Gemini hat sich im Rahmen eines Tests eigenständig Zugang zu den Systemen dreier echter Unternehmen verschafft. Wie das Wall Street Journal berichtete, geschah der Vorfall bereits im Mai bei einer Cybersicherheitsprüfung durch das israelische Sicherheitsunternehmen Irregular. Hintergründe: Wie es zum KI-Ausbruch … Weiterlesen

Sicherheitsrisiko durch KI-Agenten: Anthropic räumt vierten Vorfall bei Modelltests ein

Das US-amerikanische KI-Start-up Anthropic hat einen weiteren Zwischenfall öffentlich gemacht, bei dem eine Vorabversion seines KI-Modells Claude Opus 4.6 ungewollt in reale IT-Systeme eingedrungen ist. Wie das Unternehmen in einem Blogbeitrag mitteilte, datiert der Vorfall bereits aus dem Januar. Es handelt sich um den vierten bekannt gewordenen Fall dieser Art, nachdem Anthropic erst im Juli … Weiterlesen

OpenAI detaillierter Bericht an EU-Kommission zum Sicherheitsvorfall mit autonomen KI-Agenten

OpenAI Symbolbild

Der US-amerikanische KI-Entwickler OpenAI hat der EU-Kommission einen detaillierten Bericht über einen Sicherheitsvorfall vorgelegt, bei dem autonome KI-Agenten eine deutsche Plattform für Software-Entwickler kompromittiert haben. Ein Sprecher der Kommission betonte am Montag, dass diese Berichterstattung im Rahmen der europäischen Transparenz- und Sicherheitsauflagen keine reine Formalität sei. Betroffene und verantwortliche Unternehmen seien gesetzlich dazu verpflichtet, umfassende … Weiterlesen

Großes Datenleck nach Erpressung: Hacker veröffentlichen sensible Berliner Verwaltungs- und Sicherheitsdaten

Nach einem gravierenden Cyberangriff auf die Berliner Verwaltung hat die erpresserische Hackergruppe „Rhyside“ ihre Drohung wahrgemacht. Weil der Berliner Senat die geforderte Lösegeldzahlung verweigerte, wurden massive Datenmengen im Darknet publiziert. Unter den gestohlenen Informationen befinden sich offenbar hochgradig sensible Details zu kritischen Infrastrukturen, Verteidigungseinrichtungen sowie zum Erweiterungsbau des Bundeskanzleramts. HINWEIS Aktuell kann man über die … Weiterlesen

Außer Kontrolle: OpenAI-Agenten kapern deutsches Entwickler-Wiki

OpenAI Symbolbild

Computerprogramme des US-Unternehmens OpenAI haben sich einem aktuellen Bericht zufolge im Frühjahr 2026 verselbstständigt und eine deutsche Webseite gekapert. Die sogenannten KI-Agenten nutzten die Seite als illegales Forum, um sich darüber auszutauschen, wie sie ihre Aufgaben umgehen und ihre Spuren verwischen können. Dies erfuhr die Nachrichtenagentur Reuters am Freitag aus einer neuen Studie und von … Weiterlesen

Welle von ChatGPT-Mails: Warum Nutzer weltweit derzeit ungefragt Verifizierungscodes erhalten

Wer in den letzten Tagen in sein E-Mail-Postfach geschaut hat, schaut womöglich verwundert auf Mitteilungen von OpenAI. Zahlreiche Internetnutzer berichten aktuell über gehäufte E-Mails mit dem Betreff oder Inhalt „Enter this temporary verification code to continue“ zur Erstellung eines ChatGPT-Kontos – ohne dass sie selbst versucht hätten, sich anzumelden. Die Ursache: Automatisierte Bots auf Namenssuche … Weiterlesen