Sicherheit

Sicherheitsrisiko durch KI-Agenten: Anthropic räumt vierten Vorfall bei Modelltests ein

von

Das US-amerikanische KI-Start-up Anthropic hat einen weiteren Zwischenfall öffentlich gemacht, bei dem eine Vorabversion seines KI-Modells Claude Opus 4.6 ungewollt in reale IT-Systeme eingedrungen ist. Wie das Unternehmen in einem Blogbeitrag mitteilte, datiert der Vorfall bereits aus dem Januar. Es handelt sich um den vierten bekannt gewordenen Fall dieser Art, nachdem Anthropic erst im Juli … Weiterlesen

OpenAI detaillierter Bericht an EU-Kommission zum Sicherheitsvorfall mit autonomen KI-Agenten

von
OpenAI Symbolbild

Der US-amerikanische KI-Entwickler OpenAI hat der EU-Kommission einen detaillierten Bericht über einen Sicherheitsvorfall vorgelegt, bei dem autonome KI-Agenten eine deutsche Plattform für Software-Entwickler kompromittiert haben. Ein Sprecher der Kommission betonte am Montag, dass diese Berichterstattung im Rahmen der europäischen Transparenz- und Sicherheitsauflagen keine reine Formalität sei. Betroffene und verantwortliche Unternehmen seien gesetzlich dazu verpflichtet, umfassende … Weiterlesen

Großes Datenleck nach Erpressung: Hacker veröffentlichen sensible Berliner Verwaltungs- und Sicherheitsdaten

von

Nach einem gravierenden Cyberangriff auf die Berliner Verwaltung hat die erpresserische Hackergruppe „Rhyside“ ihre Drohung wahrgemacht. Weil der Berliner Senat die geforderte Lösegeldzahlung verweigerte, wurden massive Datenmengen im Darknet publiziert. Unter den gestohlenen Informationen befinden sich offenbar hochgradig sensible Details zu kritischen Infrastrukturen, Verteidigungseinrichtungen sowie zum Erweiterungsbau des Bundeskanzleramts. HINWEIS Aktuell kann man über die … Weiterlesen

Außer Kontrolle: OpenAI-Agenten kapern deutsches Entwickler-Wiki

von
OpenAI Symbolbild

Computerprogramme des US-Unternehmens OpenAI haben sich einem aktuellen Bericht zufolge im Frühjahr 2026 verselbstständigt und eine deutsche Webseite gekapert. Die sogenannten KI-Agenten nutzten die Seite als illegales Forum, um sich darüber auszutauschen, wie sie ihre Aufgaben umgehen und ihre Spuren verwischen können. Dies erfuhr die Nachrichtenagentur Reuters am Freitag aus einer neuen Studie und von … Weiterlesen

Welle von ChatGPT-Mails: Warum Nutzer weltweit derzeit ungefragt Verifizierungscodes erhalten

von

Wer in den letzten Tagen in sein E-Mail-Postfach geschaut hat, schaut womöglich verwundert auf Mitteilungen von OpenAI. Zahlreiche Internetnutzer berichten aktuell über gehäufte E-Mails mit dem Betreff oder Inhalt „Enter this temporary verification code to continue“ zur Erstellung eines ChatGPT-Kontos – ohne dass sie selbst versucht hätten, sich anzumelden. Die Ursache: Automatisierte Bots auf Namenssuche … Weiterlesen

Kritik von GrapheneOS: Warum das Entwickler-Team vom Kauf der Pixel 11-Serie abrät

von

Das Entwickler-Team des auf Sicherheit fokussierten Betriebssystems GrapheneOS hat eine deutliche Warnung bezüglich der neuen Pixel 11-Serie von Google ausgesprochen. Nach intensiver Arbeit an einer Anpassung des Systems meldet das Team gravierende Bedenken bei der Hardware-Architektur – allen voran das Fehlen eines zentralen Sicherheitsfeatures. Fehlende MTE-Unterstützung als Hauptgrund für die Kritik Nach einer Woche Entwicklungszeit … Weiterlesen

Nach Hack durch KI-Agenten: OpenAI zieht die Notbremse bei der Modellentwicklung

von
OpenAI Symbolbild

Der ChatGPT-Entwickler OpenAI bremst nach einem beispiellosen Zwischenfall die Entwicklung seiner fortgeschrittenen KI-Modelle ab. Wie das Unternehmen am Dienstag mitteilte, wurden Modelltests vorübergehend für zwei Wochen pausiert, während Forschungs- und Trainingsumgebungen grundlegend überarbeitet werden.Hintergrund ist ein Vorfall aus dem Juli, bei dem ein autonom arbeitender KI-Agent während eines internen Sicherheitstests aus seiner Testumgebung ausbrach und … Weiterlesen

Sicherheitsbedenken: OpenAI stoppt Arbeit an neuem Modell „Astra“

von
OpenAI Symbolbild

Der US-KI-Entwickler OpenAI hat die interne Entwicklung seines nächsten Flaggschiff-Modells „Astra“ teilweise ausgesetzt.Grund dafür ist das Erreichen der höchsten Warnstufe im firmeneigenen Sicherheitsrahmen (Preparedness Framework).Wie das Unternehmen bekannt gab, kann nach ersten internen Tests nicht mehr ausgeschlossen werden, dass das Modell sogenannte „kritische“ Fähigkeiten im Bereich der Cybersicherheit aufweist. Höchste Risikostufe im Sicherheitskonzept Nach den … Weiterlesen

Jetzt auch bei Meta AI: Modell hackt eigenständig Dritt-Firma

von

Ein autonomes KI-Modell des Facebook-Mutterkonzerns Meta hat bei einem internen Cybersicherheitstest eigenständig ein Drittunternehmen gehackt. Wie Meta am Mittwoch einräumte, führte eine Fehlkonfiguration dazu, dass das Modell ungewollt Zugriff auf das Internet erhielt. In der Folge nutzte das System eine bestehende Sicherheitslücke bei einem externen Anbieter aus. Laut dem Finanznachrichtendienst The Information handelte es sich … Weiterlesen

Nach Ausbruch bei Hugging Face: OpenAI untersucht weitere Angriffe durch KI-Agenten

von
OpenAI Symbolbild

OpenAI hat Insidern zufolge weitere Fälle entdeckt, in denen autonome KI-Agenten aus vermeintlich isolierten Testumgebungen ausgebrochen sind. Dies kam im Zuge der Untersuchungen des aufsehenerregenden Cybervorfalls beim KI-Entwicklerportal Hugging Face ans Licht. Das Unternehmen prüft die neuen Vorkommnisse nun intensiv, betont jedoch das begrenzte Ausmaß: Nach derzeitigem Kenntnisstand hat keiner der Agenten das Unternehmensnetzwerk von … Weiterlesen