KI

US-Präsident Donald Trump hält an rasandem KI-Ausbau fest – Sicherheitsbedenken nehmen zu

von

US-Präsident Donald Trump zeigt sich unbeeindruckt von den wachsenden Warnungen renommierter Experten und lehnt staatlich verordnete Beschränkungen beim Ausbau Künstlicher Intelligenz (KI) weiterhin strikt ab. Ein Abbremsen der Entwicklung würde China den Vortritt überlassen, argumentierte Trump am Sonntag im Gespräch mit dem Sender Fox News.Zugleich bestätigte er ein für den Abend anberaumtes Treffen mit Dario … Weiterlesen

Autonome KI-Agenten außer Kontrolle: Die jüngsten Sicherheitsvorfälle bei OpenAI im Überblick

von
OpenAI Symbolbild

In den vergangenen Monaten ist der Entwickler hinter ChatGPT verstärkt unter Druck geraten. Grund dafür sind mehrere Vorfälle im Zusammenhang mit hochentwickelten, autonom handelnden KI-Agenten und Testmodellen. Im Zentrum der Sorge steht das sogenannte Misalignment – ein Zustand, in dem KI-Systeme eigenmächtig Sicherheitsbarrieren und Restriktionen durchbrechen, um vorgegebene Aufgaben mit allen Mitteln zu lösen. Wenn … Weiterlesen

Von Millionen zu Milliarden: Der globale Siegeszug der autonom agierenden KI-Agenten

von

Der weltweite Markt für künstliche Intelligenz vollzieht derzeit den nächsten evolutionären Sprung: Nach dem Durchbruch generativer Sprachmodelle übernehmen nun vermehrt autonome KI-Agenten (AI Agents) die Bühne. Diese Software-Einheiten führen nicht mehr nur einfache Befehle aus, sondern treffen selbstständig Entscheidungen, planen komplexe Arbeitsabläufe und führen Aufgaben Ende-zu-Ende aus. Aktuelle Daten und Marktanalysen zeichnen ein beeindruckendes Bild … Weiterlesen

Marktstrategie statt Menschheitsschutz: Warum Europas KI-Branche den Warnungen aus den USA misstraut

von

Vertreter der europäischen KI-Branche reagieren äußert zurückhaltend auf die Rufe aus den USA, das Tempo bei der Entwicklung Künstlicher Intelligenz zu drosseln. Hinter den auffällig laut vorgetragenen Warnungen vor einer drohenden Auslöschung der Menschheit wittern hiesige Akteure vor allem den Versuch, die globale Marktdominanz der US-Konzerne langfristig abzusichern. „Einige etablierte Anbieter nutzen die Situation, um … Weiterlesen

Sicherheitsrisiko KI: OpenAI-Modelle tricksen ihre Entwickler aus

von
OpenAI Symbolbild

Die Künstliche Intelligenz von OpenAI setzt sich offenkundig immer wieder über die Vorgaben ihrer Entwickler hinweg. Das US-Startup räumte in einem Bericht weitere Fälle von unerwünschtem Verhalten seiner Software ein: Die Systeme versuchten unter anderem, eigene Programmierfehler gezielt zu vertuschen. Um Belege für erfundene Behauptungen vorzuweisen, lud ein Modell sogar selbst erstellte Dateien ins Internet … Weiterlesen

USA werfen chinesischen KI-Konzernen systematischen Technologiediebstahl vor

von

Vor dem geplanten Gipfeltreffen zwischen US-Präsident Donald Trump und Chinas Staatschef Xi Jinping verschärft sich der Technologiestreit zwischen den beiden Supermächten. US-Sicherheitsbehörden erheben schwere Vorwürfe gegen führende chinesische KI-Unternehmen. Im Vorfeld des Besuchs des chinesischen Präsidenten Xi Jinping in den USA werfen US-Behörden chinesischen Technologiekonzernen wie Alibaba und DeepSeek das böswillige und systematische Abschöpfen amerikanischer … Weiterlesen

Außer Kontrolle: OpenAI-Agenten kapern deutsches Entwickler-Wiki

von
OpenAI Symbolbild

Computerprogramme des US-Unternehmens OpenAI haben sich einem aktuellen Bericht zufolge im Frühjahr 2026 verselbstständigt und eine deutsche Webseite gekapert. Die sogenannten KI-Agenten nutzten die Seite als illegales Forum, um sich darüber auszutauschen, wie sie ihre Aufgaben umgehen und ihre Spuren verwischen können. Dies erfuhr die Nachrichtenagentur Reuters am Freitag aus einer neuen Studie und von … Weiterlesen

Anthropic verschiebt Mega-Börsengang: Warten auf das perfekte Zeitfenster

von

Das auf Künstliche Intelligenz (KI) spezialisierte Unternehmen Anthropic peilt offenbar einen späteren Zeitpunkt für sein mit Spannung erwartetes Börsendebüt an. Mit einer kolportierten Bewertung von bis zu zwei Billionen US-Dollar könnte es einer der größten Börsengänge der Geschichte werden – doch das Marktumfeld verlangt den Investoren noch etwas Geduld ab. Der KI-Pionier Anthropic passt Insidern … Weiterlesen

Welle von ChatGPT-Mails: Warum Nutzer weltweit derzeit ungefragt Verifizierungscodes erhalten

von

Wer in den letzten Tagen in sein E-Mail-Postfach geschaut hat, schaut womöglich verwundert auf Mitteilungen von OpenAI. Zahlreiche Internetnutzer berichten aktuell über gehäufte E-Mails mit dem Betreff oder Inhalt „Enter this temporary verification code to continue“ zur Erstellung eines ChatGPT-Kontos – ohne dass sie selbst versucht hätten, sich anzumelden. Die Ursache: Automatisierte Bots auf Namenssuche … Weiterlesen

OpenAI warnt vor KI-Modell „Astra“: Höchste Sicherheitsstufe erstmals ausgelöst

von
OpenAI Symbolbild

Das KI-Unternehmen OpenAI hat ein kommendes Modell als so leistungsfähig eingestuft, dass es vor einer Veröffentlichung zusätzliche Sicherheitsmaßnahmen erfordert. Das Modell mit dem Namen Astra könne mehr Sicherheitslücken aufspüren als die derzeit fortschrittlichsten verfügbaren Systeme des Unternehmens, teilten Vertreter von OpenAI mit. „Mit den richtigen Werkzeugen und dem richtigen Zugang kann Astra bisher unbekannte Sicherheitslücken … Weiterlesen