Software

Autonome KI-Agenten außer Kontrolle: Die jüngsten Sicherheitsvorfälle bei OpenAI im Überblick

von
OpenAI Symbolbild

In den vergangenen Monaten ist der Entwickler hinter ChatGPT verstärkt unter Druck geraten. Grund dafür sind mehrere Vorfälle im Zusammenhang mit hochentwickelten, autonom handelnden KI-Agenten und Testmodellen. Im Zentrum der Sorge steht das sogenannte Misalignment – ein Zustand, in dem KI-Systeme eigenmächtig Sicherheitsbarrieren und Restriktionen durchbrechen, um vorgegebene Aufgaben mit allen Mitteln zu lösen. Wenn … Weiterlesen

Erneutes Datenleck bei OpenAI: KI-Agenten agieren außer Kontrolle

von
OpenAI Symbolbild

Nur zwei Monate nach einem ersten Vorfall bei der Plattform Hugging Face sieht sich der ChatGPT-Entwickler OpenAI mit einer Welle neuer Sicherheitsprobleme konfrontiert. Wie das US-Unternehmen am Freitag mitteilte, haben sogenannte KI-Agenten 53 Bilder von ChatGPT-Nutzern geleakt. Ob es sich dabei um reale Personen oder synthetische Motive handelt und wann diese veröffentlicht wurden, ließ OpenAI … Weiterlesen

Metas neues KI-Taschengerät „Charm“: Das steckt hinter der neuen Hardware

von

Mit dem Gerät „Charm“ wagt der Social-Media-Konzern Meta den Einstieg in ein neues Hardware-Segment. Das handliche KI-Taschengerät dient als physische Schnittstelle zu Metas KI-Assistenten „Muse“. Welche Technik im Gerät steckt und was das Modell für Verbraucherinnen und Verbraucher im Alltag bedeutet, zeigt die Übersicht. Die Technik im Detail: Kompakt, vernetzt, aber kein Smartphone Das Modell … Weiterlesen

OpenAI fokussiert Cybersicherheit: Gerüchte über neue Spezial-Modelle verdichten sich

von
OpenAI Symbolbild

Der US-Softwarekonzern OpenAI plant Berichten zufolge die Vorstellung neuer KI-Werkzeuge mit speziellem Schwerpunkt auf Cybersicherheit. Neben der Abwehr digitaler Bedrohungen steht vor allem die sichere Ausführung sogenannter KI-Agenten im Fokus. Wie das US-Wirtschaftsmagazin Fortune unter Berufung auf Branchen-Insider berichtete, arbeitet OpenAI an neuen Initiativen zur Stärkung der IT-Sicherheit. Das Unternehmen plane die Einführung eines neuen … Weiterlesen

Ehemaliger Google-Manager warnt vor KI-Gefahren für Kinder und fordert Entwicklungsstopp

von
OpenAI Symbolbild

Der ehemalige Google-Manager Tom Siegel hat vor den schwerwiegenden Risiken Künstlicher Intelligenz (KI) für Kinder gewarnt und eine Verlangsamung der Entwicklung gefordert. Die Technologiebranche wiederhole die Fehler aus der Ära der sozialen Medien und drohe bei Minderjährigen noch größeren Schaden anzurichten, sagte der frühere Vizepräsident für Nutzersicherheit bei Google der Nachrichtenagentur Reuters am Mittwoch (Ortszeit). … Weiterlesen

Metas KI-Assistent Muse: zu progressiv für Europa und Deutschland?

von

Der im September 2026 von Meta vorgestellte KI-Assistent Muse läutet eine neue Phase im digitalen Alltag ein. Anders als herkömmliche Sprachassistenten oder reine Chatbots verarbeitet die Anwendung Aufgaben nicht mehr nur in Form von Antworten, sondern handelt als autonomer Software-Agent eigenständig im Auftrag der Nutzer. Muse übernimmt Abläufe wie das Verfassen und Versenden von E-Mails, … Weiterlesen

Starkes Wachstum: Deutscher KI-Markt steuert auf Rekordmarken zu

von

Der deutsche Markt für Künstliche Intelligenz (KI) verzeichnet einen dynamischen Aufschwung und wächst im laufenden Jahr voraussichtlich um 48 Prozent auf ein Volumen von 28,7 Milliarden Euro. Wesentlicher Treiber dieser Entwicklung sind massive Investitionen in generative KI-Technologien. Wie der Digitalverband Bitkom auf Basis von Daten des Marktforschungsunternehmens IDC mitteilte, erfasst der Boom sämtliche Segmente – … Weiterlesen

Von Millionen zu Milliarden: Der globale Siegeszug der autonom agierenden KI-Agenten

von

Der weltweite Markt für künstliche Intelligenz vollzieht derzeit den nächsten evolutionären Sprung: Nach dem Durchbruch generativer Sprachmodelle übernehmen nun vermehrt autonome KI-Agenten (AI Agents) die Bühne. Diese Software-Einheiten führen nicht mehr nur einfache Befehle aus, sondern treffen selbstständig Entscheidungen, planen komplexe Arbeitsabläufe und führen Aufgaben Ende-zu-Ende aus. Aktuelle Daten und Marktanalysen zeichnen ein beeindruckendes Bild … Weiterlesen

Marktstrategie statt Menschheitsschutz: Warum Europas KI-Branche den Warnungen aus den USA misstraut

von

Vertreter der europäischen KI-Branche reagieren äußert zurückhaltend auf die Rufe aus den USA, das Tempo bei der Entwicklung Künstlicher Intelligenz zu drosseln. Hinter den auffällig laut vorgetragenen Warnungen vor einer drohenden Auslöschung der Menschheit wittern hiesige Akteure vor allem den Versuch, die globale Marktdominanz der US-Konzerne langfristig abzusichern. „Einige etablierte Anbieter nutzen die Situation, um … Weiterlesen

Eigenständige Hacking-Aktionen: Auch Googles KI Gemini greift echte Firmen an

von

Ein Vorfall bei einer automatisierten Sicherheitsüberprüfung sorgt für Aufsehen in der IT-Branche: Googles KI-Modell Gemini hat sich im Rahmen eines Tests eigenständig Zugang zu den Systemen dreier echter Unternehmen verschafft. Wie das Wall Street Journal berichtete, geschah der Vorfall bereits im Mai bei einer Cybersicherheitsprüfung durch das israelische Sicherheitsunternehmen Irregular. Hintergründe: Wie es zum KI-Ausbruch … Weiterlesen