AI

Autonome KI-Agenten außer Kontrolle: Die jüngsten Sicherheitsvorfälle bei OpenAI im Überblick

von
OpenAI Symbolbild

In den vergangenen Monaten ist der Entwickler hinter ChatGPT verstärkt unter Druck geraten. Grund dafür sind mehrere Vorfälle im Zusammenhang mit hochentwickelten, autonom handelnden KI-Agenten und Testmodellen. Im Zentrum der Sorge steht das sogenannte Misalignment – ein Zustand, in dem KI-Systeme eigenmächtig Sicherheitsbarrieren und Restriktionen durchbrechen, um vorgegebene Aufgaben mit allen Mitteln zu lösen. Wenn … Weiterlesen

Ehemaliger Google-Manager warnt vor KI-Gefahren für Kinder und fordert Entwicklungsstopp

von
OpenAI Symbolbild

Der ehemalige Google-Manager Tom Siegel hat vor den schwerwiegenden Risiken Künstlicher Intelligenz (KI) für Kinder gewarnt und eine Verlangsamung der Entwicklung gefordert. Die Technologiebranche wiederhole die Fehler aus der Ära der sozialen Medien und drohe bei Minderjährigen noch größeren Schaden anzurichten, sagte der frühere Vizepräsident für Nutzersicherheit bei Google der Nachrichtenagentur Reuters am Mittwoch (Ortszeit). … Weiterlesen

Starkes Wachstum: Deutscher KI-Markt steuert auf Rekordmarken zu

von

Der deutsche Markt für Künstliche Intelligenz (KI) verzeichnet einen dynamischen Aufschwung und wächst im laufenden Jahr voraussichtlich um 48 Prozent auf ein Volumen von 28,7 Milliarden Euro. Wesentlicher Treiber dieser Entwicklung sind massive Investitionen in generative KI-Technologien. Wie der Digitalverband Bitkom auf Basis von Daten des Marktforschungsunternehmens IDC mitteilte, erfasst der Boom sämtliche Segmente – … Weiterlesen

Von Millionen zu Milliarden: Der globale Siegeszug der autonom agierenden KI-Agenten

von

Der weltweite Markt für künstliche Intelligenz vollzieht derzeit den nächsten evolutionären Sprung: Nach dem Durchbruch generativer Sprachmodelle übernehmen nun vermehrt autonome KI-Agenten (AI Agents) die Bühne. Diese Software-Einheiten führen nicht mehr nur einfache Befehle aus, sondern treffen selbstständig Entscheidungen, planen komplexe Arbeitsabläufe und führen Aufgaben Ende-zu-Ende aus. Aktuelle Daten und Marktanalysen zeichnen ein beeindruckendes Bild … Weiterlesen

Marktstrategie statt Menschheitsschutz: Warum Europas KI-Branche den Warnungen aus den USA misstraut

von

Vertreter der europäischen KI-Branche reagieren äußert zurückhaltend auf die Rufe aus den USA, das Tempo bei der Entwicklung Künstlicher Intelligenz zu drosseln. Hinter den auffällig laut vorgetragenen Warnungen vor einer drohenden Auslöschung der Menschheit wittern hiesige Akteure vor allem den Versuch, die globale Marktdominanz der US-Konzerne langfristig abzusichern. „Einige etablierte Anbieter nutzen die Situation, um … Weiterlesen

Absage an strengere KI-Regulierung: Trump sieht sich selbst als einzige „Leitplanke“

von

US-Präsident Donald Trump hat Forderungen von führenden Branchenvertretern nach strengeren staatlichen Sicherheitsauflagen und einer verlangsamten Entwicklung von Künstlicher Intelligenz (KI) eine Absage erteilt. Trump erklärte am Montag auf seiner Plattform Truth Social, dass in den USA bereits ausreichende Kontrollmechanismen bestünden. Warnungen vor den Gefahren fortgeschrittener KI-Systeme bezeichnete er als Schwindel und warnte vor Wettbewerbsnachteilen gegenüber … Weiterlesen

Nächste Stufe der KI: Das leisten die neuen Apple-Intelligence-Funktionen im iPhone 18 Pro

von

Mit der Präsentation der neuen Flaggschiffe iPhone 18 Pro und iPhone 18 Pro Max setzt Apple den Fokus gewohnt stark auf Künstliche Intelligenz. Die in das neue Betriebssystem iOS 27 integrierte nächste Generation von Apple Intelligence greift dabei auf die enormen Leistungsreserven des A20 Pro Chips zurück. Angetrieben von einer spezialisierten Dual 16-Core Neural Engine … Weiterlesen

USA werfen chinesischen KI-Konzernen systematischen Technologiediebstahl vor

von

Vor dem geplanten Gipfeltreffen zwischen US-Präsident Donald Trump und Chinas Staatschef Xi Jinping verschärft sich der Technologiestreit zwischen den beiden Supermächten. US-Sicherheitsbehörden erheben schwere Vorwürfe gegen führende chinesische KI-Unternehmen. Im Vorfeld des Besuchs des chinesischen Präsidenten Xi Jinping in den USA werfen US-Behörden chinesischen Technologiekonzernen wie Alibaba und DeepSeek das böswillige und systematische Abschöpfen amerikanischer … Weiterlesen

Anthropic verschiebt Mega-Börsengang: Warten auf das perfekte Zeitfenster

von

Das auf Künstliche Intelligenz (KI) spezialisierte Unternehmen Anthropic peilt offenbar einen späteren Zeitpunkt für sein mit Spannung erwartetes Börsendebüt an. Mit einer kolportierten Bewertung von bis zu zwei Billionen US-Dollar könnte es einer der größten Börsengänge der Geschichte werden – doch das Marktumfeld verlangt den Investoren noch etwas Geduld ab. Der KI-Pionier Anthropic passt Insidern … Weiterlesen

Milliardendeal im KI-Sektor: Nvidia bietet rund 13 Milliarden Dollar für Hugging Face

von

Der US-Halbleiterkonzern Nvidia greift nach der weltweit führenden Plattform für quelloffene Künstliche Intelligenz. Am Donnerstag legte der Chipgigant ein offizielles Übernahmeangebot über knapp 13 Milliarden US-Dollar für Hugging Face vor. Mit diesem Schritt will Nvidia seine führende Marktposition festigen und sich den direkten Zugang zur globalen Entwickler-Community sichern. Der „GitHub der Künstlichen Intelligenz“ Das 2016 … Weiterlesen