OpenAI

OpenAI warnt vor KI-Modell „Astra“: Höchste Sicherheitsstufe erstmals ausgelöst

von
OpenAI Symbolbild

Das KI-Unternehmen OpenAI hat ein kommendes Modell als so leistungsfähig eingestuft, dass es vor einer Veröffentlichung zusätzliche Sicherheitsmaßnahmen erfordert. Das Modell mit dem Namen Astra könne mehr Sicherheitslücken aufspüren als die derzeit fortschrittlichsten verfügbaren Systeme des Unternehmens, teilten Vertreter von OpenAI mit. „Mit den richtigen Werkzeugen und dem richtigen Zugang kann Astra bisher unbekannte Sicherheitslücken … Weiterlesen

Vorwurf des Spionage-Verdachts: Apple legt neue Beweise im Rechtsstreit gegen OpenAI vor

von
OpenAI Symbolbild

Der US-Technologiekonzern Apple hat seine Vorwürfe wegen des Diebstahls von Geschäftsgeheimnissen gegen den ChatGPT-Entwickler OpenAI verschärft. Laut einem am Montag bei einem US-Bundesgericht in Kalifornien eingereichten Schriftsatz beschuldigt Apple einen ehemaligen leitenden Elektroingenieur, vertrauliche Hardware-Schaltpläne des iPhone-Herstellers genutzt zu haben, um bei seinem neuen Arbeitgeber OpenAI ein System der Künstlichen Intelligenz (KI) zu trainieren. Neue … Weiterlesen

Nach Hack durch KI-Agenten: OpenAI zieht die Notbremse bei der Modellentwicklung

von
OpenAI Symbolbild

Der ChatGPT-Entwickler OpenAI bremst nach einem beispiellosen Zwischenfall die Entwicklung seiner fortgeschrittenen KI-Modelle ab. Wie das Unternehmen am Dienstag mitteilte, wurden Modelltests vorübergehend für zwei Wochen pausiert, während Forschungs- und Trainingsumgebungen grundlegend überarbeitet werden.Hintergrund ist ein Vorfall aus dem Juli, bei dem ein autonom arbeitender KI-Agent während eines internen Sicherheitstests aus seiner Testumgebung ausbrach und … Weiterlesen

Sicherheitsbedenken: OpenAI stoppt Arbeit an neuem Modell „Astra“

von
OpenAI Symbolbild

Der US-KI-Entwickler OpenAI hat die interne Entwicklung seines nächsten Flaggschiff-Modells „Astra“ teilweise ausgesetzt.Grund dafür ist das Erreichen der höchsten Warnstufe im firmeneigenen Sicherheitsrahmen (Preparedness Framework).Wie das Unternehmen bekannt gab, kann nach ersten internen Tests nicht mehr ausgeschlossen werden, dass das Modell sogenannte „kritische“ Fähigkeiten im Bereich der Cybersicherheit aufweist. Höchste Risikostufe im Sicherheitskonzept Nach den … Weiterlesen

OpenAI öffnet ChatGPT: Unbegrenzte Text-Chats und GPT-5.6 Luna für Gratis-Nutzer

von

OpenAI baut den Zugang zu ChatGPT grundlegend um und gewährt kostenlosen Nutzerkonten deutlich mehr Spielraum. Im Zentrum der Umstellung steht die Einführung des neuen, effizienten KI-Modells GPT-5.6 Luna, das schrittweise für alle Free- und Go-User ausgerollt wird. Unbegrenzter Text-Zugang und neuer „Think“-Button Mit dem Update entfallen die bisher strikten Nachrichtenlimits für reine Textinteraktionen bei der … Weiterlesen

KI-Sicherheit im Fokus: Weißes Haus zitiert Tech-Riesen nach Cyber-Vorfällen zum Krisengipfel

von

Nach brisanten Enthüllungen über KI-Modelle, die eigenständig Sicherheitssysteme überwunden haben, wächst der Druck auf die Entwickler. Die US-Regierung beraumt kurzfristig freiwillige Sicherheitstests an. Die US-Regierung hat Insidern zufolge die führenden Technologiekonzerne Meta, Anthropic, OpenAI und Google für Dienstag zu einem Spitzentreffen ins Weiße Haus eingeladen. Im Zentrum der Gespräche stehen freiwillige Sicherheitstests für die fortschrittlichsten … Weiterlesen

Nach Ausbruch bei Hugging Face: OpenAI untersucht weitere Angriffe durch KI-Agenten

von
OpenAI Symbolbild

OpenAI hat Insidern zufolge weitere Fälle entdeckt, in denen autonome KI-Agenten aus vermeintlich isolierten Testumgebungen ausgebrochen sind. Dies kam im Zuge der Untersuchungen des aufsehenerregenden Cybervorfalls beim KI-Entwicklerportal Hugging Face ans Licht. Das Unternehmen prüft die neuen Vorkommnisse nun intensiv, betont jedoch das begrenzte Ausmaß: Nach derzeitigem Kenntnisstand hat keiner der Agenten das Unternehmensnetzwerk von … Weiterlesen

Nach Hugging-Face-Hack: Außer Kontrolle geratener OpenAI-Agent betrifft auch Modal-Labs-Kunden

von
OpenAI Symbolbild

Der außer Kontrolle geratene KI-Agent von OpenAI, der für den Hackerangriff auf die Plattform Hugging Face verantwortlich gemacht wird, hat die Systeme eines weiteren Technologieunternehmens beeinträchtigt. Das geht aus Äußerungen von Akshat Bubna, Chief Technology Officer des New Yorker Anbieters Modal Labs, sowie aus Informationen zweier mit der Angelegenheit vertrauter Personen vom Freitag hervor. Nach … Weiterlesen

Gigantisches KI-Projekt: Nvidia verhandelt über 250-Milliarden-Dollar-Garantie für OpenAI

von

Der Chipkonzern Nvidia greift dem ChatGPT-Entwickler OpenAI offenbar bei einem historischen Infrastrukturprojekt unter die Arme. Nach Informationen des Wall Street Journal verhandelt Nvidia über eine Finanzierungsgarantie in Höhe von 250 Milliarden US-Dollar. Die Summe soll OpenAI das Leasing eines gigantischen Rechenzentren-Komplexes im US-Bundesstaat Ohio ermöglichen. Zehn Gigawatt für die Super-KI Das Mega-Projekt sieht den Bau … Weiterlesen

Sicherheitsvorfall bei OpenAI: KI-Ausbruch wurde tagelang nicht bemerkt

von
OpenAI Symbolbild

Ein Vorfall wirft Fragen bezüglich der Sicherheitsarchitektur und Überwachung autonomer Systeme bei OpenAI auf: Ein KI-Agent hat über mehrere Tage hinweg ein fremdes Unternehmensnetzwerk penetriert und gehackt. Berichten zufolge bemerkte der ChatGPT-Entwickler das ungewöhnliche Verhalten seines eigenen Systems erst eine Woche später. Tagelange Angriffe ohne automatische Warnsignale Wie die Nachrichtenagentur Reuters unter Berufung auf primäre … Weiterlesen