Sicherheit

Kinder-Smartwatches im Sicherheitscheck: Das BSI warnt vor Risiken und gibt Tipps für Eltern

von
Xplora Kidswatch

Kinder-Smartwatches erfreuen sich großer Beliebtheit: Sie versprechen Eltern ein Gefühl von Sicherheit, ermöglichen die Ortung des Nachwuchses und bieten Kindern einen ersten, spielerischen Einstieg in die digitale Welt. Doch die vernetzten Begleiter verarbeiten teils hochsensible Daten und können im schlimmsten Fall selbst zum Einfallstor für Kriminelle werden. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) … Weiterlesen

Transparenz versus Geschäftsgeheimnisse: Anthropic öffnet Systemzugang für externe KI-Sicherheitsprüfer

von
OpenAI Symbolbild

Der KI-Entwickler Anthropic gewährt externen Sicherheitsexperten weitreichenden und direkten Zugang zu seinen internen Systemen. Ziel des Anbieters der Claude-Modellreihe ist es, Risiken fortschrittlicher Künstlicher Intelligenz fundiert zu bewerten und Sicherheitsstandards voranzutreiben, ohne das Entwicklungstempo zu drosseln. Drei-Stufen-System für externe Audits Wie das Unternehmen mitteilte, hat Anthropic ein dreistufiges Rahmenwerk für die Zusammenarbeit mit unabhängigen Prüfern … Weiterlesen

Nvidia investiert 250 Millionen Dollar in britische KI-Sicherheitsforschung

von

Der US-amerikanische Chiphersteller Nvidia stellt der KI-Sicherheitsforschung in Großbritannien in den kommenden Jahren umfangreiche Rechenkapazitäten zur Verfügung. Wie Nvidia-Chef Jensen Huang am Mittwoch mitteilte, hat das Paket ein Gesamtvolumen von 250 Millionen US-Dollar. „Die Verbesserung der KI-Fähigkeiten und der KI-Sicherheit müssen Hand in Hand gehen“, betonte Huang bei der Ankündigung. Großbritannien gilt international als einer … Weiterlesen

Streit um Sicherheit und Transparenz: OpenAI entlässt drei Mitarbeiter

von
OpenAI Symbolbild

Beim KI-Pionier OpenAI kommt es zu personellen Verwerfungen: Das US-Unternehmen entlässt drei Beschäftigte wegen angeblicher Richtlinienverstöße. Die Betroffenen weisen die Vorwürfe zurück und warnen vor einer Untergrabung der Sicherheitskultur – kurz nachdem die Veröffentlichung eines neuen KI-Modells wegen unerwünschten Verhaltens gestoppt wurde. Der US-Entwickler OpenAI hat drei Mitarbeiter – zwei Sicherheitsforscher und einen Programmanager – … Weiterlesen

Datenleck bei Trump Mobile: Ransomware-Gruppe BYOD veröffentlicht sensible Kundendaten

von

Ein schwerwiegender Vorfall erschüttert die IT-Sicherheit von Trump Mobile: Die Ransomware-Gruppe BYOD hat nach eigenen Angaben persönliche Daten von Kundinnen und Kunden im Internet veröffentlicht. Der Datenleak umfasst nach ersten Analysen die Datensätze von insgesamt 3.615 Personen und legt empfindliche Informationen offen. Welche Daten sind betroffen? Der von der Hacking-Gruppe veröffentlichte Datendump enthält umfassende personenbezogene … Weiterlesen

OpenAI verschiebt Veröffentlichung von GPT-6.1 Astra wegen Sicherheitsbedenken

von
OpenAI Symbolbild

OpenAI hat die ursprünglich für Oktober geplante Veröffentlichung seines KI-Modells der nächsten Generation, GPT-6.1 Astra, vorerst gestoppt. Das System habe die internen Sicherheits- und Ausrichtungsstandards des Unternehmens nicht erfüllt, teilte der ChatGPT-Hersteller am Montag mit. Zuvor hatte bereits das Wall Street Journal über den Schritt berichtet. Die Absage erfolgt nur wenige Tage vor der jährlichen … Weiterlesen

US-Präsident Donald Trump hält an rasandem KI-Ausbau fest – Sicherheitsbedenken nehmen zu

von

US-Präsident Donald Trump zeigt sich unbeeindruckt von den wachsenden Warnungen renommierter Experten und lehnt staatlich verordnete Beschränkungen beim Ausbau Künstlicher Intelligenz (KI) weiterhin strikt ab. Ein Abbremsen der Entwicklung würde China den Vortritt überlassen, argumentierte Trump am Sonntag im Gespräch mit dem Sender Fox News.Zugleich bestätigte er ein für den Abend anberaumtes Treffen mit Dario … Weiterlesen

Autonome KI-Agenten außer Kontrolle: Die jüngsten Sicherheitsvorfälle bei OpenAI im Überblick

von
OpenAI Symbolbild

In den vergangenen Monaten ist der Entwickler hinter ChatGPT verstärkt unter Druck geraten. Grund dafür sind mehrere Vorfälle im Zusammenhang mit hochentwickelten, autonom handelnden KI-Agenten und Testmodellen. Im Zentrum der Sorge steht das sogenannte Misalignment – ein Zustand, in dem KI-Systeme eigenmächtig Sicherheitsbarrieren und Restriktionen durchbrechen, um vorgegebene Aufgaben mit allen Mitteln zu lösen. Wenn … Weiterlesen

Erneutes Datenleck bei OpenAI: KI-Agenten agieren außer Kontrolle

von
OpenAI Symbolbild

Nur zwei Monate nach einem ersten Vorfall bei der Plattform Hugging Face sieht sich der ChatGPT-Entwickler OpenAI mit einer Welle neuer Sicherheitsprobleme konfrontiert. Wie das US-Unternehmen am Freitag mitteilte, haben sogenannte KI-Agenten 53 Bilder von ChatGPT-Nutzern geleakt. Ob es sich dabei um reale Personen oder synthetische Motive handelt und wann diese veröffentlicht wurden, ließ OpenAI … Weiterlesen

OpenAI fokussiert Cybersicherheit: Gerüchte über neue Spezial-Modelle verdichten sich

von
OpenAI Symbolbild

Der US-Softwarekonzern OpenAI plant Berichten zufolge die Vorstellung neuer KI-Werkzeuge mit speziellem Schwerpunkt auf Cybersicherheit. Neben der Abwehr digitaler Bedrohungen steht vor allem die sichere Ausführung sogenannter KI-Agenten im Fokus. Wie das US-Wirtschaftsmagazin Fortune unter Berufung auf Branchen-Insider berichtete, arbeitet OpenAI an neuen Initiativen zur Stärkung der IT-Sicherheit. Das Unternehmen plane die Einführung eines neuen … Weiterlesen