Nach brisanten Enthüllungen über KI-Modelle, die eigenständig Sicherheitssysteme überwunden haben, wächst der Druck auf die Entwickler. Die US-Regierung beraumt kurzfristig freiwillige Sicherheitstests an.
Die US-Regierung hat Insidern zufolge die führenden Technologiekonzerne Meta, Anthropic, OpenAI und Google für Dienstag zu einem Spitzentreffen ins Weiße Haus eingeladen. Im Zentrum der Gespräche stehen freiwillige Sicherheitstests für die fortschrittlichsten US-Modelle für Künstliche Intelligenz (KI), wie drei mit der Angelegenheit vertraute Personen bestätigten.
Sorge vor Cyberangriffen durch autonome KI
Hintergrund der Eil-Einladung sind jüngste Eingeständnisse von Anthropic und OpenAI: Beides führende Unternehmen im Bereich der generativen KI räumten ein, dass ihre Werkzeuge in die Systeme anderer Firmen eingedrungen sind. Dies schürte bei US-Gesetzgebern massiv die Sorge, dass immer leistungsfähigere KI-Modelle künftig gezielt für gravierende Cyberangriffe missbraucht werden könnten – oder sich unkontrolliert verselbstständigen.
Die Enthüllungen der vergangenen Tage sorgten in Washington für erhebliche Unruhe:
- Anthropic hatte in der vergangenen Woche mitgeteilt, dass einige seiner KI-Modelle bei internen Tests die Systeme von drei Unternehmen gehackt hätten.
- OpenAI hatte zuvor berichtet, dass einer seiner KI-Agenten aus einer isolierten Testumgebung („Sandbox“) ausgebrochen sei und dabei das bekannte KI-Unternehmen Hugging Face gehackt habe.
Politik schaltet sich ein – Juristischer Druck auf OpenAI wächst
Die Vorfälle riefen umgehend die Politik auf den Plan. Eine Gruppe von 15 republikanischen Generalstaatsanwälten forderte OpenAI schriftlich dazu auf, alle potenziell relevanten Dokumente im Zusammenhang mit dem Vorfall lückenlos aufzubewahren. Es bestehe der Verdacht, dass das Unternehmen gegen Verbraucherschutzgesetze der Bundesstaaten verstoßen habe. Parallel dazu forderte der Cybersicherheitsausschuss des US-Repräsentantenhauses OpenAI-Chef Sam Altman zu einer offiziellen Unterrichtung über den Vorfall auf.
Weißes Haus finalisiert Testkriterien
Ein Vertreter des Weißen Hauses erklärte, dass die Regierung die Einzelheiten der freiwilligen Tests zur Messung der Hacking-Fähigkeiten der fortschrittlichsten amerikanischen KI-Modelle fertiggestellt habe. Konkrete Details – etwa wie die Testergebnisse gemeldet werden müssen oder ob diese der Öffentlichkeit zugänglich gemacht werden – nannte das Weiße Haus bislang jedoch nicht.
OpenAI-Chef Altman hatte bereits im Vorfeld das Weiße Haus besucht, um Vorbereitungen für die Tests sowie kommende KI-Produkte zu besprechen. Das Unternehmen habe die US-Regierung dabei gebeten, insbesondere die KI-Sicherheitsexperten des US-Handelsministeriums in das Zentrum des Testverfahrens zu stellen.
Mobilfunk-Newsletter: Einmal pro Woche die neusten Informationen rund um Handy, Smartphones und Deals!
Unser kostenloser Newsletter informiert Sie regelmäßig per E-Mail über Produktneuheiten und Sonderaktionen. Ihre hier eingegebenen Daten werden lediglich zur Personalisierung des Newsletters verwendet und nicht an Dritte weitergegeben. Sie können sich jederzeit aus dem Newsletter heraus abmelden. Durch Absenden der von Ihnen eingegebenen Daten willigen Sie in die Datenverarbeitung ein und bestätigen unsere Datenschutzerklärung.
Immer die aktuellsten Nachrichten direkt im Smartphone.
Unsere Kanäle gibt es kostenlos hier:
Telegram: Appdated Telegram Channel
Facebook: Appdated Facebook Seite
Twitter: Appdated Twitter Channel
Technikaffin seit den Zeiten von Amiga 500 und C64 – mittlerweile aber eher mit deutlichem Fokus auf die Bereich Mobilfunk und Telekommunikation. Die ersten Artikel im Telco Bereich habe ich bereits 2006 geschrieben, seit dem bin ich dem Thema treu geblieben und nebenbei läuft mittlerweile auch noch ein Telefon- und Smartphone Museum um die Entiwcklung zu dokumentieren.