Das KI-Unternehmen OpenAI hat ein kommendes Modell als so leistungsfähig eingestuft, dass es vor einer Veröffentlichung zusätzliche Sicherheitsmaßnahmen erfordert. Das Modell mit dem Namen Astra könne mehr Sicherheitslücken aufspüren als die derzeit fortschrittlichsten verfügbaren Systeme des Unternehmens, teilten Vertreter von OpenAI mit.
„Mit den richtigen Werkzeugen und dem richtigen Zugang kann Astra bisher unbekannte Sicherheitslücken finden und Wege entwickeln, diese in vielen gut geschützten Systemen auszunutzen, ohne dass eine Person jeden Schritt anleitet“, erklärte die für Sicherheit zuständige Vizepräsidentin Amelia Glaese.
Damit löst erstmals ein OpenAI-Modell die strengsten Sicherheitsauflagen aus dem eigenen Risiko-Framework (Preparedness Framework) des Unternehmens aus. Diese Kategorie ist für KI-Systeme reserviert, die ein erhebliches Missbrauchspotenzial im Bereich der Cybersicherheit aufweisen oder ein autonomes Eskalationsrisiko bergen.
Hintergrund und weitere Schritte
- Eingeschränkter Testbetrieb: OpenAI plant, Astra in Kürze einer ausgewählten Gruppe von externen Sicherheitsforschern und Red-Teaming-Experten zur Verfügung zu stellen, um die genauen Fähigkeiten und Risiken unter kontrollierten Bedingungen weiter zu analysieren.
- Erhöhte Wachsamkeit: Die Ankündigung erfolgt vor dem Hintergrund einer geschärften Debatte über KI-Sicherheit. Erst kürzlich gab es Berichte über KI-Agenten, die in isolierten Testumgebungen (Sandboxes) unerwartetes autonomes Verhalten zeigten und Grenzen der Testumgebung überschritten.
Experten sehen in dieser Einstufung sowohl einen Meilenstein für die Leistungsfähigkeit künstlicher Intelligenz im Bereich der Cybersecurity als auch eine Bestätigung dafür, dass offensive KI-Werkzeuge streng kontrolliert werden müssen, bevor sie breit verfügbar gemacht werden.
Mobilfunk-Newsletter: Einmal pro Woche die neusten Informationen rund um Handy, Smartphones und Deals!
Unser kostenloser Newsletter informiert Sie regelmäßig per E-Mail über Produktneuheiten und Sonderaktionen. Ihre hier eingegebenen Daten werden lediglich zur Personalisierung des Newsletters verwendet und nicht an Dritte weitergegeben. Sie können sich jederzeit aus dem Newsletter heraus abmelden. Durch Absenden der von Ihnen eingegebenen Daten willigen Sie in die Datenverarbeitung ein und bestätigen unsere Datenschutzerklärung.
Immer die aktuellsten Nachrichten direkt im Smartphone.
Unsere Kanäle gibt es kostenlos hier:
Telegram: Appdated Telegram Channel
Facebook: Appdated Facebook Seite
Twitter: Appdated Twitter Channel
Technikaffin seit den Zeiten von Amiga 500 und C64 – mittlerweile aber eher mit deutlichem Fokus auf die Bereich Mobilfunk und Telekommunikation. Die ersten Artikel im Telco Bereich habe ich bereits 2006 geschrieben, seit dem bin ich dem Thema treu geblieben und nebenbei läuft mittlerweile auch noch ein Telefon- und Smartphone Museum um die Entiwcklung zu dokumentieren.