Astra

OpenAI warnt vor KI-Modell „Astra“: Höchste Sicherheitsstufe erstmals ausgelöst

von
OpenAI Symbolbild

Das KI-Unternehmen OpenAI hat ein kommendes Modell als so leistungsfähig eingestuft, dass es vor einer Veröffentlichung zusätzliche Sicherheitsmaßnahmen erfordert. Das Modell mit dem Namen Astra könne mehr Sicherheitslücken aufspüren als die derzeit fortschrittlichsten verfügbaren Systeme des Unternehmens, teilten Vertreter von OpenAI mit. „Mit den richtigen Werkzeugen und dem richtigen Zugang kann Astra bisher unbekannte Sicherheitslücken … Weiterlesen

Sicherheitsbedenken: OpenAI stoppt Arbeit an neuem Modell „Astra“

von
OpenAI Symbolbild

Der US-KI-Entwickler OpenAI hat die interne Entwicklung seines nächsten Flaggschiff-Modells „Astra“ teilweise ausgesetzt.Grund dafür ist das Erreichen der höchsten Warnstufe im firmeneigenen Sicherheitsrahmen (Preparedness Framework).Wie das Unternehmen bekannt gab, kann nach ersten internen Tests nicht mehr ausgeschlossen werden, dass das Modell sogenannte „kritische“ Fähigkeiten im Bereich der Cybersicherheit aufweist. Höchste Risikostufe im Sicherheitskonzept Nach den … Weiterlesen