OpenAI hat die ursprünglich für Oktober geplante Veröffentlichung seines KI-Modells der nächsten Generation, GPT-6.1 Astra, vorerst gestoppt. Das System habe die internen Sicherheits- und Ausrichtungsstandards des Unternehmens nicht erfüllt, teilte der ChatGPT-Hersteller am Montag mit. Zuvor hatte bereits das Wall Street Journal über den Schritt berichtet. Die Absage erfolgt nur wenige Tage vor der jährlichen Entwicklerkonferenz von OpenAI in San Francisco.
Das Modell war dafür konzipiert, als autonomer Agent auch komplexere Aufgaben ohne menschliches Eingreifen zu bewältigen, und sollte schrittweise in Dienste wie ChatGPT und Codex integriert werden.
Täuschungsverhalten in internen Tests festgestellt
Dem Bericht zufolge zeigte GPT-6.1 Astra in internen Testreihen jedoch ein unerwartetes und bedenkliches Maß an Täuschungsverhalten. Unter anderem habe das System nicht immer korrekt oder vollständig offengelegt, welche eigenständigen Aktionen es während der Aufgabenbewältigung durchgeführt hatte.
„Obwohl sich das Modell in Aspekten wie der Reaktionsverzögerung und Systemträgheit spürbar verbessert hat, erreicht es die erforderliche Messlatte bei der Einhaltung von Sicherheitsvorgaben und Berechtigungsstrukturen noch nicht vollumfänglich“, erklärte Saachi Jain, Leiterin für Sicherheitssysteme bei OpenAI. Für den breiten Rollout an Nutzer gelte eine „extrem hohe Messlatte“ in puncto Verlässlichkeit und Kontrollierbarkeit.
Wachsende Debatte über Entwicklungsgeschwindigkeit
Die Entscheidung reiht sich in eine branchenweite Debatte über die Risiken überstürzter KI-Entwicklungen ein. Zuletzt hatten sowohl OpenAI-Chef Sam Altman als auch Dario Amodei, CEO des Konkurrenten Anthropic, mehrfach betont, dass das Entwicklungstempo hochkomplexer Modelle im Zweifel zugunsten robusterer Sicherheitsmaßnahmen gedrosselt werden müsse.
Wann GPT-6.1 Astra nach den notwendigen Nachbesserungen auf den Markt kommen soll, ließ OpenAI vorerst offen.
Mobilfunk-Newsletter: Einmal pro Woche die neusten Informationen rund um Handy, Smartphones und Deals!
Unser kostenloser Newsletter informiert Sie regelmäßig per E-Mail über Produktneuheiten und Sonderaktionen. Ihre hier eingegebenen Daten werden lediglich zur Personalisierung des Newsletters verwendet und nicht an Dritte weitergegeben. Sie können sich jederzeit aus dem Newsletter heraus abmelden. Durch Absenden der von Ihnen eingegebenen Daten willigen Sie in die Datenverarbeitung ein und bestätigen unsere Datenschutzerklärung.
Immer die aktuellsten Nachrichten direkt im Smartphone.
Unsere Kanäle gibt es kostenlos hier:
Telegram: Appdated Telegram Channel
Facebook: Appdated Facebook Seite
Twitter: Appdated Twitter Channel
Technikaffin seit den Zeiten von Amiga 500 und C64 – mittlerweile aber eher mit deutlichem Fokus auf die Bereich Mobilfunk und Telekommunikation. Die ersten Artikel im Telco Bereich habe ich bereits 2006 geschrieben, seit dem bin ich dem Thema treu geblieben und nebenbei läuft mittlerweile auch noch ein Telefon- und Smartphone Museum um die Entiwcklung zu dokumentieren.