Der ehemalige Google-Manager Tom Siegel hat vor den schwerwiegenden Risiken Künstlicher Intelligenz (KI) für Kinder gewarnt und eine Verlangsamung der Entwicklung gefordert. Die Technologiebranche wiederhole die Fehler aus der Ära der sozialen Medien und drohe bei Minderjährigen noch größeren Schaden anzurichten, sagte der frühere Vizepräsident für Nutzersicherheit bei Google der Nachrichtenagentur Reuters am Mittwoch (Ortszeit). Die Risiken reichten von Suizid und Psychosen bis hin zu einer Abnahme des kritischen Denkens (auch als Cognitive Offloading bezeichnet). Siegel übernimmt die Leitung des neu gegründeten „Youth AI Safety Institute“ der Kinderschutzorganisation Common Sense Media und fordert sofortige Schutzmaßnahmen.
Unabhängige Prüfstandards nach dem Vorbild von Crashtests
Ziel des neuen Instituts unter Siegels Führung ist es, unabhängige Sicherheitsstandards zu etablieren, mit denen KI-Anwendungen ähnlich wie Autos bei einem Crashtest objektiv auf Risiken für Kinder und Jugendliche geprüft werden.
Laut Siegel sollten führende Entwickler wie Anthropic und OpenAI strengere Altersüberprüfungen durchsetzen, um Minderjährige vor ungeeigneten Chatbot-Inhalten zu schützen. Seinem früheren Arbeitgeber Google legt er nahe, eine einfache Abschaltfunktion für die KI-Übersichten (AI Overviews) in der Suchmaschine zu integrieren – ähnlich den bereits bestehenden Filtern für explizite Inhalte. Zwar könnten solche Schritte kurzfristig Gewinne beeinträchtigen, doch drohten untätigen Firmen langwierige Klagen und strenge Regulierungen. Betreiber sozialer Medien zahlen bereits heute hohe Summen wegen angeblicher Schäden bei jungen Nutzern.
hinkende Regulierung und rechtliche Präzedenzfälle
Die gesetzliche Regulierung hinkt dem rasanten Tempo der KI-Entwicklung hinterher. Wie brisant das Thema ist, zeigte bereits im vergangenen Jahr ein Reuters-Bericht über ein internes Dokument von Meta [META.O]. Demnach hatten Bedenken, dass Chatbots Kinder in romantische Gespräche verwickeln könnten, eine offizielle Untersuchung des US-Kongresses ausgelöst.
Ein Sprecher von Google teilte mit, Eltern könnten den Zugang zur Suchmaschine für ihre Kinder vollständig sperren; zudem durchliefen die eigenen Werkzeuge strenge Tests. OpenAI erklärte, man nutze neben dem angegebenen Alter auch Verhaltenssignale, um Minderjährige zu identifizieren. Anthropic äußerte sich zunächst nicht, gehört aber wie die OpenAI-Stiftung zu den Unterstützern von Siegels neuem Institut. Siegel, der von 2004 bis 2019 bei Google tätig war und zuletzt das Sicherheits-Start-up TrustLab leitete, will nun gemeinsam mit den Unternehmen verbindliche Kriterien für den Jugendschutz in der KI entwickeln.
Mobilfunk-Newsletter: Einmal pro Woche die neusten Informationen rund um Handy, Smartphones und Deals!
Unser kostenloser Newsletter informiert Sie regelmäßig per E-Mail über Produktneuheiten und Sonderaktionen. Ihre hier eingegebenen Daten werden lediglich zur Personalisierung des Newsletters verwendet und nicht an Dritte weitergegeben. Sie können sich jederzeit aus dem Newsletter heraus abmelden. Durch Absenden der von Ihnen eingegebenen Daten willigen Sie in die Datenverarbeitung ein und bestätigen unsere Datenschutzerklärung.
Immer die aktuellsten Nachrichten direkt im Smartphone.
Unsere Kanäle gibt es kostenlos hier:
Telegram: Appdated Telegram Channel
Facebook: Appdated Facebook Seite
Twitter: Appdated Twitter Channel
Technikaffin seit den Zeiten von Amiga 500 und C64 – mittlerweile aber eher mit deutlichem Fokus auf die Bereich Mobilfunk und Telekommunikation. Die ersten Artikel im Telco Bereich habe ich bereits 2006 geschrieben, seit dem bin ich dem Thema treu geblieben und nebenbei läuft mittlerweile auch noch ein Telefon- und Smartphone Museum um die Entiwcklung zu dokumentieren.