In einem historischen Schulterschluss haben das Oberhaupt der katholischen Kirche und einer der führenden Köpfe der Silicon-Valley-Tech-Szene vor den unkontrollierten Gefahren der Künstlichen Intelligenz (KI) gewarnt. Bei der feierlichen Vorstellung der ersten Enzyklika von Papst Leo XIV. am Montag im Vatikan nahmen beide Seiten die mächtigen Technologiekonzerne in die Pflicht und forderten eine umfassende gesellschaftliche Kontrolle.
Der Mitbegründer des KI-Unternehmens Anthropic, Chris Olah, betonte als einziger geladener Vertreter der Tech-Branche, dass man die Entwicklung dieser tiefgreifenden Technologie keinesfalls den beteiligten Konzernen allein überlassen dürfe. Religionsvertreter, Regierungen und die Zivilgesellschaft müssten dringend und aktiv in die Regulierung eingebunden werden.
Inhaltsverzeichnis
Kommerzieller und geopolitischer Druck hebelt Gemeinwohl aus
Olah, dessen Unternehmen die bekannte KI-Software Claude entwickelt, legte eine überraschend kritische Beichte über die internen Mechanismen der Tech-Branche ab. Er legte offen, dass jedes führende KI-Labor unter massiven Zwängen agiere:
„Der Druck, kommerziell lebensfähig und an der Forschungsgrenze zu bleiben, sowie geopolitische Spannungen und schlicht Ehrgeiz können im Widerspruch dazu stehen, das Richtige zu tun.“
Aus diesem Grund sei eine aufmerksame, kritische Überprüfung von außen unerlässlich. Olah warnte zudem vor einer „realen Möglichkeit“, dass KI-Systeme menschliche Arbeit in einem historisch beispiellosen Ausmaß verdrängen könnten. Die Unterstützung der betroffenen Arbeitnehmer werde zu einer „moralischen Imperative von historischen Ausmaßen“.
Papst fordert Entschleunigung und KI-Entwaffnung
Das neue päpstliche Lehrschreiben trägt den Titel „Magnifica Humanitas“ (Die großartige Menschheit) und widmet sich im Untertitel der „Bewahrung des Menschen im Zeitalter der Künstlichen Intelligenz“. Papst Leo XIV. nutzte das Dokument für einen dringenden Appell an die Weltgemeinschaft, das Tempo der technologischen Entwicklung aktiv zu drosseln. In einer Welt, in der sich alles beschleunige, brauche es mutiges politisches Engagement, um innezuhalten.
Der Papst warnte eindringlich vor den aktuellen gesellschaftlichen und militärischen Folgen von KI-Systemen:
- Desinformation und Spaltung: Die Technologie erleichtere die massenhafte Verbreitung von Falschinformationen und bedrohe die Wahrheit.
- Gefahr endloser Kriege: Algorithmen könnten die Welt in unkontrollierbare Konflikte stürzen.
- Militärische Ethik: Leo XIV. forderte eine strikte, völkerrechtliche Grenze für den Einsatz von KI beim Militär. Es sei moralisch absolut unzulässig, Maschinen autonom über Leben und Tod von Menschen entscheiden zu lassen.
Die drei drängendsten Baustellen der KI-Entwicklung
Der Anthropic-Mitgründer Olah untermauerte die moralischen Forderungen des Papstes mit drei konkreten Kernbereichen, die von der Wissenschaft und Politik sofortige Aufmerksamkeit verlangen:
- Massenhafter Arbeitsplatzverlust: Die Abfederung der wirtschaftlichen Folgen für Millionen Arbeitnehmer weltweit.
- Gerechte Verteilung: Sicherstellung, dass die enormen Vorteile und Profite der KI-Revolution nicht nur wenigen Konzernen, sondern der gesamten Menschheit zugutekommen.
- Die „Black Box“ der Systeme: Die ungelöste wissenschaftliche Frage, wie das zunehmend komplexe, oft unvorhersehbare Verhalten moderner KI-Modelle überhaupt interpretiert und verstanden werden kann.
Hintergrund: Wer ist Anthropic?
Die Präsenz von Chris Olah im Vatikan besitzt hohe Symbolkraft. Olah hatte das US-Unternehmen Anthropic im Jahr 2021 gemeinsam mit anderen führenden KI-Experten gegründet. Die Gründer waren zuvor geschlossen aus dem ChatGPT-Entwicklerstudio OpenAI ausgetreten. Der Grund für die damalige Trennung im Streit waren tiefe Sorgen darüber, dass OpenAI die Entwicklung der Technologie aus kommerzieller Profitgier zu schnell, rücksichtslos und ohne ausreichende Sicherheitsprüfungen vorantreibe.
Mobilfunk-Newsletter: Einmal pro Woche die neusten Informationen rund um Handy, Smartphones und Deals!
Unser kostenloser Newsletter informiert Sie regelmäßig per E-Mail über Produktneuheiten und Sonderaktionen. Ihre hier eingegebenen Daten werden lediglich zur Personalisierung des Newsletters verwendet und nicht an Dritte weitergegeben. Sie können sich jederzeit aus dem Newsletter heraus abmelden. Durch Absenden der von Ihnen eingegebenen Daten willigen Sie in die Datenverarbeitung ein und bestätigen unsere Datenschutzerklärung.
Immer die aktuellsten Nachrichten direkt im Smartphone.
Unsere Kanäle gibt es kostenlos hier:
Telegram: Appdated Telegram Channel
Facebook: Appdated Facebook Seite
Twitter: Appdated Twitter Channel
Technikaffin seit den Zeiten von Amiga 500 und C64 – mittlerweile aber eher mit deutlichem Fokus auf die Bereich Mobilfunk und Telekommunikation. Die ersten Artikel im Telco Bereich habe ich bereits 2006 geschrieben, seit dem bin ich dem Thema treu geblieben und nebenbei läuft mittlerweile auch noch ein Telefon- und Smartphone Museum um die Entiwcklung zu dokumentieren.