Bis dato war es immer so: Was der Mensch kann, das tut er auch. Schießpulver, Atombombe, Wuhan-Virus. Gilt dies auch für die Künstliche Intelligenzen (KI), „die uns schließlich zahlenmäßig übertreffen, überlisten, überflüssig machen und ersetzen könnten?“ Aus diesem Grunde fordern Kenner von KI-Systemen in einem Offenen Brief (siehe Anlage (1)), mit der weiteren Forschung bzw. dem Training immer komplexerer Systeme für ein halbes Jahr zu pausieren. Als Experten setzen sie sich für ein KI-Moratorium ein, weil sie sich als Zauberlehrlinge – was würde Goethe wohl dazu sagen? – erkennen.
.
KI wird vor allem in den USA und China mit aller Macht gefördert und entwickelt. Um den immensen Stromverbrauch der KI-Computer nachzukommen, werden vor allem Kernkraftwerke gebaut.
.
Es gibt schon zu denken, wenn nicht nur der Papst Leo XIV sich um die von der KI zu erwartenden Umwälzungen besorgt zeigt, sondern auch die KI-Entwickler selbst.
31.5.2026
.
Ende von Beitrag „KI aussetzen – Zauberlehrlinge“
==============================================================
Beginn von Anlagen (1) –
.
(1) Große KI-Experimente stoppen: Ein offener Brief
Wir fordern alle KI-Labore auf, das Training von KI-Systemen, die leistungsfähiger als GPT-4 sind, sofort für mindestens 6 Monate zu pausieren.
KI-Systeme mit einer dem Menschen ebenbürtigen Intelligenz können schwerwiegende Risiken für die Gesellschaft und die Menschheit mit sich bringen. Dieser Umstand wird durch umfangreiche Forschungsarbeiten gezeigt [1] und von führenden KI-Laboren anerkannt[2]. Wie in den weithin befürworteten Asilomar-KI-Prinzipien dargelegt, könnte fortgeschrittene KI einen tiefgreifenden Wandel in der Geschichte des Lebens auf der Erde darstellen und sollte mit entsprechender Sorgfalt und entsprechenden Ressourcen geplant und verwaltet werden. Leider findet eine solche Planung und Verwaltung nicht statt, obwohl KI-Labore in den letzten Monaten in einen unkontrollierten Wettlauf um die Entwicklung und den Einsatz immer leistungsfähigerer digitaler Systeme verwickelt waren, die niemand – nicht einmal ihre Schöpfer – verstehen, vorhersagen oder zuverlässig kontrollieren kann.
Inzwischen können moderne KI-Systeme bei der Lösung allgemeiner Aufgaben mit dem Menschen konkurrieren,[3] und wir müssen uns fragen:
Sollten wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheiten überfluten?
Sollten wir alle Arbeitsplätze automatisieren, auch die sinnstiftenden?
Sollten wir nicht-menschliche Intelligenzen entwickeln, die uns schließlich zahlenmäßig übertreffen, überlisten, überflüssig machen und ersetzen könnten?
Sollten wir den Verlust der Kontrolle über unsere Zivilisation riskieren?
Solche Entscheidungen dürfen nicht an ungewählte Führungskräfte aus der Technologiebranche delegiert werden. Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken beherrschbar sind. Diese Sicherheit muss gut begründet sein und mit steigendem Ausmaß der potenziellen Auswirkungen eines Systems zunehmen. In der jüngsten Erklärung von OpenAI zu künstlicher allgemeiner Intelligenz heißt es : „Ab einem gewissen Zeitpunkt könnte es wichtig sein, eine unabhängige Überprüfung einzuholen, bevor mit dem Training künftiger Systeme begonnen wird, und bei den fortschrittlichsten Bemühungen zu vereinbaren, die Wachstumsrate der für die Entwicklung neuer Modelle verwendeten Rechenleistung zu begrenzen.“ Wir teilen diese Einschätzung. Der besagte Zeitpunkt ist nun gekommen.
Daher fordern wir alle KI-Labore auf, das Training von KI-Systemen, die leistungsfähiger als GPT-4 sind, sofort für mindestens 6 Monate zu unterbrechen. Diese Pause sollte öffentlich sichtbar und überprüfbar sein und alle wichtigen Akteure einbeziehen. Sollte eine solche Pause nicht kurzfristig realisierbar sein, sollten die Regierungen eingreifen und ein Moratorium verhängen.
KI-Labore und unabhängige Experten sollten diese Pause nutzen, um gemeinsam eine Reihe übergreifender Sicherheitsprotokolle für fortgeschrittene KI-Designs und -Entwicklungen zu entwerfen und umzusetzen, die von unabhängigen externen Experten streng geprüft und überwacht werden. Diese Protokolle sollten gewährleisten, dass Systeme, die sich an sie halten, zweifelsfrei sicher sind[4]. Dies bedeutet keine generelle Pause der KI-Entwicklung, sondern lediglich eine Abkehr vom gefährlichen Wettlauf zu immer größeren, unberechenbaren Black-Box-Modellen mit emergenten Fähigkeiten.
Die KI-Forschung und -Entwicklung sollte sich darauf konzentrieren, die heutigen leistungsfähigen und hochmodernen Systeme genauer, sicherer, interpretierbarer, transparenter, robuster, wertausgerichteter, vertrauenswürdiger und loyaler zu machen.
Parallel dazu müssen KI-Entwickler mit politischen Entscheidungsträgern zusammenarbeiten, um die Entwicklung robuster KI-Governance-Systeme drastisch zu beschleunigen. Diese sollten zumindest Folgendes umfassen: neue und fähige Regulierungsbehörden, die sich speziell mit KI befassen; Überwachung und Verfolgung hochleistungsfähiger KI-Systeme und großer Akkumulationen von Rechenkapazität; Herkunfts- und Wasserzeichensysteme, die dabei helfen, echte von synthetischen Daten zu unterscheiden und Modelle auf Schwachstellen zu überprüfen; ein robustes Prüfungs- und Zertifizierungssystem; Haftung für durch KI verursachte Schäden; solide öffentliche Finanzierung für technische KI-Sicherheitsforschung; und gut ausgestattete Institutionen zur Bewältigung der von KI verursachten wirtschaftlichen und politischen Umwälzungen (insbesondere solcher, die die Demokratie gefährden).
In einer Welt mit KI, kann der Menschheit eine blühende Zukunft bevorstehen. Nachdem es uns gelungen ist, leistungsfähige KI-Systeme zu schaffen, können wir nun einen „KI-Sommer“ genießen, in dem wir die Früchte dieser Entwicklungen ernten, die Systeme zum eindeutigen Nutzen aller weiterentwickeln und der Gesellschaft eine effektive Chance zur Anpassung geben. Im Angesicht potenziell katastrophaler Auswirkungen, hat die Gesellschaft bereits andere, frühere technologische Entwicklungen pausiert.[5] Wir können es hier gleichtun. Genießen wir einen langen KI-Sommer und stürzen uns nicht Hals über Kopf in den Herbst.
Als Antwort auf Fragen und Diskussionen in den Medien und anderswo haben wir einige häufig gestellte Fragen vorbereitet. Sie können sie hier finden.
https://futureoflife.org/ai/faqs-about-flis-open-letter-calling-for-a-pause-on-giant-ai-experiments/
Zusätzlich zu diesem offenen Brief haben wir eine Reihe von politischen Empfehlungen veröffentlicht, die Sie hier finden:
https://futureoflife.org/document/policymaking-in-the-pause/
.
… Alles vom 22.3.2026 bitte lesen auf
https://futureoflife.org/de/offener-brief/pause-gigantische-ai-experimente/