{"id":149847,"date":"2026-05-31T21:05:21","date_gmt":"2026-05-31T19:05:21","guid":{"rendered":"https:\/\/www.freiburg-schwarzwald.de\/blog\/?p=149847"},"modified":"2026-05-31T21:11:53","modified_gmt":"2026-05-31T19:11:53","slug":"ki-aussetzen-zauberlehrlinge","status":"publish","type":"post","link":"https:\/\/www.freiburg-schwarzwald.de\/blog\/ki-aussetzen-zauberlehrlinge\/","title":{"rendered":"KI aussetzen – Zauberlehrlinge"},"content":{"rendered":"

Bis dato war es immer so: Was der Mensch<\/a> kann, das tut er auch. Schie\u00dfpulver, Atombombe, Wuhan-Virus<\/a>. Gilt dies auch f\u00fcr die K\u00fcnstliche Intelligenzen (KI)<\/a>, „die uns schlie\u00dflich zahlenm\u00e4\u00dfig \u00fcbertreffen, \u00fcberlisten, \u00fcberfl\u00fcssig machen und ersetzen k\u00f6nnten?“ Aus diesem Grunde fordern Kenner von KI-Systemen in einem Offenen Brief (siehe Anlage (1)), mit der weiteren Forschung bzw. dem Training immer komplexerer Systeme f\u00fcr ein halbes Jahr zu pausieren. Als Experten setzen sie sich f\u00fcr ein KI-Moratorium ein, weil sie sich als Zauberlehrlinge – was w\u00fcrde Goethe wohl dazu sagen? – erkennen.
\n.
\nKI wird vor allem in den USA und China mit aller Macht gef\u00f6rdert und entwickelt. Um den immensen Stromverbrauch der KI-Computer nachzukommen, werden vor allem Kernkraftwerke<\/a> gebaut.
\n.
\nEs gibt schon zu denken, wenn nicht nur der Papst Leo XIV<\/a> sich um die von der KI zu erwartenden Umw\u00e4lzungen besorgt zeigt, sondern auch die KI-Entwickler selbst.
\n31.5.2026
\n.
\nEnde von Beitrag „KI aussetzen – Zauberlehrlinge“
\n==============================================================
\nBeginn von Anlagen (1) –<\/p>\n

.
\n(1) Gro\u00dfe KI-Experimente stoppen: Ein offener Brief<\/strong>
\nWir fordern alle KI-Labore auf, das Training von KI-Systemen, die leistungsf\u00e4higer als GPT-4 sind, sofort f\u00fcr mindestens 6 Monate zu pausieren.<\/p>\n

KI-Systeme mit einer dem Menschen ebenb\u00fcrtigen Intelligenz k\u00f6nnen schwerwiegende Risiken f\u00fcr die Gesellschaft und die Menschheit mit sich bringen. Dieser Umstand wird durch umfangreiche Forschungsarbeiten gezeigt [1] und von f\u00fchrenden KI-Laboren anerkannt[2]. Wie in den weithin bef\u00fcrworteten Asilomar-KI-Prinzipien dargelegt, k\u00f6nnte fortgeschrittene KI einen tiefgreifenden Wandel in der Geschichte des Lebens auf der Erde darstellen und sollte mit entsprechender Sorgfalt und entsprechenden Ressourcen geplant und verwaltet werden. Leider findet eine solche Planung und Verwaltung nicht statt, obwohl KI-Labore in den letzten Monaten in einen unkontrollierten Wettlauf um die Entwicklung und den Einsatz immer leistungsf\u00e4higerer digitaler Systeme verwickelt waren, die niemand – nicht einmal ihre Sch\u00f6pfer – verstehen, vorhersagen oder zuverl\u00e4ssig kontrollieren kann.<\/p>\n

Inzwischen k\u00f6nnen moderne KI-Systeme bei der L\u00f6sung allgemeiner Aufgaben mit dem Menschen konkurrieren,[3] und wir m\u00fcssen uns fragen:
\nSollten wir zulassen, dass Maschinen unsere Informationskan\u00e4le mit Propaganda und Unwahrheiten \u00fcberfluten?
\nSollten wir alle Arbeitspl\u00e4tze automatisieren, auch die sinnstiftenden?
\nSollten wir nicht-menschliche Intelligenzen entwickeln, die uns schlie\u00dflich zahlenm\u00e4\u00dfig \u00fcbertreffen, \u00fcberlisten, \u00fcberfl\u00fcssig machen und ersetzen k\u00f6nnten?
\nSollten wir den Verlust der Kontrolle \u00fcber unsere Zivilisation riskieren?<\/p>\n

Solche Entscheidungen d\u00fcrfen nicht an ungew\u00e4hlte F\u00fchrungskr\u00e4fte aus der Technologiebranche delegiert werden. Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken beherrschbar sind. Diese Sicherheit muss gut begr\u00fcndet sein und mit steigendem Ausma\u00df der potenziellen Auswirkungen eines Systems zunehmen. In der j\u00fcngsten Erkl\u00e4rung von OpenAI zu k\u00fcnstlicher allgemeiner Intelligenz hei\u00dft es : \u201eAb einem gewissen Zeitpunkt k\u00f6nnte es wichtig sein, eine unabh\u00e4ngige \u00dcberpr\u00fcfung einzuholen, bevor mit dem Training k\u00fcnftiger Systeme begonnen wird, und bei den fortschrittlichsten Bem\u00fchungen zu vereinbaren, die Wachstumsrate der f\u00fcr die Entwicklung neuer Modelle verwendeten Rechenleistung zu begrenzen.\u201c Wir teilen diese Einsch\u00e4tzung. Der besagte Zeitpunkt ist nun gekommen.<\/p>\n

Daher fordern wir alle KI-Labore auf, das Training von KI-Systemen, die leistungsf\u00e4higer als GPT-4 sind, sofort f\u00fcr mindestens 6 Monate zu unterbrechen. Diese Pause sollte \u00f6ffentlich sichtbar und \u00fcberpr\u00fcfbar sein und alle wichtigen Akteure einbeziehen. Sollte eine solche Pause nicht kurzfristig realisierbar sein, sollten die Regierungen eingreifen und ein Moratorium verh\u00e4ngen.<\/p>\n

KI-Labore und unabh\u00e4ngige Experten sollten diese Pause nutzen, um gemeinsam eine Reihe \u00fcbergreifender Sicherheitsprotokolle f\u00fcr fortgeschrittene KI-Designs und -Entwicklungen zu entwerfen und umzusetzen, die von unabh\u00e4ngigen externen Experten streng gepr\u00fcft und \u00fcberwacht werden. Diese Protokolle sollten gew\u00e4hrleisten, dass Systeme, die sich an sie halten, zweifelsfrei sicher sind[4]. Dies bedeutet keine generelle Pause der KI-Entwicklung, sondern lediglich eine Abkehr vom gef\u00e4hrlichen Wettlauf zu immer gr\u00f6\u00dferen, unberechenbaren Black-Box-Modellen mit emergenten F\u00e4higkeiten.<\/p>\n

Die KI-Forschung und -Entwicklung sollte sich darauf konzentrieren, die heutigen leistungsf\u00e4higen und hochmodernen Systeme genauer, sicherer, interpretierbarer, transparenter, robuster, wertausgerichteter, vertrauensw\u00fcrdiger und loyaler zu machen.<\/p>\n

Parallel dazu m\u00fcssen KI-Entwickler mit politischen Entscheidungstr\u00e4gern zusammenarbeiten, um die Entwicklung robuster KI-Governance-Systeme drastisch zu beschleunigen. Diese sollten zumindest Folgendes umfassen: neue und f\u00e4hige Regulierungsbeh\u00f6rden, die sich speziell mit KI befassen; \u00dcberwachung und Verfolgung hochleistungsf\u00e4higer KI-Systeme und gro\u00dfer Akkumulationen von Rechenkapazit\u00e4t; Herkunfts- und Wasserzeichensysteme, die dabei helfen, echte von synthetischen Daten zu unterscheiden und Modelle auf Schwachstellen zu \u00fcberpr\u00fcfen; ein robustes Pr\u00fcfungs- und Zertifizierungssystem; Haftung f\u00fcr durch KI verursachte Sch\u00e4den; solide \u00f6ffentliche Finanzierung f\u00fcr technische KI-Sicherheitsforschung; und gut ausgestattete Institutionen zur Bew\u00e4ltigung der von KI verursachten wirtschaftlichen und politischen Umw\u00e4lzungen (insbesondere solcher, die die Demokratie gef\u00e4hrden).<\/p>\n

In einer Welt mit KI, kann der Menschheit eine bl\u00fchende Zukunft bevorstehen. Nachdem es uns gelungen ist, leistungsf\u00e4hige KI-Systeme zu schaffen, k\u00f6nnen wir nun einen \u201eKI-Sommer\u201c genie\u00dfen, in dem wir die Fr\u00fcchte dieser Entwicklungen ernten, die Systeme zum eindeutigen Nutzen aller weiterentwickeln und der Gesellschaft eine effektive Chance zur Anpassung geben. Im Angesicht potenziell katastrophaler Auswirkungen, hat die Gesellschaft bereits andere, fr\u00fchere technologische Entwicklungen pausiert.[5] Wir k\u00f6nnen es hier gleichtun. Genie\u00dfen wir einen langen KI-Sommer und st\u00fcrzen uns nicht Hals \u00fcber Kopf in den Herbst.<\/p>\n

Als Antwort auf Fragen und Diskussionen in den Medien und anderswo haben wir einige h\u00e4ufig gestellte Fragen vorbereitet. Sie k\u00f6nnen sie hier finden.
\nhttps:\/\/futureoflife.org\/ai\/faqs-about-flis-open-letter-calling-for-a-pause-on-giant-ai-experiments\/<\/a><\/p>\n

Zus\u00e4tzlich zu diesem offenen Brief haben wir eine Reihe von politischen Empfehlungen ver\u00f6ffentlicht, die Sie hier finden:
\nhttps:\/\/futureoflife.org\/document\/policymaking-in-the-pause\/<\/a>
\n.
\n… Alles vom 22.3.2026 bitte lesen auf
\nhttps:\/\/futureoflife.org\/de\/offener-brief\/pause-gigantische-ai-experimente\/<\/a><\/p>\n

 <\/p>\n","protected":false},"excerpt":{"rendered":"

Bis dato war es immer so: Was der Mensch kann, das tut er auch. Schie\u00dfpulver, Atombombe, Wuhan-Virus. Gilt dies auch f\u00fcr die K\u00fcnstliche Intelligenzen (KI), „die uns schlie\u00dflich zahlenm\u00e4\u00dfig \u00fcbertreffen, \u00fcberlisten, \u00fcberfl\u00fcssig machen und ersetzen k\u00f6nnten?“<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[18,4,52,317,172],"tags":[738,304,867,723,774,338,545],"class_list":["post-149847","post","type-post","status-publish","format-standard","hentry","category-bildung","category-branchen","category-einewelt","category-forschung","category-zukunft","tag-forschung","tag-informatik","tag-soft","tag-strom","tag-tech","tag-uni","tag-www"],"_links":{"self":[{"href":"https:\/\/www.freiburg-schwarzwald.de\/blog\/wp-json\/wp\/v2\/posts\/149847","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.freiburg-schwarzwald.de\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.freiburg-schwarzwald.de\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.freiburg-schwarzwald.de\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.freiburg-schwarzwald.de\/blog\/wp-json\/wp\/v2\/comments?post=149847"}],"version-history":[{"count":4,"href":"https:\/\/www.freiburg-schwarzwald.de\/blog\/wp-json\/wp\/v2\/posts\/149847\/revisions"}],"predecessor-version":[{"id":149851,"href":"https:\/\/www.freiburg-schwarzwald.de\/blog\/wp-json\/wp\/v2\/posts\/149847\/revisions\/149851"}],"wp:attachment":[{"href":"https:\/\/www.freiburg-schwarzwald.de\/blog\/wp-json\/wp\/v2\/media?parent=149847"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.freiburg-schwarzwald.de\/blog\/wp-json\/wp\/v2\/categories?post=149847"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.freiburg-schwarzwald.de\/blog\/wp-json\/wp\/v2\/tags?post=149847"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}