Nur ein Gott, eine Göttin kann uns retten

Wie erklären wir uns, dass wir Menschen das schaffen, was wir eigentlich nicht wollen – die Zerstörung der ökologischen Systeme, die Klimakatastrophe und jetzt auch noch die sich exponentiell entwickelnde KI? Zur Erklärung wird oft der Begriff Moloch herangezogen. Aber wie hilft uns eine alte phönizische Gottheit, die heutigen Krisen zu verstehen?

Als ich Daniel Schmachtenberger für diese Ausgabe interviewte, sprachen wir über die menschlichen Motive, die hinter einer unkontrollierten KI stehen, und er sagte ein Wort, fast zu sich selbst: Moloch. Ich erinnerte mich an Moloch aus John Miltons Gedicht »Paradise Lost« und Fritz Langs Film »Metropolis«. Der Gott des Alten Testaments sprach sich gegen die Anbetung Molochs aus, dem man Kinder opferte. Aber warum sollte Daniel seinen Namen in unserem Gespräch über ChatGPT und die neuen AI Large­ ­Language Models (LLMs) erwähnen?

Ich fand einen Podcast mit Daniel und Liv Boeree mit dem Titel »Misalignment, AI & Moloch«. Und dann, als ich weitersuchte, begann Moloch sein furchterregendes Haupt in vielen Foren zu zeigen, die über KI und die Metakrise (oder Polykrisen) diskutieren, die die Menschheit über uns gebracht hat. Warum?

Denn Moloch ist eine Möglichkeit, die zerstörerischen Kräfte, in denen wir Menschen gefangen sind, ins Bewusstsein zu rücken. Wie kann man erklären, dass wir die Biosphäre zerstören, einen Atomkrieg riskieren oder ein System des bestrafenden Wettbewerbs, das die Ungleichheit nährt, betreiben, obwohl niemand – zumindest niemand, der bei klarem Verstand ist – so etwas wünscht? Trotzdem haben wir kollektiv die Bedingungen dafür geschaffen, dass dies geschehen kann. Wir opfern in der Tat eine Generation von Kindern dem unerbittlichen Gott des Wettbewerbs und des Kapitalismus: Moloch.

Das mag weit hergeholt erscheinen, aber ich bin zu der Erkenntnis gelangt, dass das Bild des Molochs für uns hilfreich ist. Es verdeutlicht, wie wir selbst in der Struktur unserer Identität von Moloch gefangen worden sind. Und damit eröffnet es Wege, darauf zu antworten, die jeder von uns einschlagen kann.

Die Ursprünge des Molochs

Vor etwa fünftausend Jahren, in der Bronze­zeit, war Moloch einer der Götter, die ­von den Phöniziern verehrt wurden, einer semitischen Nation, die manche als die ersten Kapitalisten bezeichnen. Ihre Fähigkeiten als Händler und Seefahrer ermöglichten es ihnen, Länder im gesamten Mittelmeerraum zu kolonisieren, darunter Karthago, Malta, Zypern, Spanien, Sizilien und Sardinien. Den Phöniziern wird die Einführung des Geldes, des Kredits, des Zinses und des Gewinns zugeschrieben – und damit die Förderung einer Kultur, die unternehmerische Initiative, Innovation und Wettbewerb schätzte. Sie schufen die erste alphabetische Sprache, das erste Maßsystem und die erste Münzprägung. Natürlich praktizierten die Phönizier bestenfalls einen Proto-Kapitalismus, ­ohne Aspekte wie die Marktphilosophie, die heute die Märkte bestimmt.

Moloch, eine Gottheit der Fruchtbarkeit und des Krieges, scheint seinen Namen aus einer Kombination der Konsonanten des Wortes für »Gott« und der Vokale von »Schande« zu erhalten. Ein mittelalterlicher französischer Rabbiner, Schlomo Jizchaki, beschrieb Moloch als Bronzestatue mit einem Stierkopf, einem Männerkörper und ausgestreckten Armen über einem Feuer, das sich oft in seinem Bauch befindet. Manchmal hat er den Kopf eines bärtigen Mannes und trägt einen Donnerkeil. Sein Name und seine Merkmale variieren, aber eine Kontinuität ist die Praxis der Kinderopfer.

»Der Moloch hat auch eine Karriere in der Moderne gemacht.«

Angesichts der Tatsache, dass die Besteuerung der Wohlhabenden in unserer Zeit zum Tabu geworden ist, überrascht es, dass Moloch die Opferung zumindest des erstgeborenen Kindes jeder wohlhabenden oder adligen Familie »verlangte«. In schwierigen Zeiten, wie Krieg oder Dürre, wurden noch mehr Kinder geopfert, um den Gott zu besänftigen. Als die Phönizier ein Volk nach dem anderen kolonialisierten, verbreitete sich der Kult des Molochs. Manchmal, wie bei den Karthagern, wurde die Praxis der Kinderopfer aggressiv betrieben.

Wir wissen von Moloch unter anderem durch die Verurteilung von Kinderopfern im Alten Testament. In den Büchern Levitikus, Könige, Jesaja und Jeremia warnt Gott vor dieser Praxis. Die Passagen in diesen Büchern der Bibel beziehen sich auf einen »Tophet«, eine spezielle Bronzestatue der Gottheit, die im Inneren von einem Feuer erleuchtet wurde, in das man Kinder hineinwarf. Bilder von Moloch mit einem Stierkopf und einem Kind in seinem Bauch finden sich von der frühen Bronzezeit bis ins Mittelalter.

Moderner Moloch

Der Moloch hat auch eine Karriere in der Moderne gemacht, die vom Kapitalismus befeuert wurde. In Allen Ginsbergs »Howl«, einer Ode an einen lieben Freund, der in eine psychiatrische Klinik eingeliefert wurde, beklagt er, dass »die besten Köpfe [seiner] Generation … vom Wahnsinn zerstört« wurden. Im zweiten Teil des Gedichts erklärt er die Ursache in einer Strophe nach der anderen, die mit »Moloch« beginnt. Wie er in einer Strophe schreibt:

Moloch, dessen Geist reine Maschinerie ist! Moloch, dessen Blut fließendes Geld ist! Moloch, dessen Finger zehn Armeen sind! Moloch, dessen Brust ein kannibalischer Dynamo ist! Moloch, dessen Ohr ein rauchendes Grab ist!

Aber was bedeutet Moloch eigentlich? Offensichtlich handelt es sich nicht um eine echte dämonische Gottheit. Scott ­Alexander, das Pseudonym eines Psychiaters und Bloggers, stellt in seinem Artikel »Meditations on Moloch« aus dem Jahr 2014 fest: »Es ist mächtig, nicht weil es richtig ist – niemand glaubt buchstäblich, dass ein antiker karthagischer Dämon alles verursacht –, sondern weil die Vorstellung, das System sei ein Akteur, die Vorstellung, das System sei kein Akteur, relativiert.«

Wir alle treffen Entscheidungen in einem System, das den Eigennutz zum Nachteil aller belohnt. Aber niemand kann damit aufhören, denn das würde den eigenen Untergang bedeuten. Dies nennt man eine multipolare Falle. Im Zusammenhang mit dem Wettbewerbskapitalismus und der Politik ist unser Leben davon durchdrungen.

Das Wettrüsten ist ein Beispiel für­ ­eine multipolare Falle. Selbst wenn alle den Frieden wollen, bedeutet der Mangel an Vertrauen zwischen den Nationen, dass diese, anstatt in Bildung oder Gesundheitsfürsorge zu investieren, in Waffen, einschließlich Atomwaffen, investieren müssen, um sich vor der Möglichkeit ­eines Angriffs durch die anderen zu schützen. Wenn eine Nation nicht über die entsprechenden Mittel verfügt, muss sie sich mit den Mächten verbünden, die über diese Mittel verfügen, und zwar auf eine Weise, die zu weiterer Spaltung und Misstrauen führt. Die Verbreitung all dieser tödlichen Instrumente in einer Situation, in der das Vertrauen immer mehr schwindet, macht einen Krieg noch wahrscheinlicher.

Dies gilt für die Luft- und Wasserverschmutzung und für alles, was mit Gemeingütern zu tun hat. Wie Alexander schreibt: »Unternehmen sind in einem wirtschaftlichen Umfeld mit hinreichend intensivem Wettbewerb gezwungen, alle Werte außer der Gewinnoptimierung aufzugeben, oder sie werden von Unternehmen verdrängt, die besser auf Gewinn optimiert sind und daher die gleiche Leistung zu einem niedrigeren Preis erbringen können.« Es wird also nichts mit existenzsichernden Löhnen, guter Gesundheitsversorgung und Bildung, gesunden Wäldern und Naturlandschaften, sauberem Wasser und sauberer Luft. Stattdessen landen wir in Giftmüll, Umweltverschmutzung, Ausbeutung von Arbeitskräften und Beton. Auf globaler Ebene ist das Ergebnis brutal: Gefährdung des Menschen auf jeder Ebene von der DNA an aufwärts zusammen mit der Zerstörung aller Lebensformen und ihrer Biosysteme. »Die Geschäftspraktiken werden von Moloch bestimmt«, schreibt Alexander, »niemand sonst hat eine Wahl in dieser Angelegenheit.«

»Wir nutzen Kräfte, die wir nicht verstehen oder kontrollieren.«

Diese Auswirkungen sind nicht nur oder sogar hauptsächlich das Ergebnis der Entscheidungen »schlechter Akteure«. Es ist nicht so, dass, um Sting zu paraphrasieren, die Russen (oder Kapitalisten oder ...) ihre Kinder nicht auch lieben. Sondern dass Entscheidungen, die getroffen werden, um in einem Nullsummen-Wettbewerbssystem zu überleben und zu gedeihen, unweigerlich dazu führen, dass lebensorientierte Werte ausgehöhlt und schließlich unsere Kinder geopfert werden.

Was also ist Moloch? Alexander antwortet: »Moloch ist genau das, was in den Geschichtsbüchern steht. Er ist der Gott der Kinderopfer, der feurige Ofen, in den man seine Babys im Austausch für einen Sieg im Krieg werfen kann.« Er unterbreitet immer und überall dasselbe Angebot: »Wirf das, was du am meisten liebst, in die Flammen, und ich kann dir Macht geben.«

KI – weil ich es kann

In einem überraschenden und brillanten Podcast von Joshua Schrei auf »The Emerald« fragte er ChatGPT, welcher Mythos oder welche Legende am meisten mit der Situation übereinstimmt, in der sich die Menschheit jetzt mit dem Aufkommen der Großen Sprachmodelle (wie ChatGPT) befindet. Was war die erste Antwort? Der Zauberlehrling. Mit anderen Worten: Wir nutzen Kräfte, die wir nicht verstehen oder kontrollieren und die uns wahrscheinlich zerstören werden. Und wir haben keinen weisen Zauber, der uns rettet.

Hört man sich die Antworten von Denkern wie Daniel Schmachtenberger an, so war die Sorge bei der Veröffentlichung von Open AIs ChatGPT, dass es keine Überwachung, keine Leitplanken, keine kollektive Koordination gab, die sicherstellen könnten, dass die Magie dieser KI im Besten, was die Menschheit zu bieten hat, verwurzelt sein würde. Stattdessen war die Veröffentlichung - auf die in rascher Folge weitere Modelle folgten, die vorschnell auf den Markt gebracht wurden – ein klares Beispiel für eine multipolare Falle. Um eine weitere mythische Referenz einzubringen: Sie öffneten die Büchse der Pandora.

In einer von Moloch getriebenen kapitalistischen Gesellschaft führt die Neugier des intelligenten jungen Mannes dazu, dass er sich in verbotenes Gebiet begibt, denn dort findet man den Nervenkitzel, den Ruhm, das Geld, die Macht – den materialistischen Zweck. Wir tun es, weil wir es können – und wenn ich es nicht tue, dann tut es jemand anderes. Also werde ich alles tun, um es als Erster zu schaffen.

Ich beziehe mich hier auf junge Männer, nicht um ihnen die Schuld zu geben oder sie in den Mülleimer der toxischen Männlichkeit zu werfen, sondern um darauf hinzuweisen, wie Moloch unsere Identitäten formt. Die Moderne teilte die Gesellschaft in zwei verschiedene Sphären mit zwei unterschiedlichen moralischen Imperativen. Die weibliche Sphäre des Hauses hielt die mittelalterlichen christlichen Werte des Dienens, der Keuschheit, der Sparsamkeit, des Gehorsams und des Glaubens aufrecht. Diese Sphäre der Hausarbeit und der Fürsorge stand im Gegensatz zur männlichen Sphäre der Wirtschaft und Politik. Man ging davon aus, dass Männer in einen darwinistischen Überlebenskampf verwickelt wären, der sie zwangsläufig dazu bringen würde, das Gegenteil der christlichen Werte zu kultivieren – Eigennutz und Wettbewerb. Das bürgerliche Heim war ein Ort der Ordnung und Ruhe, der durch die Arbeit der Männer ermöglicht wurde und die Seelen der Männer beruhigte.

Nun, das ist natürlich vorbei – aus vielen verschiedenen Gründen. Doch die Identitäten von Männern und Frauen tragen die Spuren der Vergangenheit. Der einzige Kontext, der uns in unserer pluralistischen Gesellschaft noch geblieben ist, ist der marktwirtschaftliche Wettbewerb. Die christlichen Werte, die den Frauen zugewiesen wurden, sind durch die Werte des Marktes und des Konsumverhaltens ausgehöhlt worden. Hinzu kommt ein neuer Wettbewerb – einer zwischen den Generationen von Männern – und das Ergebnis ist, dass es weit und breit keine Erwachsenen gibt. Die schwindelerregende Geschwindigkeit des technologischen Fortschritts in der digitalen Welt, die in LLMs wie ChatGTP gipfelt, lässt die älteren, vielleicht ruhigeren Hände damit kämpfen, mit ihren Smartphones auf dem aktuellen Stand zu bleiben. Die Teenager, die unzählige Stunden damit verbracht haben, Moloch in Videospielen wie Diablo II oder Mortal Kombat X zu besiegen, sind jetzt seine unwissenden Komplizen. Der jugendliche Ruf, »Ich tue es, weil ich es kann« sagt auch »und es gibt niemanden, der mich aufhält«.

In der Welt der Technik gibt es keine weisen Zauberer; es gibt nur Zauberlehrlinge. Ich spreche nicht von ihrem technischen Know-how (obwohl die Tatsache, dass sie nicht verstehen, wie die LLMs lernen, ernüchternd ist). Ich beziehe mich auf ihr Verständnis von Macht, tieferen menschlichen Werten und der Bedeutung von Selbstbeherrschung. Denken Sie an Mark Zuckerberg, Jeff Bezos, Elon Musk. Scheint einer dieser Männer weise zu sein? Klug, clever, technisch brillant, ja. Aber nicht weise in einer Art, die uns helfen kann, unsere Kinder nicht dem Moloch zu opfern.

Wie Joshua Schrei in seinem Podcast andeutet, ist der Mythos des Zauberlehrlings eine Geschichte zwischen den Generationen, über Söhne ohne die Führung weiser Väter. In unserer postmodernen Kultur wird den Frauen und der Notwendigkeit, weibliche Werte zu unterstützen, sehr viel Aufmerksamkeit geschenkt. Das ist richtig. Aber ist diese Betonung zu eng und spaltend geworden? Ist es die Aufgabe des Staates, eine allumfassende Mutter zu sein, die jeden bestraft, der ihre Kinder verunsichert? Ironischerweise haben wir als Gesellschaft gleichzeitig ein oder zwei Generationen von Jungen im Keller vor einem Bildschirm sitzen gelassen, auf dem grelle Bilder von Monstern und Pornos flimmern. Und junge Männer und Frauen entfernen sich immer weiter voneinander: Die Wahrscheinlichkeit, dass junge Männer eine animierte KI-Chatbot-»Freundin« haben, ist doppelt so hoch wie bei jungen Frauen. Der Einzige, dem diese Entwicklung hilft, ist Moloch.

Über Moloch hinausgehen

Spieltheoretiker sehen in den multipolaren Fallen, die uns dazu bringen, dem Moloch zu opfern, auch wenn wir das nicht wollen, im Wesentlichen ein Problem der Koordination und Kooperation. Die Koordinationsfähigkeit der KI hat die Macht, für Moloch oder für uns Menschen und das Leben unserer Kinder zu arbeiten. Das ist es, was sie so verlockend und so gefährlich macht. Alle zusammen müssten auf einmal beschließen, zum Wohle des Gemeinwohls den Wettbewerb nicht mehr über die Zusammenarbeit zu stellen. Sind wir dem Untergang geweiht, wenn man bedenkt, wie weit hergeholt das ist?

Nicht unbedingt. Es gibt soziale Strukturen, die die Menschen so koordiniert haben, dass wir kooperieren. »Soziale Kodizes, ehrenhafte Verabredungen, Industriegilden, kriminelle Organisationen, Traditionen, Freundschaften, Schulen, Unternehmen und Religionen sind allesamt koordinierende Institutionen, die uns aus Fallen heraushalten, indem sie unsere Anreize verändern«, stellt Scott Alexander fest. Unsere Identität als Männer und Frauen wurde von all diesen Institutionen geprägt.

Koordinierung und Zusammenarbeit klingen eher langweilig, aber sie implizieren Verbindung und Zugehörigkeit. Vielleicht so etwas wie Heimat. Ich spreche nicht von der Kernfamilie oder traditionellen Werten, sondern von einem tiefen Gefühl des Hierseins. Es ist eine Art Selbstliebe, die nicht narzisstisch ist, sondern die Dankbarkeit dafür ausdrückt, dass uns das Leben geschenkt wurde. Denn unsere Identität ist zutiefst von der Liebe geprägt – und dem Fehlen von Liebe.

Liebe ist etwas, was die KI nicht kann. Sie kann auch keine Fürsorge zum Ausdruck bringen. Die Mächte des Molochs haben sowohl die romantische Liebe als auch die elterliche Liebe mit Füßen getreten und beide in wettbewerbsorientierte Konsumspiele verwandelt. Die Liebe ist jedoch etwas, das wir als etwas Einzigartiges für uns zurückerobern können. Wir brauchen wieder einen Gott, eine Göttin der Liebe. Denn es ist schon einmal in der Geschichte der Menschheit geschehen – genug, um Moloch für Jahrhunderte aufzuhalten.

Doch solange Moloch sein dämonisches Angebot machen kann, unsere Werte für Macht zu verkaufen und die Zukunft unserer Kinder zu zerstören, gehört die Menschheit ihm. »Solange das Angebot offen ist«, sagt Scott ­Alexander, »wird es unwiderstehlich sein. Also müssen wir das Angebot schließen. Nur ein anderer Gott kann Moloch töten. Wir haben einen auf unserer Seite, aber er braucht unsere Hilfe. Wir sollten sie ihm geben«. Oder ihr. ■