Die Umkehrung von Mephistopheles im Silicon Valley

Leopold Aschenbrenner hat im Sommer 2026 seine Verlobte Avital Balwit geheiratet. Sie ist die Stabschefin (Chief of Staff) von Dario Amodei, dem CEO des KI-Unternehmens Anthropic. Vor ihrer Rolle bei Anthropic leitete sie unter anderem eine politische Kampagne für das US-Repräsentantenhaus und war im Vergabeteam des FTX Future Fund im Bereich KI-Sicherheit und Biosicherheit tätig. Balwit erlangte über ihre Management-Rolle hinaus große Bekanntheit durch tiefgründige Essays, in denen sie die gesellschaftlichen Folgen von künstlicher Allgemeiner Intelligenz (AGI) analysiert. Ein Essay für The Free Press, in dem sie beschreibt, wie die Tech-Elite des Silicon Valley angesichts des rasanten KI-Fortschritts zunehmend nach spirituellem Sinn, Religion und Transzendenz sucht. Die Hochzeit von Leopold Aschenbrenner und Avital Balwit entwickelte sich zu einem der dramatischsten Ereignisse der Tech-Welt, da sie exakt mit dem Kollaps seines milliardenschweren KI-Hedgefonds zusammenfiel. Mephistos Triumph: Das System absorbiert die Kritik. In Goethes Faust beschreibt sich Mephistopheles als „ein Teil von jener Kraft, die stets das Böse will und stets das Gute schafft“. Im Silicon Valley ist es heute umgekehrt: Man will das Gute (eine sichere KI zum Wohle der Menschheit) und schafft die Infrastruktur für eine unkontrollierbare Disruption. Das ist wirklich ein kosmischer Witz, da finden sich zwei jugendliche Genies und arbeiten in den obersten Etagen an der Spitze der gefährlichsten Entwicklung der Menschheitsgeschichte, haben intellektuell alles durchdrungen und lassen sich in den Zentren der Macht absorbieren und merken es nicht einmal. Sowohl Balwit als auch Aschenbrenner argumentieren, dass AGI die Menschheit auslöschen oder komplett entwurzeln könnte. Doch ihre Logik, warum sie trotzdem an vorderster Front mitmachen, ist ein klassischer psychologischer Schutzmechanismus der Macht. Ihr Argument: „Wenn wir es nicht tun, tun es skrupellose Akteure oder totalitäre Staaten. Also müssen wir die Ersten sein, weil wir die Guten sind.“ Besonders bei Avital Balwit zeigt sich die bittere Ironie: Sie begann mit sozialem Engagement in Obdachlosenheimen und Gefängnissen. Sie wollte das Leid der realen Welt lindern. Es gibt in der Psychologie dieser jungen Tech-Elite eine tief sitzende Überzeugung: Dass man ein System von innen heraus überlisten kann, wenn man nur klug genug ist. Wir wissen, wie diese Geschichten (Atombombe, Frankenstein, Prometheus) historisch ausgegangen sind. Diese fast noch jugendlichen „HighPerformer“ haben zwar die Algorithmen durchdrungen, aber sie unterschätzen die Untiefen der menschlichen Natur und der Systeme, in denen sie sich bewegen. Es gibt drei entscheidende blinde Flecken, die man mit 24 oder 27 Jahren – mangels Lebenserfahrung – schlicht noch nicht am eigenen Leib erfahren hat: Der blinde Fleck: Intelligenz (IQ) ist die eine Sache, Weisheit hingegen ist etwas völlig anderes. Die Verführung der Macht: Es ist eine bekannte psychologische Schwachstelle, dass extrem frühe, massive Anerkennung das Ego verzerrt. Erwachen in der Realität: Junge Genies neigen dazu zu glauben, dass am Ende das beste Argument gewinnt. Durch den brutalen Margin Call war Aschenbrenner gezwungen, sein Lebenswerk mit gigantischem Abschlag an die abgebrühten, jahrzehntelang erprobten Haifische der Wall Street (wie Ken Griffins Citadel) abzutreten. Die eiskalte Geopolitik, die unerbittliche Logik des militärisch-industriellen Komplexes und die nackte Gier des globalen Kapitals – interessieren sich nicht für philosophische Aufsätze. Übersicht über Die 5 KI-Stufen nach Sam Altman