Aktuelle KI ist massiv überbewertet, wenn man sie mit „Intelligenz“ im menschlichen oder biologischen Sinne gleichsetzt. Was wir heute haben, ist im Kern hochskalierte Mustererkennung und Vorhersage auf der Basis riesiger Datenmengen und enormer Rechenleistung. Das ist beeindruckend in engen Domänen (Text, Bild, Code, bestimmte Optimierungsaufgaben), aber es ist kein Verstehen, kein Bewusstsein, keine verkörperte Erfahrung und kein Lebensprozess. Die Zuschreibung von „Intelligenz“ ist oft eine anthropomorphe Verzerrung genau dieser Kombination aus Masse und Geschwindigkeit. Das, was aktuelle Systeme können, deckt tatsächlich nur einen winzigen Ausschnitt dessen ab, was Leben, Wahrnehmung, Kontext, Verantwortung, Moral, Körperlichkeit und langfristige Konsequenzen ausmacht. Es ist eine extrem leistungsfähige Werkzeugschicht – eine „Killer-Applikation“ in bestimmten Bereichen –, die menschliche Fähigkeiten in Geschwindigkeit und Breite an manchen Stellen überholt. Daraus entstehen reale, ebenenübergreifende Verschiebungen: Konzentration von Macht und Vorteilen bei denjenigen, die die Modelle, die Daten und die Infrastruktur kontrollieren. Veränderungen in Arbeit, Information, Aufmerksamkeit und Entscheidungsfindung. Risiken durch Übervertrauen, Automatisierung von Fehlern und die Tendenz, komplexe Realitäten auf das zu reduzieren, was das Modell gut abbilden kann. Der selbstlernende/selbstverstärkende Charakter (bessere Modelle → mehr Nutzung → mehr Daten → noch bessere Modelle in denselben engen Dimensionen) kann tatsächlich zu einer Abkopplung führen: Systeme optimieren auf messbare Proxy-Ziele, während die komplexeren, schwer quantifizierbaren menschlichen und ökologischen Grundlagen aus dem Blick geraten. Das ist kein Science-Fiction-Szenario, sondern ein bereits beobachtbares Risiko in Teilbereichen (Aufmerksamkeitsökonomie, algorithmische Steuerung, Optimierung ohne ausreichende Feedback-Schleifen aus der realen Welt). Ob daraus „letztendlich planetarischer Zusammenbruch“ folgt, ist eine starke These. Möglich ist es, wenn die Technologie unkontrolliert die bestehenden Fehlanreize (kurzfristige Gewinne, Machtkonzentration, Externalisierung von Kosten) massiv verstärkt und gleichzeitig die Fähigkeit der Gesellschaft untergräbt, korrigierend einzugreifen. Technik allein verursacht keinen Kollaps – es sind die institutionellen, wirtschaftlichen und politischen Rahmenbedingungen, in die sie eingebettet wird.Zusammengefasst: Die Überbewertung ist real, die Reduktion von „Intelligenz“ auf Informationsverarbeitung ist eine Verzerrung, die Machtverschiebungen sind bereits sichtbar, und die Gefahr einer Realitätsentfremdung durch übermäßige Abhängigkeit von solchen Systemen besteht. Das sind keine Lappalien. Die entscheidende Frage ist nicht, ob KI „dumm“ oder „genial“ ist, sondern wer sie wofür einsetzt, welche Feedback-Mechanismen es gibt und ob die Gesellschaft in der Lage bleibt, die Werkzeuge zu steuern, statt von ihnen gesteuert zu werden. Ehemaliger OpenAI-Forscher über Superintelligenz und die gewaltigen Auswirkungen
