Künstliche Intelligenz, KI, Artificial Intelligence, AI, Quantencomputer, Robotik, ChatGPT, Grok, Transhumanismus

Ihre Lösung: globaler Totalstopp für Rechenleistung; Die Autoren sind ehrlich, dass ihre vorgeschlagenen Lösungen drastisch und nicht besonders realistisch sind. Ein einzelnes rücksichtsloses Labor zu schließen hilft nichts. Sich auf ein einzelnes „verantwortungsvolles“ Land zu verlassen, hilft auch nicht, eine Superintelligenz, die irgendwo gebaut wird, wird zum Problem aller, da ihre Auswirkungen nicht lokal bleiben. Ihr erster Schritt: alle ernsthaften Rechenleistungen unter internationale Beobachtung zu stellen, mit einer absichtlich paranoiden, niedrigen Schwelle. Da niemand die sichere Grenze tatsächlich kennt – sie geben zu, dass selbst 99.999 GPUs nicht sicher sein könnten – schlagen sie vor, den Besitz von mehr als etwa acht High-End-Grafikprozessoren (ungefähr die Top-Chips von 2024) ohne internationale Genehmigung zu kriminalisieren. Neun unbeaufsichtigte GPUs in Ihrer Garage wären illegal. Als nächstes: Verbieten Sie die Forschung, die KI billiger und leistungsfähiger für das Training macht, nicht nur die Modelle selbst. Sie verweisen auf das Transformer-Papier von 2018 (den algorithmischen Durchbruch hinter ChatGPT und dem gesamten modernen LLM-Boom) als Beispiel für die Art von Publikation, die ihrer Meinung nach niemals hätte verbreitet werden dürfen. Sie können nicht sagen, wie viele weitere solche Arbeiten die Menschheit von einer Katastrophe trennen, die in ihrer Logik genau der Grund ist, warum die Veröffentlichung solcher Arbeiten als Verbrechen behandelt werden sollte. Sie versuchen, wie drastisch dies ist, zu mildern, indem sie feststellen, dass der Alltag der meisten Menschen nicht betroffen sein wird, nur „ein paar verrückte Wissenschaftler“, die ihren Job verlieren. Unter dieser lässigen Formulierung jedoch liegt ein Vorschlag, ein ganzes wissenschaftliches Feld stillzulegen und alle ernsthaften Hardware unter permanente internationale Überwachung zu stellen. Und wenn ein Land die Regeln bricht? Hier wird das Buch wirklich erschreckend. Wenn ein Staat trotzdem ein verbotenes Rechenzentrum baut, argumentieren die Autoren, dass andere Nationen bereit sein müssen, es per Cyberangriff, Sabotage oder Luftangriff zu zerstören. Und entscheidend ist, sie argumentieren dies auch dann, wenn das beleidigte Land mit nuklearer Vergeltung droht, denn in ihrer Logik ist ein unbeaufsichtigtes Rechenzentrum eine größere Bedrohung für die Menschheit als eine Atombombe. Jeder einzelne Schritt in der Argumentation ist als erzwungen und widerwillig dargestellt, aber zusammengefasst addieren sie sich zu einem System der totalen Überwachung der globalen Rechenleistung, eines kriminalisierten wissenschaftlichen Feldes und einer Doktrin, die militärische Angriffe auf souveräne Staaten autorisiert, alles gerechtfertigt als Schutz der Zukunft der Menschheit. Sie bitten die Leser nicht, auf KI-Tools zu verzichten, sie nennen das eine Falle, die nichts ändert, wenn man der einzige ist, der sich zurückzieht. Stattdessen bitten sie die Menschen, einfach öffentlich über das Risiko zu sprechen. Für diejenigen, die getan haben, was sie konnten, leihen sie eine Zeile von C.S. Lewis: Besser, gefunden zu werden, während man anständige, menschliche Dinge tut, beten, arbeiten, unterrichten, Spiele mit Freunden spielen, als sich als erschrockene Menge zu verstecken, die von der Bombe besessen ist. Wissenschaftsjournalist Adam Becker, der das Buch für The Atlantic rezensierte, nannte die Autoren aufrichtig und keine Scharlatane, sagte aber, sie lieferten nie wissenschaftliche Beweise für ihre zentralen Behauptungen. Clara Collier wies darauf hin, dass die tragendste Annahme des Buches, ein schneller, fast augenblicklicher Sprung von menschlicher KI zu göttlicher Superintelligenz, kaum verteidigt wird.