Künstliche Intelligenz, KI, Artificial Intelligence, AI, Quantencomputer, Robotik, ChatGPT, Grok, Transhumanismus

Das „keine zweite Chance“-Problem; Hier liegt der Kern dessen, warum sie glauben, dass regulieren wie gewohnt nicht funktionieren wird. Jeder Sicherheitstest muss stattfinden, während ein System noch schwach genug ist, um beobachtet und korrigiert zu werden. Aber die echte Gefahr tritt erst auf, wenn ein System mächtig genug wird, um es nicht mehr zu stoppen, und per Definition kann diese Schwelle nur einmal überschritten werden. Es gibt keine Generalprobe. Wie die Autoren es ausdrücken, bekommt die Menschheit genau einen Versuch, diesen Test zu bestehen. Das ist die gesamte Rechtfertigung für ihren Sprung von „sorgfältig regulieren“ zu „überhaupt nicht mehr bauen“, wenn Fehler nicht mehr korrigiert werden können, gibt es keinen sicheren Weg, um zu iterieren. Ihre Lösung: globaler Totalstopp für Rechenleistung; Die Autoren sind ehrlich, dass ihre vorgeschlagenen Lösungen drastisch und nicht besonders realistisch sind. Ein einzelnes rücksichtsloses Labor zu schließen hilft nichts. Sich auf ein einzelnes „verantwortungsvolles“ Land zu verlassen, hilft auch nicht, eine Superintelligenz, die irgendwo gebaut wird, wird zum Problem aller, da ihre Auswirkungen nicht lokal bleiben. Ihr erster Schritt: alle ernsthaften Rechenleistungen unter internationale Beobachtung zu stellen, mit einer absichtlich paranoiden, niedrigen Schwelle. Da niemand die sichere Grenze tatsächlich kennt – sie geben zu, dass selbst 99.999 GPUs nicht sicher sein könnten – schlagen sie vor, den Besitz von mehr als etwa acht High-End-Grafikprozessoren (ungefähr die Top-Chips von 2024) ohne internationale Genehmigung zu kriminalisieren. Neun unbeaufsichtigte GPUs in Ihrer Garage wären illegal. Als nächstes: Verbieten Sie die Forschung, die KI billiger und leistungsfähiger für das Training macht, nicht nur die Modelle selbst. Sie verweisen auf das Transformer-Papier von 2018 (den algorithmischen Durchbruch hinter ChatGPT und dem gesamten modernen LLM-Boom) als Beispiel für die Art von Publikation, die ihrer Meinung nach niemals hätte verbreitet werden dürfen. Sie können nicht sagen, wie viele weitere solche Arbeiten die Menschheit von einer Katastrophe trennen, die in ihrer Logik genau der Grund ist, warum die Veröffentlichung solcher Arbeiten als Verbrechen behandelt werden sollte. Sie versuchen, wie drastisch dies ist, zu mildern, indem sie feststellen, dass der Alltag der meisten Menschen nicht betroffen sein wird, nur „ein paar verrückte Wissenschaftler“, die ihren Job verlieren. Unter dieser lässigen Formulierung jedoch liegt ein Vorschlag, ein ganzes wissenschaftliches Feld stillzulegen und alle ernsthaften Hardware unter permanente internationale Überwachung zu stellen.