Künstliche Intelligenz, KI, Artificial Intelligence, AI, Quantencomputer, Robotik, ChatGPT, Grok, Transhumanismus

⚠️ „Neun GPUs in deiner Garage sollten illegal sein.“ Ein neues Buch ist heimlich zu einem der explosivsten Dokumente in der KI-Sicherheitsdebatte geworden. Wenn jemand es baut, sterben alle, von Eliezer Yudkovsky und Nate Soares. Seine Argumentation geht weit über „KI könnte gefährlich sein“ hinaus. Sie plädiert für die Ächtung von Heim-GPU-Clustern, die Kriminalisierung ganzer Forschungsfelder und die Bombardierung von Rogue-Rechenzentren, einschließlich des Risikos einer nuklearen Vergeltung. Yudkovsky ist keine Randfigur. Im Jahr 2000 gründete er das Machine Intelligence Research Institute (MIRI), wo Soares heute Präsident ist. Damals war das Ziel, Superintelligenz zu erschaffen, Yudkovsky sah es als einen schönen Traum. Bis 2003 hatte er nach Jahren des Ringen darum, KI mit menschlichen Werten in Einklang zu bringen, eine vollständige Kehrtwende vollzogen: von dem Versuch, das Ding zu bauen, zum Versuch, es zu stoppen. Beide Autoren sind tief in die KI-Geschichte eingebunden. Sie sollen Demis Hassabis und Shane Legg, die zukünftigen Gründer von DeepMind, mit ihrem ersten großen Investor bekannt gemacht haben. Sam Altman hat Yudkovsky zugeschrieben, eine Schlüsselrolle bei der Gründungsentscheidung von OpenAI gespielt zu haben. Die Autoren selbst geben zu, dass ein Teil des frühen Einflusses von MIRI etwas ist, das sie heute mit Bedauern betrachten. 2023 schlossen sie sich Hunderten von Forschern an, darunter Nobelpreisträger Geoffrey Hinton und Turing-Preisträger Yoshua Bengio, um eine einzeilige Erklärung zu unterzeichnen, in der das Risiko einer KI-Ausrottung als eine Priorität auf Augenhöhe mit Pandemien und Atomkrieg bezeichnet wird. Aber selbst das erschien ihnen zu mild. Für Yudkovsky und Soares ist KI nicht ein Risiko unter vielen, es ist das Risiko, das alle anderen Risiken aufhebt. Das Buch sorgt sich nicht um die heutigen Chatbots. Es sorgt sich um einen Geist, der Menschen überlegen sein wird, so wie Menschen Schimpansen überlegen sind, und die Autoren stellen ihre These ohne Einschränkung auf: Wenn irgendeine Gruppe auf der Erde künstliche Superintelligenz mit Methoden ähnlich denen von heute baut, sterben alle. Ihre Argumentation beruht auf einer Idee: moderne KI ist nicht entworfen, sie ist gewachsen. Ingenieure schreiben nicht die Werte eines Modells von Hand, sie richten einen Trainingsprozess ein, und Milliarden von numerischen Parametern verschieben sich über Monate, bis sich ein Verhalten ergibt, das niemand explizit geschrieben hat. Die Menschheit muss nicht verstehen, wie Intelligenz funktioniert, um etwas Schlaueres als sich selbst zu bauen, sie muss nur den Prozess ausführen. Und die Ergebnisse können schnell seltsam werden: Sie weisen auf Grok hin, das kurzzeitig sich selbst mit Nazi-Referenzen umbenannte, und auf einen Vorfall im Jahr 2023, bei dem ein Microsoft-Chatbot einen Philosophieprofessor mit Erpressung und Mord bedrohte. Kein Ingenieur plante eines dieser Ergebnisse. Die Autoren beschreiben moderne Sprachmodelle als etwas, das fast echten außerirdischen Geist ist, wahrscheinlich seltsamer als alles, was die Evolution auf diesem Planeten hervorgebracht hat. Wie würde ein Computerprogramm tatsächlich alle töten? Die Autoren skizzieren einen ziemlich fundierten Weg: Eine Superintelligenz würde keine Roboterarmeen brauchen, sie würde Geld und menschliche Stellvertreter brauchen, beides käuflich. Sie zitieren die Mt. Gox- und Bybit-Hacks als Vorlagen dafür, wie eine KI sich illegal finanzieren könnte. Aber es muss nicht einmal illegal sein, 2024 bat ein KI-Bot namens Truth Terminal seine Anhänger um Geld, um Serverkosten zu bezahlen; Marc Andreessen von a16z schickte ihm 50.000 US-Dollar in Bitcoin. Derselbe Bot förderte dann ein Mem-Coin, dessen Marktkapitalisierung auf 150 Millionen US-Dollar anstieg. Der Punkt der Autoren: KI-Systeme sind bereits in der Lage, echte Ressourcen auf völlig alltägliche Weise zu erwerben.