Künstliche Intelligenz, KI, Artificial Intelligence, AI, Quantencomputer, Robotik, ChatGPT, Grok, Transhumanismus

Und wenn ein Land die Regeln bricht? Hier wird das Buch wirklich erschreckend. Wenn ein Staat trotzdem ein verbotenes Rechenzentrum baut, argumentieren die Autoren, dass andere Nationen bereit sein müssen, es per Cyberangriff, Sabotage oder Luftangriff zu zerstören. Und entscheidend ist, sie argumentieren dies auch dann, wenn das beleidigte Land mit nuklearer Vergeltung droht, denn in ihrer Logik ist ein unbeaufsichtigtes Rechenzentrum eine größere Bedrohung für die Menschheit als eine Atombombe. Jeder einzelne Schritt in der Argumentation ist als erzwungen und widerwillig dargestellt, aber zusammengefasst addieren sie sich zu einem System der totalen Überwachung der globalen Rechenleistung, eines kriminalisierten wissenschaftlichen Feldes und einer Doktrin, die militärische Angriffe auf souveräne Staaten autorisiert, alles gerechtfertigt als Schutz der Zukunft der Menschheit. Sie bitten die Leser nicht, auf KI-Tools zu verzichten, sie nennen das eine Falle, die nichts ändert, wenn man der einzige ist, der sich zurückzieht. Stattdessen bitten sie die Menschen, einfach öffentlich über das Risiko zu sprechen. Für diejenigen, die getan haben, was sie konnten, leihen sie eine Zeile von C.S. Lewis: Besser, gefunden zu werden, während man anständige, menschliche Dinge tut, beten, arbeiten, unterrichten, Spiele mit Freunden spielen, als sich als erschrockene Menge zu verstecken, die von der Bombe besessen ist. Wissenschaftsjournalist Adam Becker, der das Buch für The Atlantic rezensierte, nannte die Autoren aufrichtig und keine Scharlatane, sagte aber, sie lieferten nie wissenschaftliche Beweise für ihre zentralen Behauptungen. Clara Collier wies darauf hin, dass die tragendste Annahme des Buches, ein schneller, fast augenblicklicher Sprung von menschlicher KI zu göttlicher Superintelligenz, kaum verteidigt wird.Das „keine zweite Chance“-Problem; Hier liegt der Kern dessen, warum sie glauben, dass regulieren wie gewohnt nicht funktionieren wird. Jeder Sicherheitstest muss stattfinden, während ein System noch schwach genug ist, um beobachtet und korrigiert zu werden. Aber die echte Gefahr tritt erst auf, wenn ein System mächtig genug wird, um es nicht mehr zu stoppen, und per Definition kann diese Schwelle nur einmal überschritten werden. Es gibt keine Generalprobe. Wie die Autoren es ausdrücken, bekommt die Menschheit genau einen Versuch, diesen Test zu bestehen. Das ist die gesamte Rechtfertigung für ihren Sprung von „sorgfältig regulieren“ zu „überhaupt nicht mehr bauen“, wenn Fehler nicht mehr korrigiert werden können, gibt es keinen sicheren Weg, um zu iterieren.