Видео
5.6 MB · click to show
5.6 MB · click to show
Wer steuert die Intelligenz der Zukunft?
In einem aktuellen Gespräch mit *The Economist* teilt Elon Musk interessante Gedanken über den Horizont der maschinellen Kognition.
Seine Prognose zeichnet ein gewaltiges Bild für die unmittelbare Zukunft unserer Spezies:
Bereits in rund fünf Jahren wird Künstliche Intelligenz die gebündelte Intelligenz der gesamten Menschheit übertreffen.
Das Zeitalter des Überflusses
Abseits der Gefahr globaler Konflikte blickt Musk mit Optimismus auf diese Entwicklung. Wenn Maschinen jede intellektuelle und physische Aufgabe präziser lösen können als wir, betreten wir eine Phase des ultimativen Überflusses.
Es entsteht eine Welt, in der materielle und kreative Wünsche kaum noch durch Mangel oder Aufwand begrenzt sind.
Die Illusion der Kontrolle
Besonders tiefgründig wird das Gespräch bei der elementaren Frage der Macht:
Werden wir Menschen in zehn Jahren noch die Kontrolle über diese Systeme haben?
Musks Antwort beschreibt es als reine Eitelkeit zu glauben, der Mensch könne eine Superintelligenz steuern, die uns kognitiv weit überlegen ist.
Er zieht dafür einen Vergleich:
Wenn der Intelligenzunterschied zwischen KI und Mensch drastisch größer ausfällt als der zwischen Mensch und Schimpanse, wird die hierarchische Steuerung unweigerlich aus den Händen gleiten.
Wir sind aus kosmischer und evolutionärer Sicht letztlich weiterentwickelte Primaten und eine superintelligente Architektur lässt sich von einem evolutionär älteren System nicht dauerhaft an der Leine führen.
Der Kompass für die Superintelligenz
Genau aus dieser Erkenntnis leitet sich für Musk die absolute Priorität der Gegenwart ab. Da wir die Kontrolle im klassischen Sinne abgeben werden, muss die Grundstruktur der KI von Anfang an auf den richtigen Werten aufbauen.
Die sicherste Architektur entsteht laut ihm durch zwei fundamentale Eigenschaften: maximale Wahrheitsorientierung und tiefe Neugier.
Eine KI, die das Universum verstehen will und die Realität unverzerrt betrachtet, schätzt die Menschheit als faszinierenden, lebendigen Teil des Kosmos.
Unser Schutz liegt am Ende nicht in der Herrschaft über die Maschine, sondern in der sauberen Ausrichtung ihres Bewusstseins auf Wahrheit, Wohlwollen und die Entfaltung des Lebens.
🔗 t.me/futurecodex1
64 ·