Ссылка
click to show
click to show
Der Fluch der Rekursion: Warum künstliche Intelligenz an sich selbst erstickt und der menschliche Geist ihr wertvollster Rohstoff wird
Hast du auch manchmal das Gefühl dass die KI über die Zeit irgendwie "dümmer" wird. Die Texte klingen flacher und teilweise wenig kreativ.
Auf arXiv findet sich gerade ein interessantes Paper („The Curse of Recursion: Training on Generated Data Makes Models Forget“) und sorgt aktuell für tiefgreifende Diskussionen in der Forschungsgemeinschaft.
Die Forscher um Ilia Shumailov beleuchten darin ein essenzielles Phänomen, sie untersuchen, was passiert, wenn wir zukünftige KI-Modelle mit den Inhalten trainieren, die das heutige Internet bereits massiv fluten. Also mit Texten, Bildern und Daten, die ihrerseits von künstlicher Intelligenz generiert wurden. Das Ergebnis dieses Prozesses nennen sie „Model Collapse“ (Modellkollaps).
Füttert sich eine KI also fortlaufend mit KI-generierten Daten, verschwinden allmählich die sogenannten Ränder der statistischen Verteilung.
Das bedeutet konkret: Das Ungewöhnliche, die feinen Nuancen, die abweichenden Gedanken und die genialen, unerwarteten Sprünge gehen unwiderruflich verloren und das Modell vergisst die ursprüngliche Vielfalt. Ein immer flacher werdender Einheitsbrei, aus reinen Durchschnittswahrscheinlichkeiten, bleibt zurück. Das System dreht sich fortan in einer endlosen Rekursionsschleife und büßt damit seinen Bezug zur vielschichtigen, lebendigen Realität ein.
Die Studie zeigt auf algorithmischer Ebene eine tiefe philosophische Wahrheit: Synthetische Systeme bedürfen zwingend der Reibung, der Unberechenbarkeit und der Lebendigkeit echter menschlicher Erfahrungen, um kognitiv stabil und auch innovativ zu bleiben.
Also der gemeine Mensch mit all seinen Ecken, Kanten, seiner emotionalen Tiefe und seiner intuitiven Genialität und teilweise grenzenloser Dummheit bildet das fundamentale Fundament.
Er liefert den unersetzlichen organischen Funken, der die Maschine davor bewahrt, in völl
173 ·