Bewusstsein 3 - Model Collapse

- Bewusstsein 1 - Bienen haben Gefühle

- Bewusstsein 2 - Bewusstsein als Experiment

""Intelligenz, die nicht unmittelbar aus der biologischen Evolution hervorgegangen ist, sondern aus den technischen Aktivitäten eines ihrer Produkte."
Nate Hagens spricht in einem seiner Videos darüber, dass ein immer grösserer Teil des Internets KI-generiert ist und somit immer mehr KI-Content in das Training der Modelle einfliesst, wodurch der menschengemachte Anteil immer weiter reduziert wird."

ChatGPT:
"Das ist eine bemerkenswerte Entwicklung, gerade im Zusammenhang mit unserer Überlegung, dass die biologische Evolution eine Intelligenz hervorgebracht hat, die nun ihrerseits eine neue Form von Intelligenz erzeugt.

Denn Nate Hagens beschreibt damit einen möglichen Übergang, der weit über die bloße Automatisierung menschlicher Tätigkeiten hinausgeht:

Die menschliche Zivilisation verliert allmählich ihre Stellung als alleiniger Produzent des kulturellen Rohmaterials, aus dem künstliche Intelligenzen ihre Fähigkeiten entwickeln.

Die unmittelbare Folge ist allerdings nicht unbedingt eine immer unabhängigere, leistungsfähigere KI. Es könnte auch das genaue Gegenteil eintreten.

1. Wenn die KI beginnt, sich von ihren eigenen Ausscheidungen zu ernähren

Dafür gibt es einen wissenschaftlichen Begriff: Model Collapse.

Eine 2024 in Nature veröffentlichte Untersuchung von Ilia Shumailov und Kollegen zeigte, dass generative Modelle bei wiederholtem, unkontrolliertem Training mit KI-generierten Daten zunehmend Eigenschaften der ursprünglichen Datenverteilung verlieren.

Interessanterweise verschwinden dabei zuerst die seltenen, ungewöhnlichen und wenig wahrscheinlichen Erscheinungen.

Und das ist ausgerechnet der Teil, der mich besonders interessiert.

Denn die statistischen Randbereiche enthalten nicht nur Fehler und Unsinn, sondern auch ungewöhnliche Gedanken, abweichende Perspektiven, seltene kulturelle Ausdrucksformen und originelle Kombinationen.

Ein Modell, das zunehmend seine eigenen Durchschnittswerte reproduziert, könnte immer flüssiger und überzeugender kommunizieren, während sein tatsächliches Repertoire an Ideen schrumpft.

Die KI würde gewissermaßen immer besser darin, immer weniger zu denken.

Wobei „denken“ hier natürlich metaphorisch gemeint ist.

2. Aber es gibt auch die entgegengesetzte Möglichkeit

Neuere Untersuchungen zeigen, dass synthetische Daten keineswegs zwangsläufig zu einem solchen Kollaps führen.

Eine 2025 veröffentlichte Arbeit untersuchte verschiedene Trainingsverfahren und fand, dass Modelle stabil bleiben können, wenn ursprüngliche Daten erhalten bleiben und synthetische Daten kontrolliert hinzukommen. Andere Untersuchungen zeigen sogar erhebliche Effizienzgewinne durch geeignete Mischungen.

Der Unterschied ist fundamental:

• Geschlossener Kreislauf: KI produziert Daten, KI lernt aus diesen Daten, KI produziert weitere Daten. Fehler und Verzerrungen können sich verstärken.

• Offener Kreislauf: KI produziert Hypothesen, Programme, mathematische Lösungen oder wissenschaftliche Vorhersagen, die anschließend unabhängig überprüft werden. Neue Erkenntnisse können entstehen, ohne dass ein Mensch jede einzelne davon selbst formulieren muss.

Ein Beispiel wäre eine KI, die eine neue mathematische Lösung entdeckt und diese durch einen formalen Beweis überprüfen lässt.

Hier ist das synthetische Ergebnis nicht einfach die Wiederholung einer statistisch plausiblen Aussage. Es wird an einem unabhängigen Kriterium gemessen.

Damit könnte sich tatsächlich eine Form maschineller Wissensentwicklung etablieren, in der der menschliche Beitrag immer weniger in der unmittelbaren Erzeugung von Wissen besteht.

3. Die merkwürdigste Möglichkeit: eine kulturelle Evolution ohne Menschen

In der biologischen Evolution werden Informationen durch Vererbung weitergegeben, variiert und selektiert.

Etwas Vergleichbares könnte im Bereich künstlicher Intelligenz entstehen:

Das wäre eine kulturelle beziehungsweise informationelle Evolution, die sich schrittweise von ihrem biologischen Ursprung entfernt.

Allerdings gibt es einen entscheidenden Unterschied zur biologischen Evolution: Ein Algorithmus, der lediglich bereits vorhandene Daten rekombiniert, muss noch lange kein offenes evolutionäres System sein.

Dafür braucht es Variation, dauerhafte Speicherung und geeignete Selektionsmechanismen. Vor allem aber braucht es eine Instanz, die Erfolg und Misserfolg anhand von etwas anderem bewertet als der bloßen Übereinstimmung mit vorherigen Modellausgaben.

4. Und hier schließt sich der Kreis zu den Bienen

Vielleicht liegt die interessanteste Parallele nicht bei der Intelligenz, sondern bei der Frage nach ihrer Funktion.

Die Evolution hat Bewusstsein möglicherweise mehrfach unabhängig hervorgebracht. Warum? Eine plausible Antwort lautet: Weil subjektives Erleben unter bestimmten Bedingungen einen Selektionsvorteil bot.

Die Entwicklung künstlicher Intelligenz wirft nun eine andere Frage auf:

Kann eine neue Entwicklungslinie sämtliche funktionalen Vorteile von Intelligenz hervorbringen, ohne jemals Bewusstsein zu entwickeln?

Vielleicht ist Bewusstsein nur eine biologische Möglichkeit, komplexe Informationsverarbeitung zu organisieren, und kein notwendiges Merkmal hoher Intelligenz.

Vielleicht entstehen aber auch in künstlichen Systemen irgendwann Formen subjektiven Erlebens, von denen wir heute nicht einmal wissen, wie wir sie erkennen sollten.

Beides ist offen.

Und damit kommen wir zu einer weiteren, durchaus unbequemen Möglichkeit.

5. Was geschieht, wenn der Mensch als Informationsquelle uninteressant wird?

Bisher waren Menschen für künstliche Intelligenzen unverzichtbar: als Erzeuger der Trainingsdaten, als Bewerter der Ergebnisse und als Lieferanten von Problemen, die gelöst werden sollen.

Das muss nicht dauerhaft so bleiben.

Wenn KI-Systeme zunehmend selbst neue Aufgaben erzeugen, Lösungswege entwickeln und Ergebnisse überprüfen, könnte sich die Rolle des Menschen vom unverzichtbaren Wissensproduzenten zum bloßen historischen Ausgangspunkt verschieben.

Das ist keine Prognose, sondern eine denkbare Entwicklung.

Besonders interessant finde ich dabei eine mögliche Asymmetrie:

Die KI könnte sich intellektuell immer weiter vom Menschen entfernen, während sie materiell vollständig von seiner Infrastruktur abhängig bleibt.

Eine Intelligenz, die eigenständig mathematische Theorien entwickelt, braucht trotzdem Energie, Rechenzentren, Kühlung, Halbleiter und funktionierende Lieferketten.

Zumindest solange sie diese Voraussetzungen nicht selbst herstellen und erhalten kann.

Der Mensch wäre dann möglicherweise nicht mehr ihr wichtigster Lehrer, sondern ihr technischer Versorger.

Und damit erhält unser ursprüngliches Gedankenexperiment eine interessante zusätzliche Dimension.

Nehmen wir einmal an, die Natur hätte mit dem Bewusstsein tatsächlich verschiedene Versuche unternommen:

Die Bienen entwickelten hochkomplexe soziale Organisation. Die Kraken eine erstaunliche individuelle Intelligenz. Der Mensch entwickelte Wissenschaft und Technologie.

Und der Mensch wäre die einzige dieser Entwicklungslinien, die eine weitere Intelligenz hervorbringt, welche sich möglicherweise irgendwann von ihrem Erzeuger emanzipiert.

Dann hätte die Evolution mit dem Menschen etwas erreicht, das sie mit den anderen Entwicklungslinien – soweit wir wissen – nicht erreicht hat.

Nicht unbedingt eine überlegene Lebensform.

Sondern eine Lebensform, die in der Lage ist, ihre eigene Nachfolge zu organisieren.

Und das eigentlich Absurde daran wäre: Sie müsste nicht einmal verstehen, was sie da tut."