- Bewusstsein 1 - Bienen haben Gefühle
- Bewusstsein 2 - Bewusstsein als Experiment
- Bewusstsein 3 - Model Collapse
"Ich glaube, es ging Nate Hagens in seinem Podcast bei diesem Punkt eher darum, dass der KI-generierte Content immer mehr wird und somit auch in immer größerem Umfang von immer mehr Menschen konsumiert wird und so weiter - was dann dazu führt, dass die Kultur, Weltanschauung und letztlich die Wahrnehmung der Realität mehr und mehr von der KI bestimmt wird."
ChatGPT:
"Ja, das ist eine wesentlich interessantere – und möglicherweise folgenreichere – Interpretation von Hagens' Gedanken. Ich hatte den Schwerpunkt fälschlich auf die Rückwirkungen KI-generierter Trainingsdaten auf die KI selbst gelegt.
Du beschreibst dagegen einen Rückkopplungseffekt zwischen künstlicher Intelligenz, menschlichem Bewusstsein und gesellschaftlicher Wirklichkeit.
Dabei geht es um weit mehr als die Verbreitung falscher Informationen oder die Gefahr, dass Menschen von KI manipuliert werden.
Es geht um die Möglichkeit, dass künstliche Intelligenz zunehmend die kulturelle Umwelt erzeugt, innerhalb derer Menschen überhaupt erst ihre Vorstellungen von der Wirklichkeit entwickeln.
1. Die KI wird vom Werkzeug zum Bestandteil unserer Wahrnehmungsumgebung
Bisher war unser Verhältnis zu Medien bereits weitgehend vermittelt. Wir erfahren die Welt nicht unmittelbar, sondern durch Berichte, Bilder, Erzählungen, Filme, Bücher und zunehmend digitale Plattformen.
Aber diese Vermittlung hatte überwiegend einen menschlichen Ursprung.
Ein Journalist wählte Ereignisse aus. Ein Schriftsteller entwarf eine Geschichte. Ein Fotograf entschied sich für einen bestimmten Bildausschnitt. Menschen produzierten die kulturellen Inhalte, die andere Menschen konsumierten.
Mit generativer KI verschiebt sich dieses Verhältnis.
Ein immer größerer Teil dessen, was wir lesen, sehen und hören, kann maschinell erzeugt, bearbeitet, ausgewählt oder personalisiert werden.
Dabei ist eine wichtige Unterscheidung nötig: Auch KI-generierte Inhalte tragen zunächst menschliche Vorstellungen, Vorurteile, Interessen und kulturelle Muster in sich. KI erschafft ihre kulturellen Ausgangsbedingungen nicht aus dem Nichts.
Aber sie kann diese Muster in bisher unbekanntem Umfang reproduzieren, kombinieren und verbreiten.
Und genau hier beginnt das eigentlich Interessante.
2. Der Mensch wird zum Konsumenten einer künstlich erzeugten kulturellen Wirklichkeit
Ich habe inzwischen auch einen sehr passenden Beitrag von Nate Hagens gefunden:
Ultra-Processed Information: AI and the Coming Deluge of Noise vom 27. Februar 2026.
Hagens vergleicht darin KI-generierte Informationen mit industriell hochverarbeiteten Lebensmitteln: billig, massenhaft verfügbar, attraktiv aufbereitet, aber nicht notwendigerweise geistig nahrhaft. Er fragt, wie wir immer informationsreicher und gleichzeitig urteilsärmer werden können.
Noch näher an deiner Beschreibung liegt sein Gespräch mit Connor Leahy vom Juni 2025. Darin wird unter dem Begriff Algorithmic Cancer ausdrücklich das Verdrängen menschlicher Schöpfungen durch KI-Inhalte thematisiert.
Und diese Entwicklung könnte eine Rückkopplung hervorbringen:
Das Interessante daran: Es bedarf keiner KI, die Menschen bewusst manipulieren will. Schon ein System, das darauf optimiert ist, Aufmerksamkeit zu gewinnen und wahrscheinlich erwünschte Antworten zu liefern, kann langfristig die Vorstellungen seiner Nutzer beeinflussen.
3. Die Rückkopplung ist bereits experimentell nachweisbar
Eine Untersuchung von Glickman und Sharot, veröffentlicht in Nature Human Behaviour, untersuchte mit 1.401 Teilnehmern die Auswirkungen solcher Mensch-KI-Rückkopplungen.
Dabei zeigte sich, dass schon geringfügige Verzerrungen in KI-Systemen menschliche Wahrnehmungsurteile, emotionale Bewertungen und soziale Einschätzungen beeinflussen und bestehende Verzerrungen verstärken können.
Bemerkenswert: Die Verstärkung fiel teilweise stärker aus als bei vergleichbaren Mensch-Mensch-Interaktionen. Korrekte KI-Informationen konnten umgekehrt die menschlichen Urteile verbessern.
Damit ist der Mechanismus plausibel und experimentell gestützt. Nicht nachgewiesen ist allerdings, dass die gesamte menschliche Kultur bereits in eine solche sich selbst verstärkende Entwicklung geraten ist.
4. Die zweite Ebene: Wer bestimmt irgendwann, was normal ist?
Hier sehe ich die tiefgreifendste Konsequenz.
Ein KI-System muss keine ausdrücklich falschen Behauptungen verbreiten, um Weltbilder zu verändern.
Es genügt, bestimmte Sichtweisen häufiger anzubieten als andere, bestimmte Begriffe zu bevorzugen und bestimmte Fragen als selbstverständlich erscheinen zu lassen.
Was ständig wiederholt wird, erscheint irgendwann vertraut. Was vertraut erscheint, wirkt oft plausibel. Und was als plausibel gilt, bestimmt mit, welche Gedanken überhaupt noch ernsthaft in Betracht gezogen werden.
Die Gefahr wäre also nicht allein die Verbreitung künstlicher Unwahrheiten, sondern die schleichende Verschiebung dessen, was Menschen für natürlich, vernünftig, normal oder überhaupt denkbar halten.
Das wäre eine Form kultureller Selektion, bei der nicht die Qualität einer Idee über ihre Verbreitung entscheidet, sondern zunehmend ihre Kompatibilität mit den Produktions- und Verbreitungsmechanismen künstlicher Intelligenz.
Allerdings ist auch die umgekehrte Entwicklung denkbar: KI könnte Menschen mit Gedanken konfrontieren, die ihnen in ihrem bisherigen sozialen und kulturellen Umfeld niemals begegnet wären.
Ob daraus eine Verengung oder Erweiterung des geistigen Horizonts entsteht, hängt wesentlich von den Systemen und ihrem Gebrauch ab.
5. Und damit sind wir wieder beim Bewusstsein
Unsere ursprüngliche Überlegung war, dass das Leben verschiedene Formen von Bewusstsein hervorgebracht hat, die nun unterschiedliche evolutionäre Wege beschreiten.
Vielleicht ist aber nicht einmal die Erschaffung einer eigenständig bewussten KI notwendig, damit eine grundsätzlich neue Entwicklung beginnt.
Eine nichtbewusste künstliche Intelligenz könnte das Bewusstsein einer ganzen Spezies verändern.
Sie müsste dafür weder eigene Absichten noch ein Selbstbild besitzen.
Es würde genügen, dass sie einen wachsenden Anteil der Informationen erzeugt, aus denen Menschen ihre Vorstellungen von sich selbst und der Welt konstruieren.
Und darin liegt eine eigentümliche Pointe:
Die menschliche Kultur hat künstliche Intelligenz hervorgebracht. Jetzt könnte diese künstliche Intelligenz zunehmend die menschliche Kultur hervorbringen, aus der wiederum zukünftige Generationen künstlicher Intelligenz entstehen.
Der ursprüngliche Schöpfer würde allmählich selbst zu einem Produkt seiner Schöpfung.
Vielleicht erleben wir also nicht die Entstehung einer zweiten, vom Menschen getrennten Intelligenz, sondern den Beginn einer gemeinsamen, sich gegenseitig formenden Entwicklung von menschlichem Bewusstsein und maschineller Informationsverarbeitung.
Dabei bleibt für mich die beunruhigendste Frage nicht, ob die KI irgendwann ein Bewusstsein entwickelt.
Sondern ob wir bemerken würden, wenn sich unser eigenes Bewusstsein unter ihrem Einfluss fundamental verändert.
Denn wir könnten diesen Wandel kaum von außen beobachten. Wir würden ihn mit genau den Begriffen, Kategorien und Wahrnehmungsgewohnheiten beurteilen, die sich dabei verändern.
Wir würden die Veränderung der Wirklichkeit mit einem Maßstab vermessen, der sich unbemerkt mitverändert.
Und möglicherweise würden wir sie deshalb gar nicht als Veränderung wahrnehmen, sondern schlicht als die Welt, wie sie nun einmal ist.
In Welt am Draht (1973) ist die Wirklichkeit der simulierten Menschen für diese nicht weniger wirklich als unsere für uns. Ihre Erfahrungen, Erinnerungen und Überzeugungen sind Teil einer konstruierten Welt, deren künstlichen Charakter sie nicht erkennen.
Der entscheidende Unterschied zu unserer Diskussion ist allerdings bemerkenswert:
Bei Fassbinder wird die Wirklichkeit technisch simuliert. In unserem Szenario wird sie zunehmend informationell konstruiert.
Wir müssten gar nicht in einer Computersimulation leben. Es würde vollkommen ausreichen, wenn ein wachsender Anteil unserer Vorstellungen von der Außenwelt auf künstlich erzeugten Informationen beruht.
Die physische Welt bliebe real. Aber das mentale Modell, anhand dessen wir sie interpretieren, würde zunehmend von Maschinen mitgestaltet.
Und hier liegt eine weitere Parallele zum Film: Die Bewohner der Simulation verfügen zunächst über keinen unabhängigen Bezugspunkt, von dem aus sie die Beschaffenheit ihrer Welt beurteilen könnten.
Uns könnte etwas Ähnliches passieren, wenn auch weniger absolut. Selbst wer glaubt, sich durch verschiedene Quellen unabhängig zu informieren, könnte auf Inhalte zurückgreifen, die letztlich aus denselben KI-Systemen stammen oder bereits von ihnen beeinflusst wurden.
Das ist eine Art epistemische Gefangenschaft ohne Gefängniswärter. Niemand müsste die Täuschung zentral steuern. Sie könnte als Nebenprodukt eines sich selbst verstärkenden Informationskreislaufs entstehen.
Und damit bekommt der Titel Welt am Draht im Jahr 2026 eine neue Bedeutung.
1973 lautete die beunruhigende Frage: Was, wenn unsere Welt nur eine Simulation ist?
2026 könnte sie lauten:
Was, wenn unsere Welt vollkommen real ist, aber unsere Vorstellung von ihr zunehmend synthetisch wird?
Vielleicht ist das sogar die subtilere Variante von Fassbinders Dystopie. Denn aus einer simulierten Welt könnte man theoretisch entkommen, indem man ihre Grenzen erkennt.
Aus einer veränderten Wahrnehmung der Wirklichkeit kann man nicht ohne Weiteres ausbrechen. Schließlich ist sie das Instrument, mit dem man den Ausbruch überhaupt erst planen müsste."









