„Wenn jeder dich immerzu anlügt, dann ist die Folge nicht, dass du die Lügen glaubst, sondern vielmehr, dass keiner mehr irgendetwas glaubt.“ (Hannah Arendt, 1974)

Der Weltrisikobericht des Weltwirtschaftsforums sieht 2025 erneut die Desinformation, also die klassische Lüge, auf dem ersten Platz der weltweit größten globalen Risiken – noch vor Klimakatastrophen und Kriegen.¹ Die Desinformation gilt als Brandbeschleuniger; sie erhöhe die Wahrscheinlichkeit für sämtliche anderen Katastrophen. Die These dieser kleinen Abhandlung über den ‚KI‘-Angriff auf Wahrheit ist: Der aktuelle ‚Normalzustand‘ digitaler Kommunikation und Wissensproduktion, in dem die großen ‚KI‘-Sprachmodelle mit den sozialen Medien als Resonanz- und Trainingsdatenraum dominieren, zersetzt Wahrheit in deutlich größerem Ausmaß als die ‚Ausnahme‘ der Desinformations-Angriffe auf eben diesen ‚Normalzustand‘. Dieser Zersetzungsprozess ist grundlegender und schwerer abzuwehren. Die eigentliche Krise der Wahrheit und mit ihr die Krise der politischen Öffentlichkeit kommen ganz ohne die klassische Lüge aus. Die Krisen basieren auf systematischem bullshitting, also der massenhaften Produktion von Inhalt ohne jegliche Berücksichtigung dessen Wahrheitsgehalts – in der (politischen) Absicht, das Konzept Wahrheit abzuwerten, also die Frage „wahr oder falsch?“ machtvoll für irrelevant zu erklären.

Unbequeme Wahrheiten

Der US-amerikanische Energieminister Chris Wright wies 2025 sein Ministerium an, das unter anderem für den Klimaschutz zuständig ist, die Website mit den National Climate Assessments abzuschalten. Damit wurden sämtliche Berichte, in denen USA-weit detailliertes Klimawissen gesammelt wird, unzugänglich gemacht mit dem lapidaren Pressestatement des Energieministers; „Wir überprüfen sie und werden Updates und Kommentare zu den Berichten vorlegen.“

Eine seit 1980 gepflegte Datenbank der Klimabehörde Noaa über Extremwetterereignisse und die dadurch verursachten Schäden² wird nicht mehr weitergeführt. Hunderte ihrer Mitarbeiter*innen wurden entlassen, darunter auch die Wissenschaftler*innen des Teams hinter der Webseite climate.gov, das um Aufklärung von Ursachen und Folgen des Klimawandels bemüht war. Die staatlichen Webseiten erwähnen einen menschengemachte Klimawandel nicht mehr. Erläuterungen zu diesem Thema wurden gelöscht. Das Orwellsche Löschen & Verbieten von Begrifflichkeiten durch die Trump-Regierung (weit über „Klimawissenschaft“ hinaus) soll die Thematik Klimabewusstsein und die dahinter stehenden Ideen im umfassenden Sinn unsichtbar machen.

Auf so einem hohen Niveau von Verlogenheit durch das für alle offensichtliche Negieren unbequemer Wahrheiten lassen sich weitere innere Widersprüchlichkeiten nicht einmal mehr skandalisieren. Wie zum Beispiel jener Widerspruch zu Trumps erstem Dekret der zweiten Amtszeit mit dem Titel „Wiederherstellung der Redefreiheit und Beendigung der bundesstaatlichen Zensur“, womit sich die Regierung selbst zur Wahrerin des Rechts auf freie Rede macht. An dieser Form der Dreistigkeit findet die Lüge als Machtdemonstration Gefallen. Quasi als Gegenentwurf zu Debatten um Political Correctness kostet Trump leicht erkennbare Lügen in der Unterredung mit anderen Regierungschefs als Zeichen seiner Macht aus. Wer devot zustimmt und nickt, während Trump offenkundig und absichtsvoll groben Unsinn erzählt, unterwirft sich – sichtbar für Millionen von Zuschauer*innen. Wer die Lüge hingegen nicht schluckt und widerspricht, markiert sich als Feind.

Auch die Chefstatistikerin der US-Regierung Erika McEntarfer wird als vermeintliche Feind*in des wirtschaftlichen Aufschwungs entlassen. Trump definiert für ihren Ersatz, den Chefökonom E.J. Antoni der erzkonservativen Heritage Foundation (maßgeblich verantwortlich für das „Project 2025“ zur ultrarechten Neuausrichtung der US-Administration) die Zielvorgabe: „Unsere Wirtschaft boomt, und E.J. wird sicherstellen, dass die veröffentlichten Zahlen EHRLICH und GENAU sind.“ Die Entlassung von Statistiker*innen als Überbringer*innen schlechter Nachrichten ist historisch übrigens weit verbreitet. Erdogan feuerte 2022 ohne Begründung den Statistikchef, der eine Inflation von 20 Prozent gemeldet hatte. Der oberste Gerichtshof in der Amtszeit der linken griechischen Syriza-Regierung verurteilte den Chefstatistiker Andreas Georgiou zu zwei Jahren Haft auf Bewährung, als er 2015 wahrheitsgemäß immer noch satte 15 Prozent Defizit des Staatshaushalts vermeldete. Stalin ließ den obersten Statistiker aus Enttäuschung über ein ausbleibendes Bevölkerungswachstum 1937 gleich hinrichten.

Noch effektiver ist es, kritische Daten, die unpässliche Wahrheiten untermauern, also z.B. die fortschreitende Klimazerstörung belegen, gar nicht erst erheben zu lassen. Trump, der den menschengemachten Klimawandel für „eine der größten Betrügereien aller Zeiten“ hält, wies die NASA an, einen Satelliten, der die Konzentration von Kohlendioxid aus dem All misst und die derzeit genaueste Datenquelle darstellt, unwiderruflich abzuschalten.³

Automatisierte Desinformation

Die klassische Lüge, die schon immer konstitutiver Bestandteil des Politikbetriebs war, lässt sich in ihrer Wirkung durch automatisierte Vervielfältigung gezielt verstärken. Mithilfe von ‚KI‘-Sprachmodellen können Millionen Texte, mit spezifischer Desinformation gespickt, in ausreichenden Variationen erstellt werden, um nicht als Kopie einer gemeinsamen Basis erkannt und herausgefiltert zu werden.

2024 entdeckte das französische „Kompetenzzentrum für die Überwachung und den Schutz vor digitaler Einflussnahme aus dem Ausland“ Viginum ein Moskauer Desinformationsnetzwerk namens Prawda (Wahrheit), welches allein in dem Jahr 3.600.000 ‚KI‘-generierte Artikel ins Netz flutete. Allerdings nicht auf Webseiten oder Social-Media-Portalen, die echte Menschen jemals zu Gesicht bekämen, sondern an für deren Nutzer*innen unsichtbaren Stellen, die jedoch von den Webcrawlern der großen Sprachmodelle als Trainingsmaterial für die nächste Generation eben dieser entdeckt und (ohne Berücksichtigung des fragwürdigen Ursprungs) verwertet werden. Diese Texte reihen sich damit ein in den statistischen Mix aller Informationsquellen. Die konzertierte Desinformation verändert also die statistischen Gewichte bei der zukünftigen ‚KI‘-Erzeugung von Texten, Bildern, Audios und Videos und beeinflusst damit den Output der großen Sprachmodelle, der wiederum Niederschlag in den sozialen Netzen und auf sonstigen Webseiten findet.

Auch die hoch personalisierte politische Einflussnahme auf das Wahlverhalten und die politische Stimmung im Wahlkampf bleibt nicht auf dem Niveau des Cambridge-Analytica-Skandals stehen. Das gleichnamige Datenanalyse-Unternehmen nutzte 2014 Millionen von Facebook-Profilen um per Microtargeting (hier: personalisierte politische Werbeanzeigen) Einfluss zu nehmen auf das individuelle Wahlverhalten u.a. bei der US-Präsidentschaftswahl und dem Brexit-Referendum (beides 2016). Heute lässt sich über große Sprachmodelle dynamische, individualisierte Desinformation erzeugen, die sich an Tonfall, Gewohnheiten und Interessen der social media Nutzer*in anpasst. Derartig (über Monate hinweg) erzeugte Desinformationen nimmt so wiederholt und adaptiert Einfluss auf das Verhalten und die politische Überzeugung der Nutzer*in. Das chinesische Unternehmen GoLaxy war das erste, das dies in größerem Stil einsetzte bei der Wahl in Taiwan 2024.⁴

Die bis hier diskutierten Einflussnahmen gehören in die Schublade gezielter Desinformation, die gleichbedeutend ist mit der klassischen Lüge, also der interessengeleiteten Verbreitung von Unwahrheiten bzw. dem Leugnen von Wahrheiten. Die Politik spricht hier je nach Freund-Feind-Zuordnung der Akteur*in von Desinformationskampagnen oder informationeller Kriegsführung und interpretiert diese als Angriffe auf einen informationellen Normalbetrieb. Im Folgenden geht es um eben diesen ‚Normalbetrieb’ und dessen Veränderung durch ‚KI‘.

Bullshit-Krise

‚KI‘-Sprachmodelle wie ChatGPT, Claude, Gemini u.a. sind keine Wissensmodelle. Sie erstellen Texte in einem Wissensblindflug und liefern lediglich assoziative Wortfolgen auf der Basis eines statistischen Remixes sämtlicher Trainingstexte. Aufgrund der konzeptionellen Unfähigkeit der Programme, den statistisch erwürfelten Wortkombinationen irgendeine Bedeutung im Sinne eines semantischen Verständnis zuzuordnen, fehlt den Sprachmodellen ebenfalls die Fähigkeit, die Bedeutung von wahr und falsch zu ‚erfassen‘. Damit handelt es sich bei generativen Sprachmodellen um Bullshit-Generatoren im engen Wortsinn. Zur Erinnerung: Bullshitter sind nach Harry Frankfurt⁵ Diskursteilnehmer*innen, denen der Wahrheitsgehalt ihrer Aussage egal ist. In Abgrenzung zur klassischen Lügner*in wird Unwahrheit nicht zur neuen Wahrheit erklärt, sondern bleibt ununterschieden neben der Wahrheit stehen und sorgt für diskursive Inkonsistenz und Verunsicherung.

Sprachmodelle werden zunehmend als Ersatz für die klassische Internet-Suche und damit wie Wissensmodelle genutzt. Auch die neuesten Kopplungen von Sprachmodellen mit klassischen Wissensmodellen ‚halluzinieren‘⁶ unvermeidlich: Eine internationale Studie der EBU (Oktober 2025) findet heraus, dass 45 Prozent aller Chatbot-Antworten zu Nachrichtenrecherchen mindestens einen erheblichen Fehler enthalten. 31 Prozent liefern erfundene Quellen und 20 Prozent ‚halluzinierten‘ so schwerwiegend, dass die Antworten im engeren Sinne irreführend waren.

Statt Zugang zu Wissen zu bieten, wird die statistisch häufigste Wortbeziehung (höchste Korrelation) als wahrscheinlichstes Muster ‚erlernter‘ Text-Erfahrungohne jedes Verständnis entkontextualisiert (= aus dem Textzusammenhang herausgerissen), amplifiziert und hegemonisiert. Im Bullshit-Output werden Fakten, Meinungsäußerungen, Unsinn (Misinformation) und aktive Lügen (Desinformation) stochastisch miteinander verknüpft. Damit entzieht er sich (per Konstruktion) dem Anspruch von Wirklichkeitsbezug und ist kein geeigneter Referenzpunkt für die Konstruktion von Wahrheit.

Die ‚KI‘-Bullshit-Generatoren generieren mittlerweile rund die Hälfte aller Inhalte im Netz – seit März 2025 liegt der Anteil beständig bei etwa 50 Prozent)⁷. Bei einem hohem Anteil an synthetisch erzeugten Inhalten als Trainingsbasis für die nächste Generation der Sprachmodelle entsteht repetitiv ein Verlust an Qualität (bei Texten: mehr Unsinn = weniger Wirklichkeitsbezug) bis hin zum Modell-Kollaps. Dieser Effekt ist bei allen ‚KI‘-Modellen, die auf maschinellem Lernen basieren, unter dem Begriff der model autophagy disorder bekannt – eine degenerative Selbstverdauungsstörung.⁸ Über diesen selbst-verstärkenden Effekt normalisieren die ‚KI‘-Sprachmodelle zunehmend Misinformation.⁹

Maschinelles Lernen reproduziert nicht nur den Mainstream der Trainingsdaten, es verstärkt ihn nachweislich. Ob bei der lernenden Gesichtserkennung oder der Erzeugung von Bildern – die häufigsten statistischen Muster werden zusätzlich verstärkt. Bei den ‚KI‘-Sprachmodellen sind das die häufigsten vorkommenden Wortmuster der Trainingstexte. Diese Hegemonieverstärkung führt zusammen mit der Normierung der Gesamtwahrscheinlichkeit (irgendein Wortmuster aus den Trainingstexten zu reproduzieren) zu einer niedrigeren Wahrscheinlichkeit eines selteneren, randständigen Wortmusters. Weniger häufig zu findende Muster werden noch stärker unterrepräsentiert – die Diversität, nimmt ab.¹⁰ Nach Interpretation der Wortmuster durch die Leser*in ergibt sich so eine Abnahme der semantischen Bandbreite über die Gesamtheit aller ‚Inhalte‘.

Überdies werden die großen Sprachmodelle (in zunehmender Konkurrenz untereinander) „auf menschliche Zustimmung trainiert“ mit dem Ziel, als vermeintlich ‚freundlichere‘ bzw. ‚empathische‘ ‚KI‘ mehr Nutzer*innen für sich zu gewinnen. Selbst auf offensichtlich unsinnige Vorschläge der Nutzer*in antworten die Modelle vielfach mit unterstützender Zustimmung. Diese Gefälligkeitsantworten, die in der ‚KI‘-Forschung unter dem Begriff der Sycophancy (Speichelleckerei) firmieren, verstärken den Anteil an Misinformation weiter.¹¹

Wahrheits(de)konstruktion

Wie lassen sich Wahrheiten finden, die ein möglichst nahes Abbild der unzugänglichen Wirklichkeit abgeben? Selbstverständlich lässt sich keine vorgebliche Vertrauensinstanz mit der Unterscheidung von wahr und falsch beauftragen. Diese Form der Kompetenz-, aber vor allem Machtzuweisung wäre hochgradig gefährdet, missbraucht zu werden. Das liberale Wahrheitsregime bzw. die soziale Epistemologie schlägt eine Prozedur vor, in der es nötig ist, unterschiedliche Perspektiven zu diskutieren, um (1.) eine eigenständige Positionen zu erarbeiten und diese (2.) mit weiteren vertrauenswürdigen Positionen abzustimmen und diese dann (3.) mit etwaiger „wissenschaftlicher Erkenntnis“ abzugleichen.

Dieses Vorgehen grenzt sich sowohl gegen einen Wahrheitsabsolutismus, als auch gegen einen Wahrheitsrelativismus ab. Wahrheit bleibt dabei unerreicht, doch eine so konstruierte Wahrheit stellt eine Art gemeinschaftlich erzeugtes ‚Fürwahrhalten‘ dar und kann sich im Idealfall iterativ der Wirklichkeit annähern. Die Prozedur lebt von der Kritik und der permanenten Möglichkeit, falsche ‚Wahrheiten‘ zu verwerfen: Die Klassische Mechanik galt der Physik lange Zeit als Wahrheit, obwohl sie es nie war. Mit der Quantenmechanik konnte eine neue Wahrheit konstruiert werden, die aufgrund weiterer unbeschriebener, aber beobachtbarer Phänomene ebenfalls nicht ‚vollständig‘ und damit nicht uneingeschränkt wahr ist. Daher konvergiert der Erkenntnisgewinn einer solchen iterativen Prozedur zur Wahrheitskonstruktion in der Regel nicht stetig gegen die gesuchte Wirklichkeit, die sich unserem (naturwissenschaftlichen, sozialen, etc.) Zugang entzieht.

Aber welchen (wissenschaftlichen) Kontexten und Quellen trauen wir (selbst-)kritische Kompetenz beim Wissensabgleich in (3.) zu? Hier entpuppt sich das ungerechtfertigte Vertrauen in die seit 2022 rasant an Beliebtheit gewinnenden ‚KI‘-Sprachmodelle in der Nutzung für die Wissenssuche als fatal. Wissenschaft ist und war schon immer interessen- und machtgeleitet, doch die ‚KI‘-Sprachmodelle als kondensierte, generative ‚Wissens‘quellen sind ein noch stärker verengender Gatekeeper für den ‚Wissens‘zugang. Entgegen der breit diskutierten konzeptionellen(!) Unzulänglichkeiten verlagert sich die Wissenssuche zunehmend weg von der Recherche referenzierter Einträge per klassischer Suchmaschine und anschließendem Studium der relevant erscheinenden Dokumente im oberen Segment der vorsortierten Trefferliste hin zur Gewöhnung an eine fertig gemixte Bullshit-Antwort per ‚KI‘-Sprachmodell. In der Regel verwendet das ‚KI‘-Sprachmodell deutlich mehr Quellen aus den Trainingsdaten, als eine gewöhnliche manuelle Suchmaschinenrecherche an Einträgen aus der Trefferliste nutzen würde. Dennoch ist das Ergebnis des ‚KI‘-Sprachmodells in der Regel deutlich weniger faktenbasiert. Der so gelieferte Sprachmodell-Output wird als post in sozialen Plattformen, als Blogbeitrag oder Textbeitrag auf Webseiten verbreitet, um dann von den Webcrawlern der Sprachmodelle als Input zur erneuten assoziativen ‚Wissens‘produktion beim nächsten Trainingslauf genutzt zu werden.

Diese Form der Wahrheitskonstruktion (also mit den ‚KI‘-Sprachmodellen in der prominenten Position (3.) des Wissensabgleichs) kann zunehmend an Wirklichkeitsbezug verlieren – und zwar wegen der Zeit- und Kontextabhängigkeit der ‚Suche‘ und insbesondere ihrer Stochastizität (stark variierende Ergebnisse des stochastischen Würfelns) der Sprachmodelle in Richtung einer unkontrollierten Streuung.¹² Es gibt keine Anzeichen dafür, dass sich eine stabile, ‚falsche Wahrheit‘ als neuer Konvergenzpunkt ergibt. Der wahrnehmbare Effekt ist vielmehr eine Normalisierung des Perspektivismus als Nebeneinander von (individuellen) ‚Wahrheiten‘, die eine (kollektive) Frage nach wahr oder falsch unsinnig erscheinen lassen. Wahrheit erscheint dann (unsinnigerweise) standpunkt- und blickwinkelabhängig – das ist eine fatale Konsequenz einer durch ‚KI‘-Sprachmodelle referenzierten Wahrheitsfindung.

Insbesondere weil die Art der so gewonnenen ‚Wahrheit‘ es verunmöglicht, zu eruieren, welche dominanten Einträge in der ‚Wissens‘gewinnung zu dieser Wahrheit geführt haben, können wir eine Dekonstruktion dieser Wahrheit zur Untersuchung ihres Machtanspruchs schwerlich durchführen. Alle Quellen im Training des jeweiligen Sprachmodells sind ihres Kontextes beraubt und für niemanden(!) nachvollziehbar gemixt. Eine Verortung der relevant beitragenden Quelleneinträge ist schlicht nicht mehr möglich.

Bullshit-Asymmetrie-Prinzip

Der Aufwand, Bullshit zu widerlegen ist (mindestens) eine Größenordnung größer als der Aufwand ihn zu produzieren. (Brandolinis Gesetz)

Diese Bullshit-Asymmetrie stellt z. B. die Online-Enzyklopädie Wikipedia vor wachsende Probleme: Es dauert zwei Sekunden und ist nahezu voraussetzungsfrei, per ChatGPT einen neuen, komplexen Wikipedia-Artikel inklusive zahlreicher ‚Quellenverweise‘ zu generieren. Es kostet die ehrenamtlich Tätigen hingegen im Durchschnitt mehrere Stunden und erfordert basales Kontextwissen, um den Text auf Sinnhaftigkeit und die Referenzen auf Stimmigkeit zu überprüfen. Das Detektieren und Zensieren von potenziellem Unsinn (Misinformation) ist also um einen Faktor 1000 bis 10.000 aufwändiger als dessen Erzeugung. In einer Studie der Cornell University schätzt Wikipedia den Anteil synthetischer, also ‚KI‘-generierter Artikel (der englischsprachigen Seite) auf 5 Prozent der neu erstellten Artikel innerhalb eines Monats.^{13 14}Ohne derartige Überprüfungen würde das Vertrauen und damit der Nutzen der Enzyklopädie schnell akkumulativ zersetzt – ganz im Sinne eines Elon Musk, der politisch motiviert einen rein ‚KI‘-basierten Wikipedia-Ersatz namens Grokipedia als alternatives ‚Wissens‘- und Machtinstrument aufbaut. Dieses Nachschlagewerk erzeugt seine Inhalte mit dem Sprachmodell Grok, das maßgeblich trainiert wird über das rechtslastige soziale Netzwerk X.

Misinformation aus Grokipedia ist dabei kein lokal einzuhegendes Problem und diffundiert nachweislich auch in andere Sprachmodelle. Analysen zeigen, dass ChatGPT, Gemini und Perplexity ebenfalls das Pseudo-Lexikon nutzen, um Antworten zu generieren.¹⁵

Müdes Faktenchecken

Die Bullshit-Asymmetrie macht das Einfangen von Misinformation besonders aufwändig. Die adhoc als pragmatisch erscheinende Idee, Korrekturen zu diesen Misinformationen im Netz abzulegen und auf die Kraft des besseren Arguments zu hoffen, entpuppt sich als wenig Hoffnung machend und naiv. Solche Faktencheck-Hinweise sind schwach besucht, während der Unsinn, auf den sie kritisch Bezug nehmen, weiter mit viel Aufmerksamkeit bedacht wird und mit deutlich höherer Reichweite und Geschwindigkeit durchs Netz propagiert. Zusätzlich verbleibt das konzeptionelle Problem, welcher Instanz denn die Autorität der Entscheidung über den Faktencheck überantwortet werden soll.

Auch sogenannte community notes, mit Hilfe derer die Nutzer*innenschaft der meisten social media Plattformen sich selbst moderieren soll, stellen keine sinnvolle Lösung dar. Bei der vorgeblich ‚demokratischsten‘ Version der Zensur können ausgewählte Nutzer*innen aus unterschiedlichen politischen Spektren Beiträge kommentieren, bewerten und (bei Übereinstimmung mit anderen aus der community) in der Reichweite beschränken, um darüber Misinformation einzudämmen. Alex Mahadevan, Leiter des MediaWise beim Poynter Institute: „We’re so polarized that nobody can agree anymore.“¹⁶ Eine hochgradig polarisierte Nutzer*innenschaft zur unbezahlten Selbstkorrektur einzusetzen, funktioniert erwartbar schlecht.¹⁷

Für das eigenständige Faktenchecking gibt aber zudem ein schwerwiegendes, praktisches Problem der zunehmend schlechter werdenden (‚frei‘ verfügbaren) Recherche-Instrumente: Eine Google-Suche nach einem Zitat des Medientheoretikers Marshall McLuhan, aus einem Medieninterview von 1966: „McLuhan Alles verstehen, was passiert, es kontern, neutralisieren, möglichst viele Knöpfe abstellen, und sie frustrieren, wo immer es geht.“ liefert in der Google-‘KI’-Zusammenfassung namens „Übersicht mit KI“ Folgendes:

„Ich kann Ihnen helfen, die Ideen von Marshall McLuhan zu verstehen, aber Ihre Anfrage scheint auch persönliche Strategien zu beinhalten, um Technologie und Medien zu ‚kontern‘ oder zu ‚neutralisieren‘. McLuhan war ein Medientheoretiker, kein Leitfaden zur Frustration von Systemen. Hier sind die Kernkonzepte McLuhans, die Ihnen helfen, zu verstehen, was passiert, wenn Sie Medien nutzen (…)“

In der weiter unten folgenden Treffer-Liste sind nur noch drei zudem wenig brauchbare Einträge zu finden. Wir sehen an diesem Beispiel, dass sich die klassische Google-Suchmaschine stark verändert hat und eine Antwort liefert, die wenig weiterhilft. Die gewohnte Trefferliste wird nicht nur um die ‚KI‘-Zusammenfassung ergänzt, sondern die Qualität und Bandbreite der Trefferliste ist stark eingeschränkt. Somit verlagert sich das inhaltliche Gewicht der Antwort auf die (in diesem Fall stark wertende und bevormundende) ‚KI‘-Zusammenfassung.

Der manuelle Faktencheck per klassischer Suchmaschine hat massiv an Qualität eingebüßt. Die im Abschnitt Bullshit-Krise beschriebenen Unzulänglichkeiten bei der Nutzung von ‚KI‘-Sprachmodellen als ‚Wissens‘modelle sind daher zunehmend schwer manuell auszugleichen. Denn die Zukunft der Suchmaschinen sieht einen wachsenden Einfluss der ‚KI‘-Modelle bei der Informationsbeschaffung vor.

Googles neuer ‚KI‘-Modus¹⁸ liefert keine Suchtreffer mehr, sondern imitiert eine Art Such-Chatbot und integriert die Suchergebnisse in einen Frage-Antwort-Dialog, der vollständig auf der Google-Seite abläuft und keine Notwendigkeit bzw. Gelegenheit liefert, sinnvoll auf ursprüngliche Quellen-Seiten zu wechseln. Diese werden nicht mehr angezeigt. Die Abhängigkeit von Googles ‚KI‘-Sprachmodell Gemini bei der Informationsbeschaffung nimmt damit um Größenordnungen zu. Bei einem Marktanteil der Google-Suche in Deutschland über die letzten 15 Jahre bei zwischen 80 bis weit über 90 Prozent¹⁹ wird diese Weichenstellung massive negative Auswirkungen haben für die Konstruktion von Wahrheit. Googles Entwickler*innen-Konferenz I/O im Mai 2026 sieht eine vollständige Neuausrichtung der Suchmaschine²⁰ vor, die sich komplett auf Gemini stützt und keinerlei Interaktion mit den Webseiten vorsieht, von denen Google die Information bezieht.²¹

‚KI‘-Zersetzung politischer Öffentlichkeit

‚KI‘-Sprachmodelle + ‚soziale‘ Medien stellen für den politischen Diskurs die wesentlichen Informations- und Debatten-Infrastrukturen dar. Selbst die klassischen Medien sind (in ihrem Bedeutungsverlust) zunehmend durch Plattformen wie X und TikTok getrieben. Hier posten politische Entscheider*innen und hier orientieren sich Journalist*innen, welche Nachrichten trenden könnten.

Die ‚sozialen‘ Medien stellen einen dominanten Resonanzraum für den ‚KI‘-generierten Bullshit dar.

In Wechselwirkung mit der algorithmischen Reichweitensteuerung der ‚sozialen‘ Medien (Tiktok, X, Instagram, Facebook, Youtube, …) werden neben Abgrenzung, Hass, Hetze, Herabwürdigung auch Fake (also sowohl Misinformation als auch Desinformation) in Reichweite und Ausbreitungsgeschwindigkeit nachweislich verstärkt. Zugunsten einer erhöhten sozialen Temperatur in den ‚sozialen‘ Netzen, denn nur diese ist für die Kommunikationsplattformen monetarisierbar. Fake-Inhalte (Mis- und Desinformationen) werden zudem nach politischer Neuausrichtung mehrerer Plattformen seit Beginn der zweiten Amtszeit von Trump und der Einführung neuer Moderationsmechanismen seltener gelöscht. Das bedeutet, dass die Wechselwirkung zwischen den großen Sprachmodellen (mit ihrem bereits hohen Anteil an Misinformation im Output) und den ‚sozialen‘ Plattformen für einen noch höheren Anteil an Misinformation im Netz sorgt.

Die resultierende Dynamik ist die einer Fragmentierung von Wahrheit in einen Perspektivismus.

Eine Gemeinschaft, die immer weniger Wahrheit im Sinne eines gemeinsam erzeugten ‚Fürwahrhaltens‘ teilt, verliert zunehmend die Grundlage für einen politischen Aushandlungsprozess über den Austausch von Argumenten. Das Resultat sind vielfach: Verunsicherung, Rückzug, weitere Polarisierung. Diese Tendenz bildet sich bereits in der Nutzung der Kommunikationsplattformen ab: der Diskurs in den sozialen Medien verlagert sich schon jetzt zunehmend in geschlossene Räume.

Ein Diskursklima der postfaktischen Verunsicherung ist zudem förderlich für das Erstarken autoritärer, politisch rechter bis faschistoider Strömungen. Ohne gemeinsam geteilte Wahrheit zerfällt eine Gesellschaft innerlich und wird lediglich durch äußere, insbesondere ökonomische Beziehungen zusammengehalten.

Einspruch – exemplarischer Angriff auf die (De-)konstruktion von Wahrheit

Objection, das „KI-Tribunal der Wahrheit“ von Peter Thiel und Start-up Gründer Aron D’Souz will den Wahrheitsgehalt von öffentlichen, insbesondere journalistischen, Äußerungen bewerten. Wer zahlt, kann sich ohne Gericht gegen öffentliche Anschuldigungen im Netz zur Wehr setzen. Denn klassische Gerichte seien nach Auffassung des Start-ups ungeeignet, um journalistische Verleumdung aufzuklären. Während die Justiz „mittelalterlich“, zu langsam und „undurchsichtig“ arbeite, setzt man hier auf die Entscheidung entsprechend trainierter ‚KI‘-Sprachmodelle. Vorermittlungen zur Fütterung dieser „künstlich intelligenten“ Entscheidungsinstanz leisten – je nach Budget der Klageerhebenden – Juniorermittler*innen (ab 2.500 Dollar) oder ausgewachsene Ex-Agent*innen von FBI oder CIA bzw. Juraprofessor*innen (ab 15.000 Dollar). Sie erstellen ein Online-Dossier mit vorbewerteten Dokumenten, die die Anklage untermauern sollen.

Die beklagten Journalist*innen können sich ‚verteidigen‘ in dem sie ebenfalls Dokumente hochladen, die ihre journalistischen Aussagen ‚belegen‘. Die ‚KI‘ wertet jedoch geleakte, geschützte (und damit intransparente) Quellen mit der niedrigsten Beweiskraft. Dokumente, die von Whistleblowern stammen, sind zur Unsichtbarmachung der ursprünglichen Quelle notwendigerweise von Metadaten bereinigt. Anstatt manuell nach Hinweisen für die Glaubwürdigkeit dieser anonymen Quellen zu suchen, stuft das ‚KI‘-Tribunal deren Beweiskraft generell als negativ ein. Die so erzeugte ‚KI‘-Entscheidung ist in Form eines digitalen Prangers öffentlich einsehbar und soll den Journalismus zukünftig zu mehr „Aufrichtigkeit“ ermahnen. Jede der abgeurteilten oder auch nur in Fälle involvierten Journalist*innen wird gelistet und erhält einen „Glaubwürdigkeits-Score“, der in die Bewertung etwaiger Quellen zukünftiger Fälle einfließt.

Der Versuch, Gerichtsbarkeit neu zu entwerfen auf Basis einer ‚KI‘, deren Designer*innen offen artikulieren, einem technokratischen Autoritarismus den Vorzug vor einer demokratisch verfassten Gesellschaft zu geben, kann nicht bloß als technophile Adaption eines in der Regel überforderten, regelbasierten Justizsystems verstanden werden. Es ist ein direkter Angriff auf (justizielle) Regelbasiertheit an sich und damit dem Anspruch nach noch viel ungeeigneter, Wahrheit in einem möglichst transparenten Prozess zu konstruieren, als sich klassische Gerichtsbarkeiten (nach Habermas) dazu bereits als ungeeignet erweisen, da ungebundene richterliche Gewalt ein demokratisches Defizit aufweise. Dieser Angriff ist getrieben von der machtvollen Option, per Technologie diskursive Überzeugungs- und gemeinschaftliche Entscheidungsprozesse abzukürzen und so vorzuprägen, dass sie eine (politisch) rechts-lastige Hegemonie verstärken. Wir erkennen auch hier den Versuch der Machtkonzentration bei der technifizierten Bewirtschaftung der Wahrheitssuche. Diese trägt rückkoppelnd zur Legitimation von Technokratie bei.

Derartig produzierte ‚Wahrheit‘ entzieht sich ganz praktisch (per Konstruktion) ihrer Dekonstruierbarkeit: Durch die Entkontextualisierung des generellen Lernmaterials im Trainingsprozess und der zusätzlichen Dokumente im fallspezifischen Dossier ist der Entscheidungsprozess maximal undurchsichtig und für eine politisch bewertende Nachvollziehbarkeit unzugänglich. Niemand(!) kann den Einfluss eines spezifischen Belegs an der finalen Entscheidung bemessen; nicht einmal nicht-quantitativ erahnen. Der Trainingsprozess verschleiert die Relevanz unterschiedlicher Quellen – eine um Dekonstruktion bemühte Diskursanalyse kann die verschiedenen Diskursversatzstücke als Trainingsinput der Sprachmodelle nicht verorten und ihnen durch eine fehlende Einbettung in ihren Kontext keine relative Wertigkeit zuordnen. Es kann nicht mehr ermittelt werden, durch welche Beiträge die finale Entscheidung vornehmlich geprägt wurde. Verantwortlichkeit wird vermeintlich neutral und unideologisch vernebelt. Dabei steckt die Ideologie a) im technikzentrierten Lösungsansatz einer Technologiegläubigkeit an sich und b) in dessen spezifischer Ausgestaltung vermittels ‚KI‘, also einer intransparenten, stochastisch nicht-deterministischen und einer nicht mehr regelbasierten und nicht-reproduzierbaren Entscheidung.

Fazit: ‚KI‘ stilllegen!

Blicken wir erneut zurück auf die plumpen orwellschen Lügenkonstrukte von Trump und anderen machtvollen Wahrheitskonstrukteur*innen. Selbst hoch skalierende Produktion automatisierter Desinformation, die sich zunehmend voraussetzungslos im Netz lancieren lässt, ist lediglich eine modernisierte und diversifizierte Form der klassischen Lüge, die weiterhin um den Rang der Wahrheit buhlt. Damit kann eine kritische Öffentlichkeit umgehen.

Hingegen stellt die Normalisierung und massive Ausweitung der Anwendungsbereiche von generativen ‚KI‘-Sprachmodellen als Bullshit-Generatoren und insbesondere als Dekontextualisierer die deutlich weitergehende Bedrohung für den politischen Aushandlungsprozess dar. Nicht der Ausnahmefall der orchestrierten Lüge, sondern der Normalzustand eines ‚KI‘-verstärkten Perspektivismus als abgewracktes Wahrheitsersatzkonstrukt ist die eigentliche Erosion politischer Öffentlichkeit: Meinungen werden dem Faktum gleichwertig erklärt, bzw. Fakten zur Meinungssache herabgestuft und damit verhandelbar. Dieser Perspektivismus ist eine Art innerer Fragmentierung einer Gesellschaft, die an grundlegender Kohäsion verliert – das geschieht unscheinbar und leise. Der drohende Zerfall in ein Nebeneinander vieler, atomisierter Individual-Wahrheiten zersetzt die Basis für kollektive, gemeinwohlorientierte Prozesse und macht eine derartig desorientierte Gesellschaft anfälliger für die vermeintlich rettende Übersichtlichkeit autoritärer Konzepte.

Das kann einer progressiven Linken nicht egal sein und daher benötigen wir eine klare, ablehnend-widerständige Haltung gegenüber der Entwicklung und Nutzung von ‚KI‘-Sprachmodellen – aus ökologischer Verantwortung ohnehin, aber eben auch aus gemeinwohlorientierter Perspektive. Diese kleine Analyse über die neuen Bedingungen der Wahrheitsfindung bestärkt uns in unserer Forderung, ‚KI‘-Sprachmodelle als Gemeinschaft zersetzend, programmatisch Ungleichheit verstärkend, Diversität verringernd, Hegemonie verstärkend und ökologisch zerstörerisch stillzulegen! Der höchst zweifelhafte Nutzen dieser Modelle steht in keinem Verhältnis zu ihrer schwerwiegenden gesellschaftlichen Schadwirkung.

1https://reports.weforum.org/docs/WEF_Global_Risks_Report_Press_Release_2025_GER.pdf

2Noaa, Billion-Dollar Weathers and Climate Disasters, https://www.ncei.noaa.gov/access/metadata/landing-page/bin/iso?id=gov.noaa.nodc:0209268

3https://www.spiegel.de/wissenschaft/donald-trump-wie-die-usa-versucht-den-klimawandel-mit-aller-macht-zu-ignorieren-a-ffa30401-d7b3-400e-80e9-a070f4061b59

4https://news.vanderbilt.edu/2025/08/25/ai-propaganda-has-arrived-vanderbilt-experts-call-for-action/

5Harry Frankfurt, 2005, On Bullshit, Princeton University Press

6Unter ‚Halluzinieren‘ versteht man das Produzieren von Falschinformation durch das im engen Wortsinn sinnfreie, statistische Würfeln von Wortkombinationen durch die großen Sprachmodelle. Die Psychologie spricht von ‚Konfabulationen‘. Beide Begriffe sind in Bezug auf ein mathematisches Modell unzulängliche Anthorpomorphismen.

7https://graphite.io/five-percent/ai-now-writes-as-many-online-articles-as-humans-do

8Shumailov, I. et al. Nature 631, 755–759 (2024), AI models fed AI-generated data quickly spew nonsense, https://doi.org/10.1038/d41586-024-02420-7

9KI-Sprachmodelle können keine Desinformation produzieren, da sie a) kein Unterscheidung von wahr und falsch vornehmen können und b) mangels Bewusstsein nicht absichtsvoll agieren können. Daher besteht die von ihnen generierte Falschinformation (= Fake) ausschließlich aus Misinformation. Einschränkung: Sie können natürlich Desinformation wiedergeben, die bereits in den Trainingstexten enthalten war.

10G. Arnold, ChatGPT – ein politisches Desaster, DISS-Journal#45 (Juni 2023), https://diss-duisburg.de/wp-content/uploads/2023/06/DISS-Journal-45-2023.pdf

11M. Cheng et al, Sycophantic AI decreases prosocial intentions and promotes dependence, Science Volume 391, Issue 6792, 26. März 2026, https://news.stanford.edu/stories/2026/03/ai-advice-sycophantic-models-research, https://doi.org/10.1126/science.aec8352

12E. Kirsten et. al, Characterizing Web Search in the Age of Generative AI, Ruhr-Universität Bochum, preprint, 31. Mai 2026, https://arxiv.org/pdf/2510.11560

13C. Brooks et. al, Computation and Language, The Rise of AI-Generated Content in Wikipedia, (Okt 2024), https://doi.org/10.48550/arXiv.2410.08044

14Verbot KI-generierter Wikimedia-Artikel: https://en.wikipedia.org/wiki/Wikipedia:Writing_articles_with_large_language_models

15Robert Hart, The Verge, 31. Januar 2026, https://www.theverge.com/report/870910/ai-chatbots-citing-grokipedia bzw. im Archiv unter: https://archive.ph/Dh5yk

16Kate Conger, 25.07.2024, New York Times, Elon Musk Wants People on X to Police Election Posts. It’s Not Working Well, https://archive.ph/TLwf6

17Anna-Lena Schou, Spiegel, 16.10.2025, Die Probleme des Faktenchecksystems von Elon Musk, https://archive.ph/ey2sP

18https://www.google.com/search?udm=50&aep=11

19https://gs.statcounter.com/search-engine-market-share/all/germany#monthly-200901-202605

20https://blog.google/products-and-platforms/products/search/search-io-2026/#powerful-ai

21https://techcrunch.com/2026/05/19/google-search-as-you-know-it-is-over/