Der Spiegel kennt die Vergangenheit. Entscheiden müssen wir selbst.

Je besser KI wird, desto verführerischer wird eine Idee: Vielleicht müssen wir irgendwann gar nicht mehr so viel selbst wissen.

Warum jahrelang Expertise aufbauen, wenn ein Modell in Sekunden recherchiert, strukturiert, argumentiert und Alternativen liefert? Warum selbst durch widersprüchliche Quellen gehen, wenn die Maschine daraus eine klare Empfehlung formuliert?

Ich halte diese Schlussfolgerung für gefährlich – und gleichzeitig für zu einfach.

Denn sie verwechselt drei Dinge, die wir im Umgang mit KI sauber trennen müssen: Zugang zu Wissen, Urteilskraft und Verantwortung.

KI kann den Zugang zu vorhandenem Wissen dramatisch verbessern. Sie kann uns helfen, bessere Optionen zu sehen. Sie kann unsere eigene Denkfähigkeit verstärken.

Aber sie kann uns zwei Aufgaben nicht abnehmen: zu entscheiden, was wir tun – und dafür die Verantwortung zu tragen.

Und noch etwas bleibt offen: Wer erweitert eigentlich den Wissensraum, wenn wir uns zunehmend darauf konzentrieren, aus dem bereits vorhandenen Wissen die beste Antwort zu generieren?

Die Philosophin Shannon Vallor beschreibt heutige KI in ihrem Buch The AI Mirror mit einem starken Bild: als Spiegel.

Generative KI wird aus riesigen Mengen menschlicher Daten aufgebaut. Sie verdichtet Texte, Bilder, Argumente, Muster, Fehler, Vorurteile und Erkenntnisse, die bereits existieren. Vallors entscheidender Punkt ist deshalb nicht, dass diese Systeme nutzlos oder grundsätzlich schlecht wären. Ihr Punkt ist, dass wir sie falsch verstehen, wenn wir in ihnen eine vom Menschen unabhängige Quelle von Weisheit sehen.

Der Spiegel kann außergewöhnlich leistungsfähig sein. Aber sein Rohmaterial kommt aus unserer Vergangenheit.

Vallor warnt deshalb vor einer Verschiebung, die subtiler ist als die üblichen Science-Fiction-Szenarien: Nicht die Maschine übernimmt zwangsläufig unsere Welt. Wir könnten vielmehr beginnen, uns selbst durch die Maschine zu betrachten – und ihre Projektionen mit Wahrheit, Urteil oder Zukunft zu verwechseln.

Das ist für mich die stärkste Idee des Buches.

Aber an einem Punkt würde ich die Perspektive erweitern.

Dass KI auf vorhandenem menschlichem Wissen basiert, bedeutet nicht, dass ihr Nutzen auf bloßes Wiederholen beschränkt ist.

Für einen einzelnen Menschen ist der relevante Vergleich nicht: Weiß die KI etwas, das noch nie ein Mensch gewusst hat?

Die praktischere Frage lautet: Bringt sie mich in Kontakt mit Wissen, Perspektiven und Gegenargumenten, die ich selbst nicht kannte?

Für fast jeden von uns lautet die Antwort darauf heute: ja.

Das kollektive Wissen der Menschheit ist gewaltig. Das Wissen eines einzelnen Menschen ist zwangsläufig winzig. Wenn KI diesen Abstand verkleinert, passiert etwas Bedeutendes: Der individuelle Wissenshorizont kann sich massiv erweitern, obwohl der kollektive Wissenshorizont dadurch zunächst keinen Millimeter weiter nach außen rückt.

Das ist keine Kleinigkeit.

Ein Unternehmer kann sich innerhalb einer Stunde mit Denkmodellen aus Psychologie, Ökonomie, Informatik und Organisationsforschung auseinandersetzen. Eine Führungskraft kann Gegenargumente simulieren lassen, die im eigenen Team niemand formuliert hat. Ein Experte kann Wissen aus benachbarten Disziplinen in seine Arbeit integrieren, ohne dort selbst jahrelang ausgebildet worden zu sein.

KI kann damit das Niveau anheben, auf dem sehr viele Menschen denken und arbeiten.

Ich sehe darin eine Form von Co-Intelligenz: nicht Mensch oder Maschine, sondern ein System, in dem beide unterschiedliche Stärken einbringen.

Genau hier beginnt aber das Problem.

Es macht einen fundamentalen Unterschied, ob ich KI nutze, um meine Entscheidung zu verbessern – oder ob ich die Entscheidung innerlich an die KI abgebe.

Die Forschung zu Automation Bias beschäftigt sich seit Jahren mit diesem Effekt. Menschen neigen unter bestimmten Bedingungen dazu, Empfehlungen automatisierter Systeme überzubewerten – selbst dann, wenn andere Informationen dagegensprechen.

Eine aktuelle systematische Betrachtung der Forschung zu Human-AI-Collaboration zeigt, dass dieses Problem auch bei modernen KI-Systemen relevant bleibt. Vertrauen, Expertise, AI Literacy und die Möglichkeit, Ergebnisse tatsächlich zu überprüfen, beeinflussen, wie leicht aus Unterstützung Überabhängigkeit wird.

Eine CHI-Studie von Microsoft Research und Carnegie Mellon mit 319 Wissensarbeitern liefert dazu einen interessanten Befund: Höheres Vertrauen in die Fähigkeit der KI war mit weniger berichteter kritischer Denkarbeit verbunden. Gleichzeitig verschiebt KI kritisches Denken – weg von der reinen Informationssuche und stärker hin zu Verifikation, Integration und Steuerung.

Das ist ein wichtiger Unterschied.

Die richtige Konsequenz lautet nicht: Benutze keine KI, sonst verlernst du das Denken.

Sie lautet: Verlagere dein Denken auf die Ebene, auf der es jetzt gebraucht wird.

Wenn die Maschine schneller Informationen sammelt, muss ich stärker prüfen. Wenn sie Optionen erzeugt, muss ich Kriterien definieren. Wenn sie eine Empfehlung formuliert, muss ich verstehen, welche Annahmen darin stecken. Und wenn eine Entscheidung Konsequenzen hat, muss ich entscheiden, ob ich diese Konsequenzen tragen kann.

Das ist für mich der entscheidende Punkt.

KI kann analysieren. Sie kann Wahrscheinlichkeiten berechnen. Sie kann Szenarien formulieren. Sie kann mir widersprechen. Sie kann mir sogar zeigen, dass meine ursprüngliche Position schlecht begründet war.

Aber sie kann meine Verantwortung nicht übernehmen.

Wenn ich einen Mitarbeiter einstelle, eine Investition tätige, eine medizinische Empfehlung bewerte, eine strategische Entscheidung treffe oder einen Text veröffentliche, kann ich nicht ernsthaft sagen: Die KI hat es so vorgeschlagen.

Das wäre keine Verantwortungsübernahme. Es wäre Verantwortungsdelegation an ein System, das selbst keine Verantwortung tragen kann.

Gerade deshalb ist menschliche Urteilskraft im KI-Zeitalter nicht weniger wichtig. Sie wird wichtiger.

Wir müssen nicht mehr jeden Zwischenschritt selbst ausführen. Aber wir müssen zunehmend beurteilen können, welche Schritte wir delegieren dürfen, welche Ergebnisse wir überprüfen müssen und welche Entscheidung wir am Ende selbst vertreten.

Das ist unbequem, weil KI uns eine perfekte Ausrede anbietet: eine plausible, gut formulierte Antwort, hinter der wir uns verstecken könnten.

Genau das dürfen wir nicht tun.

Und damit kommen wir zu einem zweiten, langfristig vielleicht noch größeren Problem.

Stellen wir uns vor, KI wird hervorragend darin, das gesamte verfügbare menschliche Wissen zugänglich zu machen, zu kombinieren und praktisch nutzbar zu machen.

Dann könnte der durchschnittliche Qualitätsstandard von Entscheidungen enorm steigen.

Aber daraus folgt noch nicht, dass auch die Grenzen unseres Wissens weiter nach außen wandern.

Diese Unterscheidung lässt sich mit zwei Begriffen beschreiben: Exploitation und Exploration.

Exploitation bedeutet: den vorhandenen Wissensraum immer besser nutzen. Exploration bedeutet: den Wissensraum erweitern.

KI ist bereits außergewöhnlich stark im ersten Bereich. Sie findet Muster, kombiniert bestehende Ideen, übersetzt zwischen Wissensdomänen und macht Expertise skalierbarer.

Aber eine Zivilisation kann sehr gut darin werden, vorhandenes Wissen auszuschöpfen – und trotzdem an einer fundamentalen Wissensgrenze stehen bleiben.

Eine radikale Science-Fiction-Version davon findet sich in Cixin Lius Trisolaris-Trilogie – Die drei Sonnen, Der dunkle Wald und Jenseits der Zeit.

In Lius Geschichte setzen die Trisolarier sogenannte Sophonen ein. Unter anderem verhindern sie damit entscheidende Fortschritte in der experimentellen Grundlagenphysik. Die Menschheit verliert ihr vorhandenes Wissen nicht. Sie kann bestehende Technologien weiterentwickeln, kombinieren, industrialisieren und in gigantischem Maßstab einsetzen.

Die technologische Leistungsfähigkeit steigt.

Aber der fundamentale Erkenntnishorizont ist blockiert.

Das ist natürlich Science-Fiction und kein Beleg für eine reale Entwicklung der KI. Aber als Gedankenexperiment trifft es einen wichtigen Punkt: Eine Gesellschaft kann auf Basis bestehenden Wissens immer leistungsfähiger werden, ohne gleichzeitig fundamentales neues Wissen zu erzeugen.

Genau darin sehe ich eine mögliche langfristige Gefahr einer Welt, in der wir KI primär als Antwortmaschine benutzen.

Nicht weil KI uns dümmer machen muss.

Sondern weil ein extrem leistungsfähiges System zur Nutzung bestehenden Wissens den Eindruck erzeugen kann, dass die mühsame Erweiterung dieses Wissens weniger wichtig geworden ist.

Damit entsteht eine Frage, die mich inzwischen mehr beschäftigt als die Frage, ob ein Modell irgendwann „intelligenter“ ist als ein Mensch:

Wer erzeugt das Wissen, von dem die nächste Generation intelligenter Systeme lernen wird?

Grundlagenforschung entsteht nicht durch das Abrufen einer perfekten Antwort.

Sie entsteht, weil jemand eine Frage stellt, für die es noch keine Antwort gibt. Weil ein Experiment scheitert. Weil eine etablierte Theorie nicht zu einer Beobachtung passt. Weil jemand jahrelang an einem Problem arbeitet, obwohl noch niemand weiß, ob überhaupt etwas dabei herauskommt.

Dasselbe gilt im kleineren Maßstab für Unternehmen und persönliche Entwicklung.

Neue Erkenntnis entsteht dort, wo wir ausprobieren, beobachten, widersprechen und Verantwortung für eine Hypothese übernehmen.

Wenn wir nur noch fragen, was das Modell über die Welt weiß, bleiben wir im Spiegel.

Wenn wir das Modell nutzen, um bessere Fragen zu stellen und anschließend in der realen Welt zu testen, was stimmt, wird es zum Werkzeug für Exploration.

Vielleicht verändert sich deshalb auch die Bedeutung von Expertise.

Mastery kann nicht mehr bedeuten, möglichst viele Informationen im Kopf zu speichern. In diesem Wettbewerb verlieren wir gegen Maschinen – und das ist völlig in Ordnung.

Mastery bedeutet zunehmend:

KI kann uns dabei enorm helfen.

Aber genau deshalb dürfen wir die Beziehung nicht falsch herum aufbauen.

Die Maschine ist nicht der Verantwortliche und der Mensch ihr Ausführender.

Der Mensch bleibt der Verantwortliche. Die KI ist ein Werkzeug, Sparringspartner und Verstärker.

Vallors Spiegelmetapher bleibt deshalb für mich richtig – aber ich ziehe daraus eine etwas andere Konsequenz.

Der Spiegel ist keine Grenze, solange wir wissen, dass es ein Spiegel ist.

KI kann uns einen größeren Teil des menschlichen Wissens zugänglich machen als irgendeine Technologie zuvor. Sie kann den individuellen Wissensstand anheben, neue Kombinationen ermöglichen und unsere Entscheidungen verbessern.

Das sollten wir nutzen.

Aber zwei Dinge dürfen wir nicht an sie abgeben.

Die Verantwortung für unsere Entscheidungen.

Und die Verantwortung dafür, dass der Wissensraum der Menschheit nicht stehen bleibt.

Der Spiegel kann uns zeigen, wo wir waren.

Er kann uns helfen, Muster zu erkennen, die wir selbst übersehen hätten.

Er kann uns sogar mehrere Wege zeigen, die von hier aus möglich erscheinen.

Welchen Weg wir gehen, entscheiden wir selbst.

Und wenn wir wissen wollen, was hinter dem Horizont liegt, reicht es irgendwann nicht mehr, in den Spiegel zu schauen.

Dann müssen wir wieder hinausgehen und etwas herausfinden, das vorher noch niemand wusste.

Shannon Vallor (2024): The AI Mirror: How to Reclaim Our Humanity in an Age of Machine Thinking. Oxford University Press. Autorinnenseite zum Buch · Edinburgh Futures Institute

Bate, Guy W.; Lloyd, Rhiannon (2025): Review of Shannon Vallor (2024), The AI Mirror. Postdigital Science and Education 7, 1524–1531. DOI / Open-Access-Artikel

Lee, Hao-Ping et al. (2025): The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers. CHI ’25. DOI · Microsoft Research

Romeo, Giuseppe; Conti, Daniela (2025/2026): Exploring automation bias in human–AI collaboration: a review and implications for explainable AI. AI & Society. DOI / Open Access

Parasuraman, Raja; Manzey, Dietrich H. (2010): Complacency and bias in human use of automation: an attentional integration. Human Factors 52(3), 381–410. DOI · PubMed

Cixin Liu: Trisolaris / Remembrance of Earth’s Past: Die drei Sonnen, Der dunkle Wald, Jenseits der Zeit. Autorenseite · Deutsche Verlagsübersicht

Europäische Kommission (2026): Leitlinien und Code of Practice zu den Transparenzpflichten nach Art. 50 AI Act. Die einschlägigen Transparenzpflichten gelten seit 2. August 2026. Leitlinien der EU-Kommission · Code of Practice

Transparenzhinweis: Dieser Beitrag basiert auf meinen eigenen Überlegungen und Schlussfolgerungen. KI wurde zur Rechercheunterstützung, Strukturierung und sprachlichen Überarbeitung für bessere Lesbarkeit eingesetzt; Auswahl, Bewertung, Argumentation und Verantwortung für den veröffentlichten Inhalt liegen beim Autor. Das Featured Image wurde mit generativer KI erstellt. Dieser Hinweis erfolgt bewusst aus Transparenzgründen. Die konkreten Kennzeichnungspflichten des Art. 50 EU AI Act hängen von Art, Verwendung und redaktioneller Verantwortung des jeweiligen Inhalts ab.