Die Firma wird zum Gesprächspartner

Ich glaube inzwischen, dass wir bei der Diskussion über KI in Unternehmen an der falschen Stelle beginnen.

Wir fragen: Was können wir automatisieren?

Die interessantere Frage lautet: Wie müsste ein Unternehmen aussehen, mit dem ich sprechen kann?

Nicht mit einem Chatbot auf der Website. Sondern mit dem Unternehmen selbst: mit seiner Buchhaltung, seinen Bankkonten, offenen Forderungen, Kunden, Projekten, Kennzahlen, Verträgen und seinem institutionellen Gedächtnis.

Ich stelle morgens eine einzige Frage: „Wie stehen wir?“

Und die KI antwortet nicht mit einem hübschen Dashboard, sondern mit einer Lagebeurteilung: Die Liquidität ist stabil. Der Umsatz liegt unter Plan. Drei Kunden haben noch nicht bezahlt. Bei einem Kunden fällt die Marge seit Monaten. Vier Belege fehlen. Und heute gibt es drei Entscheidungen, die wir gemeinsam besprechen sollten.

Das klingt zunächst nach einem besseren Unternehmensdashboard. Ich glaube, es ist etwas anderes.

Es könnte der Beginn eines Co-Intelligence Operating Systems für Unternehmen sein.

Software zwingt uns heute meist dazu, ihre Logik zu lernen. Für Buchhaltung öffnen wir die Buchhaltungssoftware. Für Kunden das CRM. Für Aufgaben das Projektmanagement. Für Liquidität vielleicht Excel oder ein Dashboard. Für E-Mails wieder ein anderes System.

Generative KI dreht dieses Verhältnis potenziell um. Der Mensch muss nicht mehr für jedes System eine andere Oberfläche bedienen. Eine konversationelle Schicht kann unterschiedliche Systeme verbinden, Informationen verdichten und natürliche Sprache in Aktionen übersetzen.

Genau deshalb ist die Entwicklung von AI Agents wichtiger als der nächste Chatbot. Microsoft beschreibt Agents inzwischen ausdrücklich als Systeme, die mehrstufige Aufgaben planen, Werkzeuge auswählen und Aktionen in verbundenen Unternehmenssystemen ausführen können. Damit verschiebt sich KI vom Lesen und Schreiben zum Handeln.

Unsere derzeitige Hypothese geht einen Schritt weiter: Wenn die KI Zugriff auf die relevanten Unternehmenssysteme erhält, wird das Gespräch selbst zur Benutzeroberfläche des Unternehmens.

Die Buchhaltungssoftware verschwindet dabei nicht. Das CRM verschwindet nicht. Die Bank verschwindet nicht. Sie werden Infrastruktur im Hintergrund.

Ähnlich wie wir beim Autofahren nicht über Einspritzsteuerung, ABS-Sensoren und Motorsoftware nachdenken, sollten Unternehmer langfristig nicht mehr fünf Systeme öffnen müssen, um eine einfache Frage zu beantworten: „Können wir uns diese Investition leisten?“

Hier liegt für mich der entscheidende Unterschied.

Die populäre Vision lautet häufig: immer mehr Agents, immer weniger Menschen, irgendwann eine weitgehend autonome Firma.

Technisch ist das faszinierend. Als Managementmodell halte ich es für unvollständig.

Denn wenn wir ausschließlich auf Automatisierung optimieren, lautet die implizite Zielfunktion: Wie viel Mensch können wir entfernen?

Unsere Zielfunktion sollte eine andere sein:

Das ist keine romantische Verteidigung menschlicher Arbeit. Es ist eine Frage der Systemarchitektur.

Die Forschung zu „Hybrid Intelligence“ beschreibt genau diese Logik: Mensch und Maschine sollen so kombiniert werden, dass ihre komplementären Fähigkeiten gemeinsam bessere Ergebnisse ermöglichen als isoliert. Dellermann, Ebel, Söllner und Leimeister sprechen von hybriden Formen der Arbeitsteilung zwischen menschlicher und künstlicher Intelligenz.

Auch Ethan Mollick argumentiert in Co-Intelligence dafür, KI als Mitarbeiter, Lehrer und Coach zu behandeln – nicht bloß als Suchmaschine.

Das Ziel ist deshalb nicht Mensch oder Maschine.

Das Ziel ist ein besseres System aus beiden.

Für unser eigenes Experiment ergibt sich daraus inzwischen ein überraschend einfaches Modell.

Die KI erledigt Routine.

Belege zuordnen. Konten abstimmen. Informationen zusammensuchen. Termine vorbereiten. Standardkommunikation entwerfen. Kennzahlen aktualisieren. Offene Forderungen identifizieren. Aufgaben anlegen.

Hier sollten wir radikal automatisieren.

Sobald Unsicherheit, Zielkonflikte oder wirtschaftliche Konsequenzen entstehen, wechselt das System vom Ausführen zum gemeinsamen Denken.

Die KI könnte beispielsweise sagen:

Jetzt beginnt Co-Intelligence.

Die Maschine bringt Daten, Erinnerung, Mustererkennung, Simulation und Gegenargumente ein. Der Mensch bringt Kontext, Erfahrung, Beziehungen, Ziele und Verantwortung ein.

Danach fällt eine Entscheidung.

Und erst danach darf das System wieder handeln.

Die dritte Ebene ist für mich die wichtigste – und wahrscheinlich jene, die bei der aktuellen Automatisierungseuphorie am leichtesten verloren geht.

Die KI sollte den Unternehmer nicht nur effizienter machen. Sie sollte ihm helfen, besser zu werden.

Ein Mastery Mode würde deshalb nicht sofort die vermeintlich beste Antwort liefern.

Er würde zuerst fragen: „Wie beurteilst du die Lage?“

Der Unternehmer formuliert seine Einschätzung. Erst danach zeigt die KI ihre Analyse, Unterschiede, Gegenargumente und Daten.

Über Monate entsteht dadurch etwas, das wesentlich wertvoller sein könnte als ein Dashboard: ein dokumentiertes Modell der eigenen Entscheidungsqualität.

Wo lag ich richtig? Wo überschätze ich mich? Welche Risiken übersehe ich regelmäßig? Welche Kennzahlen ignoriere ich? Bei welchen Entscheidungen widerspricht mir das System häufig – und wer hatte im Rückblick recht?

Das ist Deliberate Practice für Unternehmensführung.

Dass Zusammenarbeit mit KI Leistung steigern kann, ist inzwischen gut belegt – allerdings nicht grenzenlos.

In einem Feldexperiment mit 758 Beratern der Boston Consulting Group untersuchten Forschende, wie GPT-4 Wissensarbeit beeinflusst. Bei Aufgaben innerhalb der Leistungsgrenze des Modells arbeiteten die Teilnehmenden schneller und erzielten höhere Qualitätswerte. Gleichzeitig zeigte die Studie eine „jagged technological frontier“: Bei Aufgaben außerhalb der KI-Kompetenz konnte die Nutzung der KI die Fehlerwahrscheinlichkeit erhöhen.

Besonders interessant sind zwei beobachtete Arbeitsweisen: „Centaurs“ teilten Aufgaben zwischen Mensch und KI auf; „Cyborgs“ integrierten die KI laufend in ihren eigenen Arbeitsprozess.

Das bestätigt nicht unser Modell. Aber es stützt eine zentrale Annahme: Die entscheidende Kompetenz wird nicht darin bestehen, KI möglichst oft einzusetzen, sondern zu verstehen, wann Mensch, Maschine oder beide gemeinsam entscheiden sollten.

Genau hier sehe ich einen blinden Fleck vieler Agenten-Visionen.

Wenn die KI analysiert, entscheidet, ausführt und anschließend auch noch bewertet, haben wir zwar einen enorm effizienten Prozess geschaffen – aber möglicherweise einen zunehmend inkompetenten Menschen.

Das Problem wäre nicht, dass die Maschine zu intelligent wird.

Das Problem wäre, dass der Mensch aufhört, Urteilskraft zu trainieren.

Deshalb gehört für mich eine bewusste Reibung in das System. Nicht jede Entscheidung sollte automatisch verschwinden. Bestimmte Entscheidungen müssen beim Menschen bleiben, gerade weil sie Training darstellen.

Ein guter Personal Trainer hebt schließlich auch nicht die Hantel für mich.

Er sorgt dafür, dass ich sie richtig hebe.

Dasselbe Prinzip könnte für Unternehmensführung gelten.

Damit kommen wir zur vielleicht wichtigsten Grenze.

Die KI kann Optionen entwickeln. Sie kann Daten analysieren. Sie kann Risiken markieren. Sie kann meine Argumentation angreifen. Sie kann eine Entscheidung vorbereiten.

Die Verantwortung bleibt beim Menschen.

Das bedeutet nicht, dass jede Aktion manuell bestätigt werden muss. Eine Zahlung von 18 Euro für ein bekanntes Software-Abo ist etwas anderes als die Kündigung eines Mitarbeiters, eine Investition von 100.000 Euro oder eine steuerliche Gestaltungsentscheidung.

Wir brauchen deshalb abgestufte Entscheidungsrechte: Routine wird autonom ausgeführt. Relevante Aktionen brauchen Freigabe. Strategische, rechtliche, finanzielle und menschlich folgenreiche Entscheidungen bleiben explizit beim Verantwortlichen.

Das ist Governance – nicht Misstrauen gegenüber KI.

Je mehr Zugriff wir einer KI geben, desto größer wird auch der mögliche Schaden.

Simon Willison beschreibt für AI Agents eine besonders gefährliche Kombination als „lethal trifecta“: Zugriff auf private Daten, Kontakt mit nicht vertrauenswürdigen Inhalten und die Möglichkeit, Informationen nach außen zu kommunizieren.

Microsoft demonstrierte 2026, wie Prompt-Injection-Schwachstellen in agentischen Frameworks aus einem Sprachproblem ein konkretes Ausführungsrisiko machen können. Sobald ein Modell Werkzeuge bedienen darf, ist eine manipulierte Eingabe potenziell nicht mehr nur eine falsche Antwort – sondern eine falsche Aktion.

Ein echtes Co-Intelligence Operating System braucht deshalb von Beginn an Berechtigungen, Protokollierung, Freigabegrenzen, getrennte Datenräume und nachvollziehbare Aktionen.

Die KI darf viel wissen.

Sie darf nicht automatisch alles dürfen.

Man könnte jetzt sagen: Wenn daraus möglicherweise ein Produkt entsteht, sollten wir darüber nicht öffentlich schreiben.

Ich halte das für die falsche Schlussfolgerung.

Die Idee selbst ist kaum der Burggraben.

„Unternehmen mit KI steuern“, „AI Agents“, „Co-Intelligence“ und „Natural Language Interfaces“ werden von tausenden Teams verfolgt. Wer glaubt, er könne diese Entwicklung durch Geheimhaltung besitzen, überschätzt den Wert der Idee.

Der eigentliche Vorsprung entsteht durch Umsetzung: Welche Daten braucht das System wirklich? Wann darf es handeln? Wann muss es fragen? Wie funktioniert ein guter Entscheidungsdialog? Wie messen wir Entscheidungsqualität? Wie verhindern wir Kompetenzverlust? Wie bauen wir Vertrauen auf? Wie gestalten wir Berechtigungen?

Der Burggraben ist nicht die Idee. Der Burggraben ist das über Jahre aufgebaute System aus Daten, Prozessen, Erfahrung und Lernschleifen.

Genau deshalb können wir öffentlich darüber schreiben – und gleichzeitig anfangen, es zu bauen.

Wir müssen dafür nicht sofort ein komplettes Unternehmen automatisieren.

Buchhaltung ist ein hervorragender Ausgangspunkt, weil sie bereits strukturierte Daten produziert und direkt mit Liquidität, Forderungen, Kosten, Steuern und Unternehmenssteuerung verbunden ist.

Die erste Version könnte erstaunlich unspektakulär aussehen.

Jeden Morgen fragt der Unternehmer:

Das System beantwortet nicht zwanzig Kennzahlen, sondern priorisiert Abweichungen und Entscheidungen.

Danach diskutieren Mensch und KI die relevanten Punkte.

Der Mensch entscheidet.

Die KI dokumentiert die Begründung und führt freigegebene Aktionen aus.

Später prüft das System gemeinsam mit dem Unternehmer, ob die Entscheidung richtig war.

Damit hätten wir einen vollständigen Lernkreislauf:

Wahrnehmen → Denken → Entscheiden → Handeln → Ergebnis prüfen → Lernen.

Ich glaube deshalb nicht mehr, dass die spannendste Frage lautet, wann eine Firma ohne Mitarbeiter möglich wird.

Mich interessiert eine andere Frage:

Nicht über fünf Dashboards. Nicht über Monatsberichte, die drei Wochen alt sind. Nicht über eine Sammlung isolierter Softwareprodukte.

Sondern in einem laufenden Dialog mit einem System, das die Firma kennt, ihre Daten versteht, sich an Entscheidungen erinnert, widerspricht, Szenarien simuliert und anschließend handeln kann.

Dann wäre KI nicht mehr bloß ein Werkzeug im Unternehmen.

Sie wäre Teil seiner kognitiven Architektur.

Und genau dort trifft Unternehmensautomatisierung auf unsere Arbeit an Meisterschaft.

Operate. Decide. Master.

Automatisiere die Routine. Entscheide gemeinsam. Trainiere das Urteil.

Vielleicht ist das der sinnvollere Weg zur Firma der Zukunft.

Dellermann, D.; Ebel, P.; Söllner, M.; Leimeister, J. M. (2019): Hybrid Intelligence. Business & Information Systems Engineering, 61(5), 637–643. DOI: 10.1007/s12599-019-00595-2. AIS Electronic Library.

Dell’Acqua, F. et al. (2023): Navigating the Jagged Technological Frontier: Field Experimental Evidence of the Effects of AI on Knowledge Worker Productivity and Quality. Harvard Business School / BCG field experiment. Harvard Business School AI Institute.

Mollick, E. (2024): Co-Intelligence: Living and Working with AI. Portfolio/Penguin. Wharton – Ethan Mollick.

Willison, S. (2025): The lethal trifecta for AI agents: private data, untrusted content, and external communication. simonwillison.net.

Microsoft Defender Security Research Team (2026): When prompts become shells: RCE vulnerabilities in AI agent frameworks. Microsoft Security Blog, 7. Mai 2026. Microsoft.

Microsoft Security (2026): Securing AI agents: When AI tools move from reading to acting. Microsoft Security Blog, 30. Juni 2026. Microsoft.

Transparenzhinweis: Dieser Beitrag entstand aus einer laufenden Mensch-KI-Arbeitsdiskussion. KI wurde für Recherche, Gegenargumente, Strukturierung und sprachliche Überarbeitung eingesetzt. Die vertretenen Thesen, Auswahl der Argumente und Verantwortung für den Inhalt liegen beim Autor.