Das KI-Paradox am Arbeitsplatz: Warum LLMs Aufgaben nicht nur automatisieren, sondern die Landkarte der Jobs untergraben

 

Anfang 2024 machte McDonald’s eine leise Ankündigung: Nach drei Jahren Tests mit KI-gestützter Drive-through-Bestellung in mehr als 100 US-Restaurants beendete das Unternehmen seine Partnerschaft mit IBM. Bis zum 26. Juli sollte die Technik wieder draußen sein.

Die offizielle Begründung war glattes Konzerndeutsch: Man wolle „Lösungen für Sprachbestellungen breiter prüfen“. Die Franchisenehmer erzählten etwas anderes. Der BTIG-Analyst Peter Saleh berichtete, die Genauigkeit liege weiterhin „im niedrigen bis mittleren 80-Prozent-Bereich“, also deutlich unter den 95 %, die es braucht, um mit menschlichen Mitarbeitern mitzuhalten. Das System kam mit Akzenten und Dialekten schlecht zurecht. Die Betriebskosten waren hoch. Bei der McDonald’s Worldwide Convention in Barcelona waren „alle dort beobachteten Bestellungen falsch“.

Auf TikTok war das Chaos zu sehen: Die KI bestellte für einen verwirrten Kunden 2.510 McNuggets, setzte statt Wasser Butterpäckchen auf die Rechnung und verstand einfache Wünsche als etwas völlig anderes. McDonald’s hatte 300 Millionen Dollar für den Kauf der Firmen ausgegeben, aus denen diese Technik hervorging. Der Pilotversuch dauerte drei Jahre. Eine Drive-through-Bestellung konnte das System danach immer noch nicht zuverlässig aufnehmen.

Ein Technikversagen war das nicht. Die KI funktionierte, nur eben nicht innerhalb von McDonald’s. Der Drive-through berührte den Betrieb (Neugestaltung der Abläufe), HR (Personalmodelle), die Rechtsabteilung (es kam zu Datenschutzklagen), die Beziehung zu den Franchisenehmern (wer zahlt für Fehler?), das Kundenerlebnis (der Ruf der Marke) und die IT (Anbindung an Altsysteme). Keine einzelne Abteilung war dafür zuständig. Kein einzelner Manager musste geradestehen, wenn etwas schiefging.

McDonald’s ist kein Ausreißer. Es ist ein Vorgeschmack.

Das Paradox: KI verschwindet aus den Stellenbeschreibungen, während sie unverzichtbar wird

Ende 2025 machte die Karriereplattform Ladders einen Trend öffentlich, der der Intuition widerspricht: Die ausdrückliche Nennung von „KI-Kenntnissen“ in Stelleninseraten geht zurück, und zwar in fast allen Berufsfeldern, obwohl Arbeitgeber den sicheren Umgang mit KI erwarten. In Design- und UX-Rollen fiel der Anteil der KI-Nennungen von 56,7 % im Jahr 2021 auf 44,6 % im Jahr 2025. Die Softwareentwicklung folgte.

„Das wird immer seltener erwähnt werden, so wie Microsoft Office heute auch nicht mehr in Stelleninseraten steht“, sagte Ladders-CEO Marc Cenedella zu Business Insider.

Die Erwartung ist nicht verschwunden. Sie wird vorausgesetzt. Pipedrive-CTO Agur Jõgi sagte es unverblümt: „Das ist wie eine Eintrittskarte fürs Spiel.“

Dieses Paradox (KI verschwindet aus den formalen Anforderungen und wird zugleich informell zur Pflicht) deutet auf mehr hin als auf einen Trend bei der Personalsuche. KI automatisiert nicht einfach Aufgaben. Sie löst die Grenzen auf, nach denen Unternehmen ihre Arbeit organisieren.

Die Schatten-KI-Wirtschaft

Im Juli 2025 veröffentlichte das Project NANDA des MIT eine der umfassendsten Studien zum Einsatz von KI in Unternehmen. Sie stützt sich auf 52 Interviews mit Führungskräften, 153 Befragungen des Managements und die Analyse von mehr als 300 öffentlichen Deployments, und das Ergebnis war deutlich: Laut den Forschern brachten 95 % der KI-Pilotprojekte in Unternehmen keinen messbaren Effekt auf Gewinn und Verlust. Nur 5 % schufen nennenswerten Wert.

Interessanter war aber ein anderer Befund, und der handelt nicht vom Scheitern der Konzerne, sondern vom Erfolg Einzelner.

Nur 40 % der Unternehmen haben offizielle LLM-Abos, aber in über 90 % berichten Beschäftigte, dass sie regelmäßig private KI-Tools nutzen (ChatGPT, Claude, Copilot), und zwar für alltägliche Aufgaben. Das meiste davon läuft ohne Freigabe der IT. Es ist eine „Schatten-KI-Wirtschaft“ entstanden.

Das MIT hat diese Dynamik in Interviews festgehalten. Eine Wirtschaftsanwältin in einer mittelgroßen Firma griff immer wieder zu ihrem privaten ChatGPT-Abo, obwohl ihre Organisation 50.000 Dollar in ein spezialisiertes Tool zur Vertragsanalyse investiert hatte. „Unser gekauftes KI-Tool lieferte starre Zusammenfassungen mit wenigen Anpassungsmöglichkeiten“, sagte sie den Forschern. „Bei ChatGPT kann ich das Gespräch lenken und so lange nachbessern, bis ich genau das habe, was ich brauche.“

Ein Konsumentenprodukt um 20 Dollar im Monat schlägt ein Unternehmenssystem um 50.000 Dollar. Technisch ist KI für Unternehmen gar nicht schlechter. Die Organisationen haben nur noch nicht herausgefunden, wie sie KI organisatorisch zum Laufen bringen.

Die Verantwortungslücke

Klassische Automatisierung ersetzte Handarbeit, indem sie Abläufe in Skripte goss. LLMs tun etwas Disruptiveres: Sie verstärken geistige Arbeit über Organisationsgrenzen hinweg. Eine einzelne Person kann heute Tools als Prototyp bauen, Abläufe automatisieren und Prozesse umgestalten, wofür es früher abgestimmte Teams von Spezialisten brauchte.

Das müsste befreiend sein. Stattdessen lähmt es.

Sehen Sie sich an, womit McDonald’s tatsächlich zu tun hatte. Die KI saß genau dort, wo sich Zuständigkeiten kreuzten, von denen das Organigramm annahm, dass sie sich nie überschneiden würden. Wer behob das, als die Genauigkeit sank? Wer verantwortete das Budget, als die Kosten davonliefen? Und als der Kunde eines Franchisenehmers 2.510 McNuggets bekam: Wer entschuldigte sich, und wer zahlte?

Laut einer Studie der Harvard Business Review scheitern die meisten KI-Initiativen daran, dass „Organisationen nicht dafür gebaut sind, sie am Leben zu halten“. Eine Umfrage von S&P Global unter Unternehmensführungen aus dem Jahr 2025 ergab, dass 42 % der Unternehmen heuer die meisten ihrer KI-Initiativen aufgegeben haben, nach 17 % im Jahr 2024. Im Schnitt verwarf ein Unternehmen 46 % seiner Proofs of Concept vor dem Produktiveinsatz.

Das Muster wiederholt sich: Für sich genommen funktioniert KI, an den Schnittstellen der Organisation scheitert sie.

Human-in-the-Loop ohne einen Menschen, der das Sagen hat

Auch wenn KI Aufgaben übernimmt, brauchen Organisationen Menschen, die überwachen, prüfen und die Ergebnisse einordnen. Human-in-the-Loop (HITL) ist nach dem EU AI Act inzwischen gesetzlich vorgeschrieben. Die meisten Unternehmen haben aber keine Ahnung, wie sie das aufsetzen sollen.

Eine US-Krankenversicherung automatisierte die Bearbeitung von Leistungsanträgen mit Machine Learning. Das System lehnte systematisch Notfallanträge von außerhalb des Vertragsnetzes ab, weil die Trainingsdaten falsch klassifizierte Leistungserbringer enthielten. Niemand bemerkte es, weil es niemandes Aufgabe war, das zu bemerken. Menschliche Sachbearbeiter erkannten das Muster schließlich, korrigierten die Labels und kalibrierten das Modell neu. Da drohten der Organisation bereits Klagen.

Das Problem war nicht, dass keine Menschen verfügbar gewesen wären. Es war nie festgelegt worden, wessen Aufgabe es ist, die Maschine zu beobachten. Das Organigramm ging davon aus, dass KI-Ergebnisse von vornherein vertrauenswürdig sind.

Wer gewinnt, wer verliert

Der strukturelle Umbau, den KI verlangt, wird nicht gleichmäßig verteilt sein.

CIOs verlieren an Bedeutung. Wenn Beschäftigte KI schneller einsetzen, als die IT sie bewerten kann, bricht die Rolle des Torwächters zusammen. Microsoft stellte fest, dass 78 % der Beschäftigten, die KI nutzen, ihre eigenen Tools mitbringen, außerhalb der IT-Aufsicht. Das ist kein Sicherheitsproblem, das man lösen müsste, sondern eine Machtverschiebung, die man steuern muss.

Das Sicherheitsteam eines Finanzdienstleisters entdeckte, dass Beschäftigte monatelang ChatGPT für die Kundenkommunikation genutzt hatten, und zwar erst, als ein Compliance-Audit ungewöhnliche Datenmuster meldete. Die IT hatte das nicht freigegeben. Die IT hatte nicht einmal davon gewusst. Das Governance-Framework ging davon aus, dass die IT kontrolliert, welche Tools in die Abläufe gelangen. Diese Annahme war längst überholt.

Das mittlere Management wird ausgedünnt. KI fasst Informationen zusammen, entwirft Mitteilungen und koordiniert Aufgaben, also genau das, was Vorgesetzte traditionell getan haben. Eine Studie, die 62 Millionen Beschäftigte verfolgte, ergab, dass Einstiegspositionen „in Unternehmen, die KI integrieren, schrumpfen“. Der Effekt setzt sich nach oben fort.

Einkauf und Rechtsabteilung werden zu Machtzentren. Wenn die Beziehungen zu KI-Anbietern strategisch werden, gewinnen die Teams an Einfluss, die Verträge aushandeln und die zulässige Nutzung festlegen. Das MIT stellte fest, dass Organisationen, die mit spezialisierten Anbietern zusammenarbeiten, doppelt so oft erfolgreich sind wie jene, die selbst entwickeln. Jemand muss diese Partnerschaften führen.

Fachkräfte ohne Führungsrolle, die KI sicher beherrschen, gewinnen an Einfluss. Die Anwältin, die ChatGPT statt des 50.000-Dollar-Tools ihres Unternehmens nutzt, verstößt nicht gegen eine Richtlinie. Sie zeigt, dass das Organigramm zur Fiktion geworden ist. Wer Ergebnisse liefert, indem er KI über Grenzen hinweg orchestriert, wird unverzichtbar, ganz gleich, welchen Titel er trägt.

Die richtige Frage

Die übliche Frage (Wie viele Jobs wird KI vernichten?) geht am Thema vorbei. Die Jobs verschwinden nicht. Sie werden um Grenzen herum neu gebaut, die das Organigramm nicht kennt. Die richtige Frage lautet:

Kommt Ihre Organisation mit einer Welt zurecht, in der die Ausführung demokratisiert ist, die Verantwortung aber nicht?

McDonald’s kam damit nicht zurecht. Die Krankenversicherung beinahe auch nicht. Laut den Daten des MIT schaffen es die meisten Unternehmen bis heute nicht. Die Schatten-KI-Wirtschaft ist kein Regelverstoß, den man ahnden müsste. Sie ist ein Signal. Die Beschäftigten haben längst herausgefunden, wie man die „GenAI-Kluft“ überwindet: mit privaten Abos und geborgter Zeit, außerhalb des Organigramms, weil das Organigramm zum Hindernis geworden ist.

Organisationen, die Verantwortung nicht neu ordnen können, werden die KI weiter für Fehler verantwortlich machen, die durch und durch menschlich sind.

Aus dem Englischen übersetzt: zum Originalbeitrag