token

Das LLM-Kostenparadox: Wie „billigere“ KI-Modelle Budgets sprengen

In der scheinbar verkehrten Welt der KI-Ökonomie war Billigerwerden noch nie so teuer. Die Schlagzeilen feiern den dramatischen Preisverfall bei KI-Token (bei gleicher Leistung sinken die Kosten jedes Jahr um den Faktor 10), und gleichzeitig stellen immer mehr KI-Unternehmen fest, dass ihre Rechnungen in die Höhe schießen.

Der Schuldige? Ein grundlegender Wandel in der Funktionsweise moderner KI-Modelle, der ein komplettes Umdenken bei den Geschäftsmodellen erzwingt, auf denen alles von Coding-Assistenten bis zu Chatbots beruht. Mit den „Reasoning“-Modellen ist das entstanden, was Brancheninsider eine „Explosion des Token-Verbrauchs“ nennen, und selbst die ausgefuchstesten KI-Unternehmen kämpfen nun darum, profitabel zu bleiben.

Die große Umkehr der Token-Effizienz

Jahrelang folgte die KI-Branche einer berechenbaren Effizienzkurve. Laut Statista-Daten sind die durchschnittlichen Output-Kosten pro Million Token stetig gesunken: GPT-3.5 kostete 2022 rund 12 Dollar pro Million Output-Token, 2024 drückten Modelle wie GPT-4 Turbo und Gemini Flash den Wert unter 2 Dollar. Seit der öffentlichen Vorstellung von GPT-3 sind die Inferenzkosten von LLMs in nur 3 Jahren um den Faktor 1.000 gefallen.

Frühe Modelle wie GPT-3.5 antworteten auf einfache Fragen knapp und erzeugten meist höchstens ein paar hundert Token. Die Rechnung war einfach: billigere Token pro Einheit bedeuteten insgesamt niedrigere Kosten.

Mit den Reasoning-Modellen (darunter OpenAIs o1-Serie, GPT-5 mit integriertem Reasoning, Anthropics Claude mit Thinking-Modi und andere) ist dieses Muster zerbrochen. Diese Modelle erzeugen nicht einfach Antworten. Sie „denken“ Probleme durch und produzieren vor der endgültigen Antwort Tausende interne Reasoning-Token.

Die Token-Inflation und ihr verblüffendes Ausmaß

Aktuelle Benchmarks von Epoch.ai zeigen, wie gewaltig diese Effizienzumkehr ausfällt:

  • Reasoning-Modelle: Die durchschnittliche Output-Länge ist um das 5-Fache pro Jahr gestiegen
  • Klassische Modelle: Der Token-Output wuchs „nur“ um das 2,2-Fache pro Jahr
  • Komplexität der Antworten: Reasoning-Fragen erzeugen inzwischen mehr als doppelt so viele Token wie einfache Wissensfragen

Der Token-Verbrauch schwankt je nach Aufgabe enorm:

  • Content-Erstellung: rund 128 Input-Token zu 256 Output-Token
  • Kreatives Schreiben: 512 Input-Token zu 512 Output-Token
  • Dokumentzusammenfassungen: 1.024 bis 7.631 Input-Token zu nur 128 bis 256 Output-Token

Auf der höchsten Reasoning-Stufe können Modelle wie die von OpenAI den Verbrauch an Output-Token gegenüber dem Standardmodus um das 1,6-Fache steigern. Eine einfache Frage kann intern 10.000 Reasoning-Token verbrauchen und nur eine Antwort mit 200 Token liefern. In extremen Fällen, die Nutzer dokumentiert haben, verbrauchen manche Reasoning-Modelle über 600 Token für gerade einmal zwei Wörter Output.

Die Folgen in der Praxis: Wenn Effizienzgewinne zu Verlusten werden

Die Token-Explosion hat eine merkwürdige Lage geschaffen: Unternehmen, die identische Modelle zu identischen Token-Preisen nutzen, können völlig unterschiedliche Kosten haben. Anschaulich zeigen das aktuelle Entwickler-Benchmarks, die identische Anfragen über verschiedene Modelle testen:

  • Einfaches Modell (Kimmy K2): 7 Token für die Antwort auf eine Frage zu einem Skateboard-Trick
  • Reasoning-Modell (Claude mit Thinking): 255 Token für dieselbe Antwort
  • Aggressives Reasoning-Modell (Grok-4): 603 Token, um exakt dasselbe zu sagen

Über Tausende von Durchläufen hochgerechnet kostete Claude rund 9,30 Dollar für die Testreihe. Grok-4? 95 Dollar. Das ist ein 10-facher Kostensprung für identische Ergebnisse, allein wegen aufgeblähter Token-Mengen.

Bei größeren Coding-Aufgaben sieht es ähnlich aus: GPT-5 brauchte für dieselbe Aufgabe rund 90 % weniger Token als Claude Opus 4.1, aber selbst das effizientere Reasoning-Modell verbrauchte drastisch mehr Token als klassische Modelle.

Effizienzunterschiede je nach Modell

Die Effizienzlücke fällt je nach Anbieter sehr unterschiedlich aus. Aktuelle Benchmarks zeigen, dass Claude-Modelle oft ausführlichere (und damit token-intensivere) Antworten erzeugen als Gemini-Modelle mit vergleichbarem Intelligenzniveau. Das „falsche“ Modell für Ihren Anwendungsfall kann die Kosten also vervielfachen, auch wenn der Preis pro Token ähnlich aussieht.

Die Token-Effizienz hängt heute stark von drei Faktoren ab: dem gewählten Modell, der Art der Aufgabe und dem gewünschten Antwortstil. Unter den alten Preisannahmen lassen sich die Kosten deshalb kaum noch vorhersagen.

Die Apokalypse der Geschäftsmodelle

Diese Effizienzumkehr hat ausgelöst, was manche Analysten die „Subscription Squeeze“ nennen: das Ende unbegrenzter KI-Flatrates. Die Wurzel liegt in einer scheinbar logischen, aber fatal fehlerhaften Geschäftsstrategie, die viele KI-Startups übernommen haben.

Der gescheiterte Masterplan

Stellen Sie sich Folgendes vor: Sie gründen ein Unternehmen und wissen, dass Konsumenten nicht mehr als 20 Dollar im Monat zahlen. Nach dem klassischen VC-Lehrbuch verkaufen Sie zum Selbstkostenpreis und opfern die Marge dem Wachstum. Jetzt wird es interessant: Sie haben die Charts gesehen, nach denen die LLM-Kosten jedes Jahr um den Faktor 10 fallen.

Also denken Sie: „Heute arbeite ich mit 20 Dollar im Monat kostendeckend, und wenn die Modelle nächstes Jahr 10-mal billiger werden, zack, 90 % Marge. Die Verluste sind vorübergehend. Die Gewinne sind unvermeidlich.“

Die Strategie schien narrensicher:

  • Jahr 1: Kostendeckend bei 20 Dollar im Monat
  • Jahr 2: 90 % Marge, weil die Rechenkosten um den Faktor 10 fallen
  • Jahr 3: Yacht aussuchen

Nach 18 Monaten sind die Margen aber ungefähr so negativ wie eh und je.

Anthropics ausgeklügeltes Scheitern

Das „Max Unlimited“-Experiment von Claude Code war vielleicht der ausgeklügeltste Versuch, diesen Sturm zu überstehen. Anthropic griff zu jedem Trick aus dem Lehrbuch und wurde trotzdem pulverisiert:

  1. 10-facher Premiumpreis: 200 Dollar im Monat, während die Konkurrenz 20 Dollar verlangte, als Puffer, bevor das Ausbluten begann
  2. Dynamische Modellskalierung: automatisches Umschalten von Opus (75 Dollar pro Million Token) auf Sonnet (15 Dollar pro Million), wenn die Nutzung hochschnellte, wie AWS-Autoscaling, nur für Gehirne
  3. Auslagerung der Rechenarbeit: Kundenrechner nutzen, statt teure Sandboxes hochzufahren

Trotz dieser Ingenieurskunst ging der Token-Verbrauch als Supernova hoch. Einige Nutzer verbrauchten 10 Milliarden Token in einem einzigen Monat, so viel wie 12.500 Exemplare von Krieg und Frieden.

Der Grund? Sobald Sie den Token-Verbrauch von der Zeit entkoppeln, die ein Mensch in der App verbringt, übernimmt die Physik. Die Nutzer entdeckten, dass sie Claude auf automatisierte Aufgaben ansetzen konnten: Arbeit prüfen, refaktorieren, optimieren, wiederholen bis zum Bankrott. Der Schritt vom Chat zum Agenten passierte über Nacht, und der 1.000-fache Anstieg des Verbrauchs war ein Phasenübergang, keine allmähliche Veränderung.

Das Gefangenendilemma

Damit steckt jedes KI-Unternehmen in einer unmöglichen Lage. Alle wissen, dass nutzungsbasierte Preise sie retten würden, und alle wissen auch, dass genau diese Preise sie umbringen würden. Während Sie verantwortungsvoll 0,01 Dollar pro 1.000 Token verlangen, bietet Ihr VC-finanzierter Konkurrent unbegrenzten Zugang für 20 Dollar im Monat.

Das klassische Gefangenendilemma:

  • Alle rechnen nutzungsbasiert ab → tragfähige Branche
  • Alle verlangen eine Flatrate → Wettlauf nach unten
  • Sie rechnen nutzungsbasiert ab, die anderen verlangen eine Flatrate → Sie sterben allein
  • Sie verlangen eine Flatrate, die anderen rechnen nutzungsbasiert ab → Sie gewinnen (und sterben später)

Also scheren alle aus. Alle subventionieren ihre Power-User. Alle posten Wachstumskurven in Hockeyschlägerform. Und irgendwann posten alle „wichtige Preis-Updates“.

Das Wettrüsten bei den Preisen

Während die klassischen Flatrate-Modelle zerbröseln, experimentieren die Unternehmen mit immer komplexeren Preisstrukturen. OpenAIs aktuelle Preisgestaltung enthält Einstellungen für den Reasoning-Aufwand (low, medium, high), die sich auf Latenz und Kosten auswirken. Bei hohem Aufwand gehen rund 80 % der verfügbaren Token allein für das Reasoning drauf.

Die Zuteilung der Reasoning-Token ist auf maximal 32.000 und mindestens 1.024 Token begrenzt, das Budget errechnet sich über Formeln aus Aufwandsverhältnissen. An dieser Komplexität sieht man, wie schwer sich die tatsächlichen Nutzungskosten vorhersagen lassen, wenn derselbe Prompt völlig unterschiedlichen Rechenbedarf auslösen kann.

Manche Unternehmen schwenken auf ganz andere Strategien um:

  • Nutzungsbasierte Preise: weg vom Abo, hin zur Bezahlung pro Token
  • Vertikale Integration: KI mit Hosting und Infrastruktur bündeln, um auf dem gesamten Stack Wert abzuschöpfen
  • Fokus auf Unternehmenskunden: Großkonzerne ansprechen, die für dedizierten Zugang Premiumpreise zahlen

Die technische Ursache

Das Effizienzproblem hat seinen Ursprung in grundlegenden Änderungen der Modellarchitektur. Klassische Sprachmodelle erzeugen Token sequenziell und sagen auf Basis des bisherigen Kontexts jeweils ein Wort voraus. Reasoning-Modelle setzen dagegen auf das, was Forscher „test-time scaling“ oder „long thinking“ nennen.

Im Pretraining und Post-Training sind Token eine Investition in Intelligenz, bei der Inferenz erzeugen sie Kosten und Umsatz. Reasoning-Modelle „zeigen ihren Rechenweg“, indem sie ausführliche innere Monologe produzieren, bevor sie sich auf eine endgültige Antwort festlegen.

Durch diesen Architekturwandel können einfache Fragen lange Reasoning-Ketten auslösen. ChatGPT beantwortete eine Frage von einem Satz früher mit einer Antwort von einem Satz. Heute plant Deep Research 3 Minuten, liest 20 Minuten und schreibt weitere 5 Minuten einen Bericht um, und o3 läuft 20 Minuten, nur um auf „Hello there“ zu antworten.

Das Monstertruck-Paradox

Die Lage erinnert an jemanden, der sparsamere Motoren baut und die gewonnene Effizienz in Monstertrucks steckt. Wir schaffen mehr Meilen pro Gallone, verbrauchen aber auch 50-mal so viele Gallonen. Klar, jeder einzelne Token ist billiger herzustellen, aber pro Aufgabe verbrauchen wir exponentiell mehr davon.

Das Problem der exponentiellen Skalierung

Die Länge der Aufgaben, die KI erledigen kann, verdoppelt sich alle sechs Monate. Was früher 1.000 Token zurückgab, gibt jetzt 100.000 zurück. Hochgerechnet wird die Mathematik wirklich irrsinnig:

  • Heute: Ein 20-minütiger „Deep Research“-Lauf kostet etwa 1 Dollar
  • Bis 2027: Wir werden Agenten haben, die 24 Stunden am Stück laufen, ohne den Fokus zu verlieren
  • Gesamtkosten: Das ist ein Lauf um 4.320 Dollar pro Tag und Nutzer, mit mehreren Agenten, die asynchron arbeiten

Sobald wir Agenten für 24-Stunden-Workloads einsetzen können, geben wir ihnen keine einzelnen Anweisungen mehr. Wir planen sie in Batches ein: ganze Flotten von KI-Arbeitern, die parallel Probleme angehen und Token verheizen, als wäre es 1999.

Die Antwort des Marktes

Die steilsten Preisrückgänge (z. B. das 900-Fache pro Jahr) setzen nach Januar 2024 ein. Betrachtet man nur die Daten ab Januar 2024, steigt der Median vom 50-Fachen auf das 200-Fache pro Jahr. Diese dramatischen Preissenkungen gelten allerdings vor allem für ältere Modelle ohne Reasoning.

Die Preise für Reasoning-Modelle an der Spitze sind dagegen überraschend stabil geblieben. Erscheint ein neues Modell als SOTA, wandern sofort 99 % der Nachfrage dorthin. Das erwarten Konsumenten auch von ihren Produkten. Wir sind kognitiv gierige Wesen. Wir wollen das beste Gehirn, das wir kriegen können, erst recht, wenn auf der anderen Seite der Waage unsere Zeit liegt.

Tragfähige KI-Ökonomie

Die aktuelle Lage zwingt die Branche, sich grundlegenden Fragen zur Tragfähigkeit von KI zu stellen. „Das klären wir später“ gibt es nicht, wenn später heißt, dass Ihre AWS-Rechnung höher ist als Ihr Umsatz.

Aus der Token-Klemme zeichnen sich drei mögliche Auswege ab:

1. Nutzungsbasierte Preise vom ersten Tag an

Reine Ehrlichkeit in der Ökonomie: keine Subventionen, kein „jetzt Kunden gewinnen, später monetarisieren“. Der Haken? Zeigen Sie mir ein KI-Unternehmen für Konsumenten mit nutzungsbasierter Abrechnung, das gerade durch die Decke geht. Konsumenten hassen es, wenn der Zähler mitläuft. Sie zahlen lieber zu viel für eine Flatrate, als von einer Rechnung überrascht zu werden. Jedes erfolgreiche Konsumenten-Abo (Netflix, Spotify, ChatGPT) ist eine Flatrate. Sobald ein Zähler dazukommt, stirbt das Wachstum.

2. Enterprise-Lock-in durch massive Wechselkosten

Das ist die Strategie von Devin. Das Unternehmen hat Partnerschaften mit Citi und Goldman Sachs angekündigt, mit Rollouts für jeweils 40.000 Softwareentwickler. Bei 20 Dollar im Monat sind das Projekte von 10 Millionen Dollar.

Die Frage: Hätten Sie lieber 10 Millionen Dollar ARR von Goldman Sachs oder 500 Millionen von Prosumer-Entwicklern? Die Antwort lautet Goldman Sachs, weil Enterprise-Umsatz nicht abwandern kann. Sechsmonatige Implementierungen, Compliance-Prüfungen, Sicherheitsaudits und die Einkaufshölle bedeuten: Dieser Umsatz ist schwer zu gewinnen, aber unmöglich zu verlieren.

Das erklärt auch, warum die größten Softwareunternehmen außerhalb der Hyperscaler System-of-Record-Anbieter sind (CRM, ERP, EHR), die an genau diese Zielgruppen verkaufen. Sie halten Margen von 80 bis 90 %, denn je schwerer die Abwanderung, desto weniger preissensibel werden die Käufer.

3. Vertikale Integration: den gesamten Stack besitzen

Das ist Replits Spiel: Coding-Agenten werden mit Anwendungs-Hosting, Datenbankverwaltung, Deployment-Monitoring und Logging gebündelt. An jedem Token verliert man Geld, aber auf jeder anderen Ebene des Stacks schöpft man Wert ab.

Nutzen Sie KI als Lockangebot, um den Verbrauch von Diensten anzukurbeln, die mit AWS konkurrieren. Sie verkaufen keine Inferenz, Sie verkaufen alles andere, und Inferenz wird zum Marketingbudget. Das Geniale daran? Code-Generierung schafft von selbst Nachfrage nach Hosting. Jede App braucht Infrastruktur. Jede Datenbank braucht Verwaltung. Sollen OpenAI und Anthropic die Inferenzpreise doch gegen null treiben, während Ihnen alles andere gehört.

Technische Effizienzgewinne

Unterdessen machen einige Unternehmen Fortschritte bei der reinen Effizienzoptimierung. Am vielversprechendsten sind intelligente Routing-Systeme, die für jede Aufgabe automatisch die passende Modellkomplexität auswählen.

Der automatische Modellwechsler von GPT-5: Das könnte die Spielregeln ändern

OpenAIs GPT-5 ist ein deutlicher Schritt gegen das Monstertruck-Paradox. Statt die Nutzer zwischen Modellen wählen zu lassen (wobei sie unweigerlich die teuerste Option nehmen), entscheidet der Router von GPT-5 in Echtzeit, ob er schnell antwortet oder sich auf tieferes, langsameres Reasoning einlässt.

Diese automatische Umschaltung setzt an einem Kernproblem an: Nutzer sind „kognitiv gierige Wesen“, die immer „das beste Gehirn, das sie kriegen können“ wollen. Indem GPT-5 ihnen diese Wahl abnimmt und den Effizienzkompromiss automatisiert, löst es die Kostenexplosion möglicherweise, ohne die Zufriedenheit der Nutzer zu opfern.

Das System kann liefern:

  • Einfache Anfragen: schnelle, billige Antworten mit leichtgewichtiger Verarbeitung
  • Komplexe Probleme: volle Reasoning-Fähigkeiten, wenn sie wirklich gebraucht werden
  • Nahtloses Nutzungserlebnis: ein Modellname, konsistentes Verhalten, kein manuelles Umschalten

Dieser Ansatz könnte zum Branchenstandard werden, weil er direkt an dem wirtschaftlichen Druck ansetzt, der Flatrate-Abos in den Ruin getrieben hat. Statt Nutzer ihre Reasoning-Token für Banalitäten verbrennen zu lassen, sorgt intelligentes Routing dafür, dass die Rechenressourcen zur tatsächlichen Komplexität der Aufgabe passen.

Zu den weiteren Effizienzinnovationen gehört, dass Unternehmen viel in Techniken investieren, die den Verbrauch an Reasoning-Token senken, ohne die Qualität zu opfern. GPT-5 braucht für ähnliche Ergebnisse 22 % weniger Output-Token und 45 % weniger Tool-Aufrufe als o3.

Am Markt wachsen auch aufgabenspezifische Modelle, die den Overhead des allgemeinen Reasonings vermeiden. Modelle wie TinyLlama (1,1 Mrd. Parameter) und Mixtral 8x7B sind frühe Beispiele für kleinere, effizientere Modelle, die Rechenkosten senken und trotzdem stark abschneiden.

Die neue Ökonomie der Intelligenz

Die Kostenkrise der KI-Branche ist mehr als ein Schluckauf bei den Preisen: Sie ist ein grundlegender Wandel darin, wie wir künstliche Intelligenz bewerten und einsetzen. Die Preise pro Token fallen weiter, doch die Explosion des Token-Verbrauchs hat eine neue wirtschaftliche Realität geschaffen, in der „billigere“ Modelle im Betrieb exponentiell mehr kosten können.

Geprüfte Behauptungen, ernüchternde Realität

Unabhängige Faktenchecks von Branchenaussagen zeigen eine ernüchternde Wahrheit über die KI-Ökonomie:

  • ✅ Die Token-Preise fallen (GPT-3.5 fiel von 12 auf unter 2 Dollar pro Million Token)
  • ✅ Der Token-Verbrauch pro Aufgabe schießt in die Höhe (5-faches Wachstum pro Jahr bei Reasoning-Modellen)
  • ✅ Flatrate-Abos brechen weg (die unbegrenzte 200-Dollar-Stufe von Claude Code ist kollabiert)
  • ✅ Die Nachfrage folgt der Spitze, nicht dem Billigen (Nutzer strömen zu 60-Dollar-Modellen, obwohl es 26-mal billigere Alternativen gibt)
  • ✅ Die Kosten für Infrastruktur und Energie steigen weiter (trotz Effizienzgewinnen)

Das Zusammentreffen dieser Faktoren erzeugt das, was Analysten das „Gefangenendilemma“ der KI-Preisgestaltung nennen: Rechnen alle nutzungsbasiert ab, ist die Branche tragfähig. Jagen alle dem Flatrate-Wachstum nach, endet es im Wettlauf nach unten und im Bankrott.

Die Zahl, auf die es ankommt

Für Unternehmen wie für Konsumenten ist die Lehre klar: Lassen Sie sich nicht von Preissenkungen pro Token verführen. Die Zahl, auf die es ankommt, sind die Token pro Aufgabe, und die steigt schneller, als die Kostenkurven mithalten können.

Unternehmen, die diesen Wandel früh erkennen und ihre Geschäftsmodelle entsprechend anpassen, finden vielleicht tragfähige Wege. Wer an der alten Annahme festhält, dass fallende Token-Preise automatisch fallende Kosten bedeuten, riskiert, zum Opfer der Umkehr der Token-Effizienz zu werden.

Ein Branchenanalyst brachte es so auf den Punkt: „Immerhin werden die Modelle nächstes Jahr 10-mal billiger“. Der Satz fasst Versprechen und Gefahr der modernen KI-Ökonomie perfekt zusammen. Die Modelle werden pro Token vielleicht wirklich billiger, aber wenn sie 100-mal mehr Token verbrauchen, geht die Rechnung für niemanden auf.

Die Zukunft gehört den Unternehmen, die sich in dieser neuen Lage zurechtfinden und die beeindruckenden Fähigkeiten von Reasoning-Modellen mit der wirtschaftlichen Realität des exponentiellen Token-Verbrauchs in Einklang bringen. In der Welt der KI war Klügerwerden noch nie so teuer.

Aus dem Englischen übersetzt: zum Originalbeitrag

Gestalten Sie die Zukunft Ihres Unternehmens mit KI

Tauchen Sie ein in unsere spannenden Workshops und rüsten Sie Ihr Team mit den Werkzeugen und dem Wissen aus, um im Zeitalter der KI führend zu sein.

Kontaktieren Sie uns
Scroll to top