Die gezackte Grenze bleibt. Bauen Sie entsprechend.

2023 gaben Forscher der Harvard Business School 758 BCG-Beratern eine Reihe von Aufgaben und Zugang zu einem Frontier-Modell. Bei Aufgaben innerhalb der Fähigkeiten des Modells waren die Ergebnisse beeindruckend: Die Berater erledigten mehr, waren schneller und lieferten bessere Qualität. Dann ergänzten die Forscher eine Aufgabe, die bewusst außerhalb der Fähigkeiten des Modells lag. Bei dieser Aufgabe lag die Wahrscheinlichkeit, zur richtigen Antwort zu kommen, für Berater mit KI um 19 Prozentpunkte niedriger als für Berater, die allein arbeiteten.

Das Modell war nicht bloß keine Hilfe. Es machte ausgebildete Fachleute schlechter, als sie ohne es gewesen wären, weil es gewandt versagte, und gewandtes Versagen gewinnt Vertrauen.

Diese Studie, „Navigating the Jagged Technological Frontier“ von Dell’Acqua et al., gab dem Phänomen seinen Namen. Die gezackte Grenze („jagged frontier“) ist die Beobachtung, dass die Fähigkeiten eines Modells keine glatte Fläche bilden. Ein System, das produktionsreifen Code schreibt, kann sich beim Zählen der Einträge einer Liste vertun. Ein System, das eine Anwaltsprüfung besteht, kann den Überblick verlieren, welcher Gegenstand auf welchem liegt. Stärken und Schwächen wechseln sich in Mustern ab, die menschlichen Intuitionen über Schwierigkeit nicht folgen. Was für uns leicht ist, sagt nichts darüber aus, was für das Modell leicht ist.

Die meisten, die dem Gedanken begegnen, legen ihn als Reifeproblem ab. Die Modelle sind jung, die Grenze ist rau, das nächste Release schleift sie glatt. Tatsächlich ist die Sache aber vielschichtiger.

Jedes neue Modell schiebt die Grenze nach außen. Keines glättet sie. Die Zacken verlaufen danach einfach woanders: Eine Aufgabe, die im letzten Quartal scheiterte, funktioniert jetzt, und eine Aufgabe, auf die Sie sich inzwischen verlassen haben, wird unbemerkt schlechter. Die Grenze der aktuellen Generation ist keine polierte Fassung der vorigen. Sie ist eine ganz andere Küstenlinie.

Das hat Folgen für alle, die eine mentale Landkarte dessen pflegen, was KI kann. Ihre Karte ist im Grunde einen Release-Zyklus lang haltbar. Der Aufwand, den Sie heute in die Kartierung der Grenze stecken, ist in dem Moment abgeschrieben, in dem sich die Modellgewichte ändern, und die Modellgewichte ändern sich ständig. Fähigkeiten zu kartieren ist ziemlich vergeblich, so etwas wie ein Laufband, verkleidet als Due Diligence.

Ein beliebter Benchmark ist der Intelligence Index von Artificial Analysis. Er fasst 9 Evaluierungen zu einer einzigen Zahl zusammen: GDPval-AA v2, 𝜏³-Banking, Terminal-Bench v2.1, SciCode, Humanity’s Last Exam, GPQA Diamond, CritPt, AA-Omniscience und AA-LCR. Ein solcher Benchmark meldet allerdings die durchschnittliche Höhe einer Küstenlinie. Das hilft, um eine Vorstellung davon zu bekommen, wie Ihr bevorzugtes Modell im Schnitt gegenüber anderen Modellen abschneidet, aber Ihr Workflow läuft nicht auf dem Durchschnitt. Er läuft auf bestimmten Schritten, in einer bestimmten Reihenfolge, und ein einziger Schritt unter der Wasserlinie ertränkt die Pipeline, egal wie beeindruckend der Mittelwert ist. In einer Chat-Oberfläche mag das erträglich sein: Dort liest ein Mensch jede Ausgabe, und der Schaden einer schlechten Antwort beschränkt sich auf ein Gespräch. In agentischen Systemen ist es untragbar, denn dort werden Ausgaben zu Eingaben, und Fehler schaukeln sich auf, statt sich herauszumitteln. Ein Schritt mit 95 Prozent Zuverlässigkeit, zehnmal hintereinandergeschaltet, ergibt einen Münzwurf.

Das zweite Opfer ist die Intuition der Nähe. Menschen nehmen an, dass Aufgaben, die benachbart aussehen, ähnlich schwierig sind, weil das für Menschen auch stimmt. Ein Kollege, der einen Vertrag zusammenfassen kann, kann auch einen etwas längeren Vertrag zusammenfassen. Modelle widerlegen diese Annahme regelmäßig. Die Grenze ist gezackt im Verhältnis zu unseren Erwartungen an sie, das heißt: Die Erwartungen sind die Fehlerquelle. Jedes Mal, wenn Sie Vertrauen von einer getesteten Aufgabe auf eine benachbarte, ungetestete ausweiten, navigieren Sie mit einer Karte, zu der das Gelände nicht mehr passt.

Was ist also die richtige Reaktion, wenn Kartieren vergeblich ist und die Nähe lügt? Die Antwort lautet: Hören Sie auf, wissen zu wollen, wo die Grenze verläuft. Bauen Sie so, dass es keine Rolle spielt, wo sie liegt. Aber wie geht das?

Die Systeme, die die Zacken überstehen, teilen eine Architekturentscheidung: Erzeugung und Prüfung liegen bei ihnen nie am selben Ort. Das Modell denkt, etwas Handfestes lenkt. Eine Test-Suite läuft. Ein Compiler widerspricht. Ein Schema validiert. Ein zweiter Prozess mit anderen Fehlermustern prüft den ersten. Das Modell gilt als nicht vertrauenswürdiger Generator in einem vertrauenswürdigen Harness, und der Harness, nicht der Ruf des Modells, rechtfertigt das Deployment.

Das dreht die übliche Frage um. Teams fragen „Ist das Modell gut genug für diesen Workflow?“ und streiten dann über Benchmarks. Die bessere Frage zerlegt das Ganze: Für welche Schritte in diesem Workflow gibt es eine handfeste Prüfung, und für welche nicht? Schritte mit handfester Prüfung können Sie schon heute dem Modell übergeben, wie auch immer die Grenze gerade aussieht, denn ein Fehler wird genau dort abgefangen, wo er passiert. Schritte ohne handfeste Prüfung sind die Stellen, an denen Ihre Architektur ungeschützt ist, und daran ändert kein Benchmark-Wert etwas. Die Sortierung sieht so aus:

1. Schritte, die eine Maschine prüfen kann: ohne Einschränkung automatisieren. Die Form der Grenze ist belanglos, weil die Prüfung abfängt, was die Karte übersehen hätte.
2. Schritte, die eine Maschine teilweise prüfen kann: automatisieren, mit der Prüfung im Loop, und protokollieren, was durchrutscht.
3. Schritte, die nur ein Mensch beurteilen kann: den Menschen behalten. Nicht als Aufseher über alles, sondern als Prüfschicht für genau jene Schritte, die keine andere haben.

Achten Sie darauf, was Ihnen das bringt. Einem so gebauten System sind Releases gleichgültig. Wenn sich die Grenze neu zieht, bestehen die Schritte mit handfester Prüfung weiterhin oder scheitern sichtbar, und die von Menschen beurteilten Schritte haben dem Modell ohnehin nie vertraut. Nichts muss neu kartiert werden, weil nichts von der Karte abhing.

Das Unangenehme daran: Der Kartierungsinstinkt stirbt langsam. Er fühlt sich verantwortungsvoll an. Er produziert Dokumente, Fähigkeitsmatrizen, Listen freigegebener Anwendungsfälle, all die Artefakte der Sorgfalt. Und jedes davon ist veraltet, bevor es die Runde macht, und stellt unbemerkt einen Freibrief für Aufgaben aus, die das aktuelle Modell anders behandelt als das getestete. Die Sorgfalt selbst ist die Schwachstelle.

Die Grenze wird sich weiterhin schneller bewegen als jede Karte von ihr. Die Frage, die zählt, lautet nicht, wo die Zacken diesen Monat verlaufen. Sie lautet: Wie vielen Schritten in Ihrer eigenen Pipeline vertrauen Sie gerade allein aufgrund von Nähe, weil eine benachbarte Aufgabe einmal funktioniert hat, auf einem Modell, das es nicht mehr gibt?

Aus dem Englischen übersetzt: zum Originalbeitrag