Ihre Skill-Datei hat jetzt einen Backward Pass

Forscher bei Microsoft haben letzte Woche den ersten systematischen Textraum-Optimierer für die Skill-Dateien von Agenten veröffentlicht. SkillOpt, geleitet von Yifan Yang und einem Team von fünfzehn Leuten, lässt einen eingefrorenen Agenten bewertete Aufgaben abarbeiten, mit einem Skill-Dokument im Kontext. Ein separates Optimierer-Modell schlägt dann Änderungen an diesem Dokument vor (Ergänzungen, Streichungen, Ersetzungen), die nur übernommen werden, wenn sie die Leistung auf einem zurückgehaltenen Validierungsset strikt verbessern.

Über sechs Benchmarks, sieben Zielmodelle und drei Ausführungs-Harnesses hinweg, darunter Claude Code und Codex, waren die optimierten Skills in jeder der 52 ausgewerteten Zellen die besten oder gleichauf mit den besten. Auf GPT-5.5 im direkten Chat hoben sie die Baseline ohne Skill um 23,5 Punkte. In der agentischen Schleife von Codex um 24,8. In Claude Code um 19,1. Die resultierenden best_skill.md-Dateien ließen sich ohne erneutes Training auf andere Modelle, andere Harnesses und benachbarte Benchmarks übertragen.

Erst dieses letzte Ergebnis macht daraus eine Verschiebung auf eine andere Ebene und nicht bloß einen Trick beim Prompt-Tuning. Skills, also die SKILL.md-Dateien, die sich gerade über Claude Code, Codex, DeepAgents und den Standard Anthropic Agent Skills ausbreiten, wurden bisher von Hand geschrieben. SkillOpt behandelt sie als Trainingsziel statt als Eingabe, mit der Disziplin, die Optimierung im Gewichtsraum überhaupt erst funktionieren lässt: Prüfungen auf zurückgehaltenen Daten, begrenzte Lernraten, negative Gradienten, langsame Updates.

Dass es funktioniert, liegt am Validierungs-Gate

Die Trainingsschleife ist schnell beschrieben. Ein eingefrorener Agent bearbeitet einen Batch bewerteter Aufgaben mit dem aktuellen Skill im Kontext. Das Optimierer-Modell liest die Rollouts, sortiert sie in erfolgreiche und gescheiterte Trajektorien und sucht im Vergleich danach, was der Skill hätte sagen müssen, damit aus den Fehlschlägen Erfolge werden. Dieser Vergleich ist das Gradientensignal. Der Optimierer schlägt eine kleine, begrenzte Menge von Änderungen vor, jeder Skill-Kandidat wird auf einem zurückgehaltenen Validierungsset getestet, und nur eine Änderung, die den Score strikt verbessert, wird übernommen.

Konkret: Stellen Sie sich vor, Sie trainieren einen Skill für einen Spreadsheet-Agenten. Zwanzig Aufgaben laufen mit dem aktuellen Skill, zwölf gelingen, acht scheitern. Beim Lesen der Fehlschläge bemerkt der Optimierer, dass der Agent bei mehrdeutigen Datumsstrings gestolpert ist: Spalteneinträge wie 03/04/2024 ohne Hinweis auf das Format. Der aktuelle Skill sagt, man solle Datumsangaben in datetime-Objekte umwandeln, bevor man Intervalle berechnet, deckt aber den mehrdeutigen Fall nicht ab. Der Optimierer schlägt eine zusätzliche Klausel vor: Wenn das Format unklar ist, zuerst den Rest der Spalte nach eindeutigen Einträgen durchsuchen und erst dann parsen. Dieser Skill-Kandidat geht in die Validierung. Verbessert sich der Score, wird die Änderung übernommen. Wenn nicht, wandert sie in den Puffer für abgelehnte Änderungen, und der Optimierer erfährt, dass diese Richtung nicht funktioniert hat.

Diese Prüfung auf zurückgehaltenen Daten unterscheidet SkillOpt von früheren Ansätzen zur Selbstrevision. LLM-Optimierer sind gut darin, plausibel klingende Rechtfertigungen dafür zu produzieren, warum eine Änderung helfen sollte, und genau daran scheitert lose kontrollierte Selbstrevision: Der Skill driftet ungeprüft dorthin, wo der Optimierer glaubt, dass es funktionieren sollte. Das Validierungs-Gate macht die Meinungen des Optimierers billig, und es gilt das Urteil des Evaluators.

Drei weitere Kontrollen leisten die strukturelle Arbeit, und die Ablationsstudien im Paper zeigen, dass sie tragend ist. Ein textuelles Lernraten-Budget begrenzt, wie viele Änderungen pro Epoche übernommen werden. Sind es zu viele, überschreibt eine breite Neufassung eine nützliche Regel. Sind es zu wenige, kann der Skill Abläufe nicht schnell genug aufnehmen, um mit dem Schritt zu halten, was die Rollouts zeigen. Ein Puffer für abgelehnte Änderungen hält gescheiterte Vorschläge fest, damit der Optimierer dieselbe Sackgasse in der nächsten Epoche nicht noch einmal vorschlagen kann. Ein Meta-Skill mit langsamen Updates sitzt auf der Seite des Optimierers und sammelt längerfristige Muster dazu, wie sich der Skill selbst entwickelt (wann Ersetzen besser ist als Hinzufügen, wann das Dokument zu lang geworden ist und komprimiert werden muss), ohne die ausgelieferte Datei aufzublähen.

Das ausgelieferte Artefakt ist ein einziges Dokument. Bei der Inferenz fallen null zusätzliche Modellaufrufe an. Der Optimierer, der Meta-Skill, der Puffer und die Validierungsläufe sind allesamt Gerüst für die Trainingszeit, so wie auch der Optimierer in PyTorch nicht mit in die Produktion wandert.

Skills lassen sich übertragen, weil sie Wissen über die Aufgabe kodieren

In den Transfer-Experimenten bekommt die strukturelle These ihr Gewicht. Ein Skill, der mit GPT-5.4 auf LiveMathBench optimiert wurde, behält seinen Zugewinn, wenn er zu GPT-5.4-nano wechselt. Ein Skill, der im Codex-Harness auf SpreadsheetBench trainiert wurde, behält seinen Zugewinn, wenn er in Claude Code wechselt. Ein Skill, der auf einem Mathe-Benchmark trainiert wurde, lässt sich auf einen benachbarten verallgemeinern. Das Artefakt ist weder auf das Modell überangepasst, das es erzeugt hat, noch auf den Harness, in dem es trainiert wurde.

Der Grund liegt darin, was der Skill enthält. Die optimierte Datei sammelt Ablaufregeln zur Aufgabe (wenn in dieser Art von Tabelle mehrdeutige Datumsangaben auftauchen, lassen sie sich so auflösen; wenn diese Art von Tool diese Art von Fehler liefert, kommt man so wieder heraus) und keine Ablaufregeln zum Modell. Wissen über die Aufgabe ist portabel. Ein anderes Modell, das denselben Skill in derselben Domäne ausführt, erbt dasselbe angesammelte Vorgehen. Ein anderer Harness, der dasselbe SKILL.md-Format lädt, bekommt dasselbe Playbook.

Das ist die Verschiebung auf eine andere Ebene. Das Rezept aus Harness, Domänenkontext und kodifiziertem Urteilsvermögen war schon bisher der Ort, an dem das Engineering-Urteil in modernen Agentensystemen steckte. Den dritten Term haben Sie früher selbst geschrieben. Jetzt können Sie ihn trainieren.

Das Paper grenzt sich ausdrücklich von der bisherigen Linie ab: TextGrad, GEPA, Trace2Skill, EvoSkill, in einem Durchgang von LLMs erzeugte Skills und von Menschen geschriebene Skills. SkillOpt schlägt jeden davon in jeder Zelle, auch die von Menschen geschriebenen Skills. Das sollte man ernst nehmen. Überdehnen sollte man es aber auch nicht: Die Baselines und Benchmarks haben die Autoren selbst ausgewählt.

Das Eval-Signal ist der Engpass

Die sechs Benchmarks von SkillOpt (SpreadsheetBench, OfficeBench, DocVQA, LiveMathBench, SearchQA, ALFWorld) haben eine Eigenschaft gemeinsam, die man ausdrücklich benennen sollte. Sie haben ein klares Pass/Fail. Die Trajektorie löst das Rätsel oder nicht. Die Tabelle entspricht dem Gold-Output oder nicht. Die Mathe-Antwort ist richtig oder falsch. Das ist der Gradient, mit dem der textuelle Backward Pass arbeitet.

Viel Wissensarbeit liefert ein Signal, das fast ebenso klar ist. Hat der Agent die Quellen korrekt zitiert. Hat er sich vom Tool-Fehler erholt, bevor er es noch einmal versucht hat. Enthielt die Zusammenfassung die geforderten Aussagen. Hat er Unsicherheit markiert, statt zu konfabulieren. Aus jeder dieser Fragen lässt sich ein bewertetes Eval bauen, nur kostet das echte Arbeit.

So sieht diese Arbeit in der Praxis aus: Um einen Skill für einen Agenten, der Recherchen zusammenfasst, auf die Eigenschaft „enthielt die Zusammenfassung die geforderten Aussagen und vermied sie unbelegte“ zu trainieren, müssen Sie die Quelldokumente festlegen, außerdem die Aussagen, die diese Dokumente stützen und nicht stützen, und einen Grader (ein weiteres LLM, einen abgestimmten Klassifikator, stichprobenartige Prüfung durch Menschen), der Rollouts im Maßstab des Trainings gegen diese Ground Truth beurteilt. Der Grader muss darauf validiert werden, dass er mit dem korreliert, was Ihnen tatsächlich wichtig ist. Nichts davon ist unüberwindbar. Nichts davon ist gratis.

Bei aller Begeisterung über Gewinne von 23 Punkten sollte eines am SkillOpt-Ergebnis nicht untergehen: Diese Gewinne stammen aus Umgebungen, in denen das Gradientensignal bereits in den Benchmark eingebaut war. Domänen ohne dieses Signal müssen es erst bauen, bevor Training nach Art von SkillOpt dort greifen kann.

Von Hand geschrieben ist jetzt eine Entscheidung und nicht mehr der Standard

Die Skills, die gerade in Ihrem Repository liegen, wurden von Menschen geschrieben, nach Intuition überarbeitet und verbessert, wenn jemandem schlechte Ergebnisse aufgefallen sind. Gegen genau diesen Workflow tritt SkillOpt an: die handgefertigten Skills, die das Abstract des Papers als aktuellen Standard nennt.

Die praktische Konsequenz für Teams, die Agenten-Stacks betreiben: Finden Sie heraus, welche Skill-Dateien Aufgaben mit sauberem Pass/Fail-Signal abdecken, und planen Sie Budget für das Engineering des Eval-Signals ein, das der Rest brauchen wird. Die Skills gehören weiterhin Ihnen. Nur schreiben Sie sie nicht mehr allein.

Backprop hat Gewichte trainiert. RLHF hat Verhalten trainiert. Die nächste Ebene darüber liegt schon auf arXiv.

Aus dem Englischen übersetzt: zum Originalbeitrag