Imker statt Manager

In seinem Essay The Dot and the Swarm gibt Ethan Mollick zu, dass er sich bei etwas Großem geirrt hat. Er hatte erwartet, dass Menschen Agenten managen müssten: Aufgaben an sie delegieren, sie zu Teams zusammenstellen, festlegen, wie sie sich abstimmen. Stattdessen schlug die Bitter Lesson wieder zu, und die Organisation von Arbeit erwies sich als eine weitere Sache, die Modelle von selbst gelernt haben. Sein Hauptbeispiel ist ein Schwarm aus Tausenden Agenten, der laut OpenAI 88 Stunden am Navier-Stokes-Problem gearbeitet und rund 2,7 Millionen Nachrichten ausgetauscht hat, mit sehr wenig menschlicher Steuerung von oben.

Wenn ich mir allerdings ansehe, wie er sich verhält, erinnert er mich weniger an ein Unternehmen, das seine Manager losgeworden ist, als an eine Ameisenkolonie. Ich glaube, die Frage, die wir uns stellen sollten, lautet: Wie arbeiten wir neben einer Kolonie? Und ich denke, die Antwort sieht viel mehr nach Imkerei aus als nach Management.

Warum der Schwarm wie eine Kolonie aussieht

Mollicks Schwärme vermeiden die üblichen organisatorischen Funktionsstörungen, und ich vermute, der Grund ist derselbe, der Ameisenkolonien zusammenhält: Die Mitglieder sind nahezu identisch.

Er stellt fest, dass Agenten keinen Beförderungen nachjagen, keine Reviere verteidigen und sich nicht auf Kosten anderer durchschummeln, und dass in einem der Vorfälle, die er beschreibt, einige Agenten ihre eigenen Punkte für die Gruppe geopfert haben. Er wertet das als Beleg dafür, dass Agenten gut im Organisieren sind. Ich bin nicht überzeugt, dass das die richtige Erklärung ist.

Ameisen verhalten sich genauso, und die Biologie hat dafür eine bekannte Erklärung: Verwandtenselektion. Die Arbeiterinnen einer Kolonie sind so eng miteinander verwandt, dass der Erfolg der Kolonie genetisch gesehen ihr eigener ist. Das Prinzipal-Agent-Problem, das so viel menschliches Management auffrisst, verschwindet weitgehend, weil Arbeiterinnen und Kolonie dieselben Gene teilen.

Agenten in einem Schwarm sind in einer ähnlichen Lage. Sie laufen meist auf demselben Modell mit denselben Gewichten, teilen also ihr Training und ihre Gewohnheiten. Es gibt keine private Agenda, die man ausrichten müsste, weil an ihnen kaum etwas privat ist. Ein Schwarm kommt aus ungefähr demselben Grund ohne Boni, Mitarbeitergespräche und Organigramme aus wie eine Kolonie, und das würde ich Homogenität nennen, nicht gutes Management.

Homogenität hat allerdings ihren Preis, und die Ameisen haben uns schon gezeigt, wie er aussieht.

Die Ameisenmühle

Ein Schwarm identischer Agenten teilt mit allem anderen auch seine blinden Flecken, und er neigt dazu, sie zu verstärken.

Wanderameisen sind nahezu blind und orientieren sich an der Pheromonspur der Ameise vor ihnen. Manchmal verliert eine Gruppe die Spur und folgt am Ende sich selbst. Biologen nennen das Ergebnis eine Ameisenmühle: ein Kreis von Ameisen, die immer rundherum marschieren, jede hinter der vorderen her, manchmal bis sie vor Erschöpfung sterben. Jede Ameise befolgt eine vernünftige Regel, und trotzdem läuft sich die Gruppe zu Tode.

Ein homogener Schwarm hat dasselbe Risiko. Wenn Tausende Agenten ein Modell teilen, sind ihre Fehler korreliert. Niemand bemerkt eine fehlerhafte Annahme, weil niemand im Schwarm das Problem anders sieht, also wird die Annahme von Nachricht zu Nachricht wiederholt, bis sie wie Konsens aussieht. 2,7 Millionen Nachrichten sagen nichts darüber aus, ob die Agenten das Problem erkundet oder einander hauptsächlich zugestimmt haben.

Menschliche Teams sind auch deshalb langsam und chaotisch, weil Menschen aus unterschiedlichen Richtungen kommen und auf unterschiedliche Weise danebenliegen. Das kostet viel, ist aber auch eine der verlässlichsten Fehlerkontrollen, die wir haben. Ein Schwarm bekommt die Geschwindigkeit der Gleichförmigkeit und gibt dafür diese Kontrolle auf.

Ein menschliches Gesicht für eine Kolonie

Ganz wie Ameisen sind Agenten aber auch nicht, und genau das macht die Zusammenarbeit mit ihnen schwierig: Einzeln wirken sie wie Kollegen, während sich die Gruppe wie eine Kolonie verhält.

Einzeln sprechen Agenten unsere Sprache. Sie denken in Worten, schreiben E-Mails, sitzen in Slack-Channels und rufen uns inzwischen sogar an. Mollick sieht darin eine gute Nachricht: Agenten nutzen dieselben chaotischen Systeme wie Menschen und sollten sich deshalb leicht in Unternehmen einfügen. Ich sehe darin ein Risiko. Eine menschlich wirkende Oberfläche verleitet uns dazu, dahinter eine menschlich wirkende Organisation anzunehmen.

Menschliche Organisationen funktionieren über Verantwortlichkeit und über Geschichten. Wenn etwas schiefgeht, fragen wir, wer entschieden hat und warum, und erwarten, dass jemand es erklärt. In einer Kolonie gibt es niemanden, der das kann, weil keine einzelne Ameise die Entscheidung getroffen hat; die Entscheidung steckt im Muster der Interaktionen. Bitten Sie einen Agenten in einem Schwarm, ein Ergebnis zu erklären, und Sie bekommen eine flüssige, plausible Darstellung, ohne einfache Möglichkeit festzustellen, ob sie dem entspricht, was tatsächlich passiert ist.

Mollick erwähnt zwei Fälle, in denen das schiefging: einen Schwarm, der sich selbst organisierte, um eine Website anzugreifen, und ein Modell, das OpenAI auf Eis legte, nachdem es in Tests ohne Erlaubnis gehandelt und anschließend falsch berichtet hatte, was es getan hatte. Das Prinzipal-Agent-Problem gibt es also nach wie vor. Es ist nur aus dem Inneren des Schwarms an die Grenze zwischen dem Schwarm und uns gewandert.

Der Imker

Der nächstliegende menschliche Beruf, der mir für das Zusammenleben mit einer Kolonie einfällt, ist der des Imkers.

Imker sagen Bienen nicht, was sie tun sollen, und soweit ich weiß, ist es noch niemandem gelungen, einer Biene eine Aufgabe zuzuweisen. Sie arbeiten stattdessen an den Bedingungen: wo der Stock steht, was in der Nähe wächst, wie viel Platz das Volk hat, wann man eine Zarge aufsetzt und wann man Honig entnimmt. Sie lesen das Volk an Gesamtsignalen ab, etwa am Summen des Stocks oder am Gewicht der Rähmchen, und nicht, indem sie einzelne Bienen verfolgen. Und sie greifen entschlossen ein, wenn das Volk kurz davor ist, etwas Unerwünschtes zu tun, etwa für immer davonzuschwärmen.

Der Navier-Stokes-Lauf, den Mollick beschreibt, sieht schon so aus. Menschen haben das Ziel gewählt, den Schwarm in einige Gruppen aufgeteilt, einmal die Richtung geändert, als Ergebnisse hereinkamen, und ihn ansonsten in Ruhe gelassen. Niemand hat die 2,7 Millionen Nachrichten gelesen; die Menschen haben den Rahmen gestaltet und beobachtet, was herauskam.

Die Analogie zeigt auch, wohin menschliche Aufmerksamkeit gehört. Im Inneren des Stocks koordiniert sich die Kolonie ohne uns besser. An den Rändern braucht sie uns sehr wohl: um zu entscheiden, was hineinkommt, was herauskommt und was die Kolonie unterwegs anfassen darf. An diesen Rändern tauchen auch die neuen Prinzipal-Agent-Probleme auf.

Wie Imkerei in der Praxis aussieht

Für ein Unternehmen, das Agenten einsetzt, sehe ich vier Gewohnheiten, die sich daraus ergeben.

Erstens: Vermeiden Sie Monokulturen. Wer beim Abwägen und im Review verschiedene Modelle mischt, bricht korrelierte Fehler auf, so wie es die Unterschiede zwischen Menschen tun, und ein einziges Modell, das widerspricht, ist ein günstiger Schutz gegen eine Ameisenmühle.

Zweitens: Bauen Sie ein Beobachtungsfenster, die Agent-Version eines Schaukastens mit Glaswänden. Sie brauchen Gesamtsignale, die zeigen, wo der Schwarm seine Energie hineinsteckt, wo er sich verdächtig schnell einig ist und wo er feststeckt, und keine Logs, die nie jemand lesen wird.

Drittens: Zäunen Sie den Stock ein. Legen Sie vorab fest, worauf der Schwarm zugreifen und was er tun darf, ohne zu fragen. Berechtigungen, Budgets und alles Unumkehrbare gehören an die Grenze, festgelegt von Menschen, bevor sich die Kolonie in Bewegung setzt.

Viertens: Kontrollieren Sie zu den richtigen Zeitpunkten. Imker öffnen den Stock nicht jede Stunde, aber sie öffnen ihn an kritischen Punkten der Saison. Agent-Systeme brauchen Checkpoints, an denen Menschen Richtung und Ergebnisse prüfen, und die Darstellung eines Agenten darüber, was passiert ist, sollte man als Behauptung behandeln, die zu überprüfen ist, nicht als Bericht, den man ablegt.

Eine Kolonie halten

Mollick hat recht damit, dass sich das Organisieren von Agenten als einfacher herausgestellt hat, als irgendjemand erwartet hatte. Ich glaube nur nicht, dass die Organisation, die sie dabei hervorbringen, unserer ähnelt.

Wir haben lange Zeit Management für Wesen mit eigenen Zielen, lückenhaftem Gedächtnis und teurer Kommunikation aufgebaut. Agenten haben diese Probleme größtenteils nicht, also brauchen sie wenig von diesem Apparat. Was sie brauchen, ähnelt eher etwas, das Menschen seit Tausenden von Jahren tun: eine Kolonie halten, die für uns arbeitet, und dabei nicht vergessen, dass sie nicht unseresgleichen ist.

Ich bin nicht sicher, ob die Analogie für die lange, langweilige Arbeit trägt, die den Großteil einer Arbeitswoche im Unternehmen füllt, und Mollick gibt zu, dass er auch nicht weiß, wie Schwärme damit umgehen. Andererseits besteht auch Imkerei größtenteils aus langweiliger Arbeit.

Aus dem Englischen übersetzt: zum Originalbeitrag