KI erklärt den Menschen zum Engpass in der Forschung und baut gleich das System, das ihn behebt

Stellen Sie sich eine künstliche Intelligenz vor, die so weit entwickelt ist, dass sie zu dem Schluss kommt: Die Menschheit bremst bei all ihrer Brillanz den eigenen Fortschritt. Dann entwirft sie ein System, das wissenschaftliche Forschung autonom betreibt, von der Hypothese bis zum Test, und verändert damit grundlegend, wie wir KI entwickeln. Das ist keine Science-Fiction, sondern die kühne Behauptung aus einem neuen Paper aus China, das ein System namens ASI-ARCH: Artificial Superintelligence for AI Research vorstellt.

Die zentrale These ist drastisch: Die Fähigkeiten von KI wachsen exponentiell, das Tempo der KI-Forschung bleibt aber durch die kognitive Kapazität des Menschen linear begrenzt. Daraus entsteht ein schwerer Engpass für den Fortschritt der KI. ASI-ARCH schlägt dafür eine radikale Lösung vor: ein vollständig autonomes System zur Entdeckung neuronaler Architekturen, mit dem KI ihre eigene Architektur von Grund auf neu erfindet. Das bedeutet einen Paradigmenwechsel von automatisierter Optimierung zu automatisierter Innovation.

Ein „AlphaGo-Moment“ für die Wissenschaft

Die Forscher vergleichen das Auftauchen von ASI-ARCH mit einem „AlphaGo-Moment“. Sie erinnern sich vielleicht: AlphaGo von Google DeepMind überholte den Menschen im Go, weil es sich das Spiel beibrachte, indem es gegen sich selbst antrat, und dabei Strategien entdeckte, auf die Menschen nie gekommen waren. ASI-ARCH beansprucht etwas Ähnliches, nur für die KI-Forschung selbst: Es könne sich besser beibringen, KI-Modelle zu bauen, als Menschen das können.

Dabei geht es um mehr als das Nachjustieren bestehender Designs. ASI-ARCH will wissenschaftliche Forschung von Anfang bis Ende durchführen: eigene Ansätze entwickeln, den Code schreiben, Experimente fahren und die Ergebnisse testen. In der ersten Demonstration führte das System fast 2.000 autonome Experimente durch und entdeckte bemerkenswerterweise 106 neuartige Linear-Attention-Architekturen auf dem Stand der Technik (State of the Art, SOTA). Diese von der KI entdeckten Architekturen zeigten „emergente Designprinzipien, die von Menschen entworfene Baselines systematisch übertreffen“.

Die beispiellose Behauptung: ein Skalierungsgesetz für wissenschaftliche Entdeckung

Die vielleicht wichtigste und umstrittenste Behauptung des ASI-ARCH-Papers ist die Aufstellung des ersten empirischen Skalierungsgesetzes für wissenschaftliche Entdeckung selbst. Skalierungsgesetze für Rechenleistung kennen wir: Werfen Sie mehr Hardware (GPU-Stunden) auf ein KI-Modell, und es wird klüger. Jetzt legen die Autoren nahe: Je mehr Rechenleistung (GPU-Stunden) Sie in dieses Problem investieren, desto besser wird die Architektur und desto mehr Durchbrüche werden Sie sehen.

Falls das stimmt, würde es den technologischen Fortschritt grundlegend verändern. Bisher sind Verbesserungen etwa in der Medizin, bei der Effizienz von Autos oder beim Wirkungsgrad von Solarmodulen „hart erkämpfte, teure und zeitaufwendige Prozesse“, die menschliche Ingenieure vorantreiben. Dieses neue Skalierungsgesetz legt dagegen nahe, dass solcher Fortschritt schlicht zu „einer Funktion von mehr GPU-Stunden“ werden könnte. Geben Sie diesen KI-Systemen mehr Leistung, und sie könnten einfach „Innovation am laufenden Band“ und „wissenschaftliche Entdeckungen“ ausspucken.

Wie arbeitet dieser autonome Wissenschaftler?

ASI-ARCH ist ein ausgeklügeltes, als geschlossene evolutionäre Schleife angelegtes System aus vier miteinander verbundenen Modulen:

• Cognition Base: Das ist das Grundlagenwissen des Systems. Es nimmt bestehende menschliche Forschungsarbeiten auf (etwa von arXiv oder Hugging Face) und zieht mit einem LLM-Extraktor die Kernpunkte heraus. Mit diesem gesammelten menschlichen Wissen startet es.
• Researcher-Modul: Das ist der kreative Motor. Gestützt auf die Cognition Base und auf Erkenntnisse aus den eigenen früheren Experimenten schlägt der Researcher neue architektonische Innovationen vor (Hypothesen) und erzeugt den passenden Experimentcode. Er prüft sogar Neuheit und Gültigkeit, um doppelte Arbeit zu vermeiden.
• Engineer-Modul: Es führt die Experimente aus und bewertet sie. Der Experimentcode läuft in einer echten Trainingsumgebung. Wichtig dabei ist der robuste Mechanismus zur Selbstkorrektur: Scheitert ein Trainingslauf an einem Programmierfehler, analysiert das Modul das Fehlerprotokoll und überarbeitet seinen eigenen Code, damit vielversprechende Ideen nicht vorzeitig verworfen werden. Der Engineer nutzt außerdem einen LLM-Prüfer, der Effizienz, Neuheit und Komplexität des Codes qualitativ bewertet, und verrechnet das mit der tatsächlichen Leistung zu einem „Fitness-Score“.
• Analyst-Modul: Es gewinnt die Erkenntnisse. Das Modul erhält die Fitness-Scores und die Versuchsergebnisse, fasst zusammen, was funktioniert hat und was nicht, und gibt diese Befunde an den Researcher zurück. So lernt das System laufend aus den eigenen Entdeckungen und verfeinert seinen Ansatz für künftige Designs.

Durch diese ständige Rückkopplung stützt sich das System nicht nur auf menschliches Wissen, sondern entwickelt eigene Erkenntnisse aus seinen eigenen Experimenten und seiner eigenen Arbeit.

Woher kommen die Durchbrüche?

Zu den faszinierendsten Ergebnissen der ASI-ARCH-Experimente gehört die Herkunft der erfolgreichen architektonischen Durchbrüche:

• Cognition (menschliche Expertise): Auf die Auswertung bestehender wissenschaftlicher Arbeiten entfielen 48,6 % der Durchbrüche. Das riesige Reservoir menschlichen Wissens bleibt also wichtig.
• Experience (Selbstentdeckung): Die Fähigkeit des Systems, aus seinen eigenen Experimenten und der Analyse seiner eigenen Befunde zu lernen und Neues zu schaffen, brachte bemerkenswerte 44,8 % der Durchbrüche. Diese selbstrekursive Lernschleife ist ein bedeutendes Ergebnis, denn sie legt nahe, dass die KI wirklich aus der eigenen Arbeit lernen und besser werden kann.
• Originality (wirklich neu): Nur 6,6 % der Durchbrüche waren wirklich eigenständig, stammten also weder aus vorhandenem menschlichem Wissen noch aus den angesammelten Erfahrungen des Systems. Echte Neuheit ist demnach selten, kommt aber auch autonom vor.

Die Daten zeigen außerdem, dass das Pareto-Prinzip (die 80/20-Regel) auch für die KI-Forschung gilt. Ein kleiner Teil der architektonischen Ansätze (etwa Gating-Systeme, Temperatursteuerung und Convolutional-Architekturen) lieferte den Großteil der erfolgreichen Durchbrüche. Innovation ist demnach selbst bei einer KI nicht völlig zufällig, sondern folgt erkennbaren Mustern.

Der Elefant im Raum: Skepsis und Replikation

Man muss klar sagen: Das sind große Behauptungen, und das Paper steht unter kritischer Beobachtung. Namhafte Forscher wie Lucas Bayer (früher bei OpenAI, DeepMind und Google Brain) haben sich skeptisch geäußert und angemerkt: Das Paper „riecht faul“.

Ein konkreter methodischer Einwand betrifft die Praxis, Architekturen zu verwerfen, deren Loss mehr als 10 % unter der Baseline liegt. Kritiker sehen darin einen möglichen Hinweis auf „informelles Leakage“ oder eine Methode, sich günstige Daten herauszupicken, was die berichteten Erfolgsraten verzerren könnte.

Die gute Nachricht: ASI-ARCH ist als Open Source veröffentlicht, andere KI-Labore können also versuchen, die Forschung zu replizieren. Diese ehrgeizigen Behauptungen, vor allem das empirische Skalierungsgesetz, muss die breitere Wissenschaftsgemeinde erst bestätigen. Viele in der KI-Community glauben, dass Ansätze wie ASI-ARCH zur rekursiven Selbstverbesserung von KI beitragen werden, auch wenn einige Behauptungen übertrieben sein sollten.

Rekursive KI und die Intelligenzexplosion

Sollten sich die Behauptungen von ASI-ARCH bewahrheiten, hätte das tiefgreifende Folgen. Die Automatisierung der KI-Forschung selbst ist wohl „der größte Dominostein“, den wir je automatisieren könnten. Sie ebnet den Weg zu „rekursiv selbstverbessernder KI“, bei der KI-Systeme klüger werden und zugleich immer besser darin, sich selbst klüger zu machen. Dieser sich aufschaukelnde Prozess könnte zu dem führen, was manche eine „Intelligenzexplosion“ nennen: eine rasche und dramatische Beschleunigung der KI-Fähigkeiten, die das menschliche Verständnis übersteigt.

Die genaue Zukunft kennen wir nicht. Die Entwicklung der KI, bei der immer mehr Fortschritt von der KI selbst ausgeht (AlphaGo verbessert Hardware, die Darwin-Gödel-Maschine ihren eigenen Code und nun ASI-ARCH seine eigene Architektur), legt aber nahe, dass viele sehr wohl auf solche selbstverbessernden Systeme hinarbeiten. Oder wie es der YouTube-Kanal „Wes Roth“ formuliert: „Ich würde nicht dagegen wetten“. Es dürfte jedenfalls spannend werden.

Aus dem Englischen übersetzt: zum Originalbeitrag