In der Softwareentwicklung kennen wir den Unterschied zwischen Quellcode und kompilierten Binärdateien seit Langem. Quellcode ist das, was Programmierer schreiben: für Menschen lesbare Anweisungen, die das Verhalten eines Programms festlegen. Beim Kompilieren wird daraus Maschinencode, den Computer effizient ausführen können. Dieser Schritt verschleiert zwangsläufig die ursprüngliche Logik, weshalb eine kompilierte Binärdatei viel schwerer zu verstehen ist als der Quellcode.
Dieser vertraute Vorgang bietet eine wirkungsvolle neue Art, über KI-Modelle und Transparenz nachzudenken: Die Trainingsdaten sind der eigentliche Quellcode von KI-Systemen, und das Training ist die Kompilierung.
Warum Trainingsdaten Quellcode sind
So wie Programmierer ihre Absichten im Quellcode ausdrücken, drücken KI-Entwickler ihre Ziele in sorgfältig zusammengestellten Trainingsdaten aus. Diese Daten enthalten die Muster, Zusammenhänge und Verhaltensweisen, die unsere KI-Modelle lernen sollen. Die Entscheidung, was in den Trainingsdatensatz kommt und was draußen bleibt, entspricht der Entscheidung eines Programmierers, welche Funktionen er in seinem Code umsetzt.
Was sind Trainingsdaten eigentlich? Von Menschen ausgewählte Beispiele, die festlegen, was das Modell lernen soll. Wenn wir bestimmte Arten von Beispielen aufnehmen und andere weglassen, „programmieren“ wir im Grunde das Verhalten des Modells. Wenn wir die Daten auf bestimmte Weise bereinigen und vorverarbeiten, schreiben wir die Anweisungen, die prägen, wie das Modell seine Aufgabe versteht.
Training als Kompilierung
Das Training ähnelt der Kompilierung also erstaunlich stark. Ein Compiler verwandelt für Menschen lesbaren Quellcode in optimierte Maschinenbefehle, das Training verwandelt von Menschen zusammengestellte Trainingsdaten in optimierte Modellgewichte. Beide Vorgänge:
- nehmen eine für Menschen verständliche Eingabe entgegen (Quellcode/Trainingsdaten)
- wenden komplexe Transformationen an, um für die Ausführung durch die Maschine zu optimieren
- erzeugen eine Ausgabe (Binärdateien/Gewichte), die effizient ist, aber die ursprüngliche Absicht verschleiert
- machen es schwer, die ursprüngliche Eingabe per Reverse Engineering zu rekonstruieren
Das Missverständnis um die Distribution
Aus dieser Perspektive wird etwas Entscheidendes an der heutigen Praxis klar, „Open Weights“ zu veröffentlichen: Es geht dabei im Kern um Distribution, nicht um Transparenz. Wenn Unternehmen Modellgewichte freigeben und ihre Trainingsdaten unter Verschluss halten, tun sie genau das, was Softwarefirmen tun, wenn sie kompilierte Binärdateien ohne Quellcode herausgeben: Sie ermöglichen die Nutzung der Technologie, ohne zu verraten, wie sie entstanden ist.
Eine kompilierte Binärdatei sagt Ihnen wenig darüber, wie das Programm entworfen wurde. Genauso geben Ihnen Modellgewichte keinen echten Einblick in die Trainingsdaten, die das Verhalten des Modells geprägt haben. Die Gewichte sind wie eine Binärdatei das Endprodukt einer Transformation, die die ursprüngliche „Programmierung“ verschleiert hat: die sorgfältig ausgewählten Trainingsdaten.
Was das für echte KI-Transparenz bedeutet
Wer Trainingsdaten als Quellcode versteht, sieht klarer, was echte KI-Transparenz verlangen würde. Echte Software-Transparenz bedeutet Zugang zum Quellcode, echte KI-Transparenz würde Zugang zu den Trainingsdaten erfordern. Deshalb zögern viele Unternehmen, ihn zu gewähren: Die Trainingsdaten sind, wie Quellcode, ihr zentrales geistiges Eigentum und ihr Wettbewerbsvorteil.
Das erklärt auch, warum die Untersuchung von Modellgewichten nie vollständige Transparenz liefern kann, auch wenn sie bestimmte Aspekte von KI-Systemen durchaus verständlich macht. Die Gewichte sind wie eine kompilierte Binärdatei: Sie enthalten die Anweisungen für die Ausführung, aber viel vom Kontext und von der Absicht hinter ihrer Entstehung ist verloren.
Wie es weitergeht
Diese neue Einordnung legt nahe, dass wir in unseren Diskussionen über KI-Transparenz genauer werden müssen. Wenn Unternehmen Modellgewichte veröffentlichen, beteiligen sie sich nicht wirklich an „Open Source“-KI. Sie wählen bloß einen Vertriebsweg, der ihre Technologie leichter zugänglich macht und zugleich ihr wichtigstes geistiges Eigentum schützt (die Trainingsdaten).
Wenn wir echte Transparenz in der KI-Entwicklung wollen, müssen wir uns auf den „Quellcode“ konzentrieren, also auf die Trainingsdaten. Das könnte bedeuten:
- neue Wege zu entwickeln, Trainingsdaten zu teilen und dabei Privatsphäre und geistiges Eigentum zu schützen
- Standards zu schaffen, um Entscheidungen über Datenauswahl und Vorverarbeitung zu dokumentieren
- Werkzeuge zu bauen, die zeigen, wie die Wahl der Trainingsdaten das Modellverhalten beeinflusst
- Frameworks zu etablieren, mit denen sich Trainingsdaten prüfen lassen, ohne vollen Zugang zu benötigen
Wer Trainingsdaten als den eigentlichen Quellcode von KI-Systemen versteht, sieht diese Herausforderungen klarer und erkennt, wo sinnvolle Lösungen liegen. Der Weg zu echter KI-Transparenz könnte eher der Open-Source-Softwarebewegung ähneln als den heutigen „Open Weights“-Initiativen.
Wenn Sie das nächste Mal hören, dass ein Unternehmen seine Modellgewichte veröffentlicht, denken Sie daran: Sie bekommen die kompilierte Binärdatei, nicht den Quellcode. Die eigentliche Frage lautet: Wie kommen wir zu einer Zukunft, in der sich KI-Systeme über ihre Trainingsdaten wirklich verstehen lassen, so wie wir Programme über ihren Quellcode verstehen?
Aus dem Englischen übersetzt: zum Originalbeitrag