LLMs nach den Grundsätzen von Wikimedia

Der Hype um LLMs geht auch an der Wikimedia-Bewegung nicht vorbei. Nicht nur, weil wir die Auswirkungen ihrer Präsenz offensichtlich auf vielfältige Weise spüren (Serverauslastung, verändertes Nutzerverhalten und Leserschwund). Viele Wikimedianer/innen verspüren zudem entweder den Drang oder den Druck, solche Tools selbst zu nutzen. In unserer Bewegung finden zahlreiche Diskussionen darüber statt, wie man sie einsetzen kann – von Richtlinien-Diskussionen im Wiki über Sessions bei unserem Hackathon bis hin zu Chatgruppen, die sich damit beschäftigen. Ich habe dazu viele Gedanken, habe mir aber noch keine endgültige Meinung gebildet. Ich entschuldige mich schon mal im Voraus dafür, dass einige Threads unbeantwortet bleiben. Ich habe jedoch das Gefühl, dass ich vor Wikimania etwas veröffentlichen muss, da es so viele Sessions zu diesem Thema und zahlreiche Nebenveranstaltungen gibt – und hier ist der Grund dafür.

Vor kurzem war ich beim AI-Bridges-Symposium, und bei einer Nebenveranstaltung mit Schwerpunkt auf Wikimedia war ich erleichtert zu hören, dass es noch mehr Nutzende als mich gab, die das Gefühl hatten, dass dieses Thema mit vielen verschiedenen Problemen verbunden ist. Es gab an diesem Tag einen Satz, der mich besonders angesprochen hat (ich kann leider nicht verraten, wer ihn gesagt hat, da die Veranstaltung unter den Chatham-House-Regeln stattfand). Der Kern davon: „Wie hätten Prinzipien für LLMs ausgesehen, wenn das Wikimedia Movement sie schon vor dem aktuellen Hype entwickelt hätte?“ Und genau darauf möchte ich mich in diesem Blogbeitrag konzentrieren. Ich hoffe zumindest, dass er als eine Perspektive dient, die wir in einige der 22 Wikimania-Sessions im KI-Track einbringen können, damit wir nicht von der aktuellen Hype-Flut mitgerissen werden.

Free Libre und Open Source

Die Werte der Freie- und Open-Source-Software-Bewegung sind tief im Wikimedia Movement verwurzelt. Und mir ist immer klarer geworden, warum das so sein sollte. Der vielleicht beste Text, den ich zu diesem Thema gelesen habe, und der auch einen Bezug zur KI hat, ist der Aufsatz Software Freedom as Civic Care von Audrey Tang. Ich kann ihn nur wärmstens empfehlen. „Free Libre und Open Source“ mag wie eine selbstverständliche Anforderung für LLMs erscheinen, da alles, was wir auf unseren Servern bereitstellen wollen, Open Source sein muss – egal, ob es sich um LLMs handelt oder nicht –, aber es gibt einige Nuancen zu beachten. Erstens hat die Open-Source-Community bereits erkannt, dass es nicht dasselbe ist, einem Modell einfach nur eine Lizenz anzuhängen, wie den Quellcode dazu zu veröffentlichen. Zum Teil, weil es sich dabei nicht wirklich um den Quellcode handelt. Daher wurde die Open-Source-KI-Definition entwickelt, doch diese verlangt immer noch nur eine Beschreibung, welche Art von Trainingsdaten verwendet wurde, ohne dass diese explizit bereitgestellt werden müssen. Wenn hingegen als Quelle für die Trainingsdaten explizit auf diese verwiesen und diese zugänglich gemacht würden, wäre es möglich, sie zur Verbesserung anzupassen und auf Verzerrungen zu analysieren. Alle Trainingsdaten unter einer freien Lizenz oder in der Public Domain zu haben, würde nicht nur diesen offenen Zugang ermöglichen, sondern stünde auch im Einklang mit unseren Werten und der Art und Weise, wie wir unsere Inhalte zur Wiederverwendung veröffentlichen.

Ich bin selbst kein LLM-Entwickler und habe nur begrenztes Wissen darüber, wie solche Modelle aufgebaut sind. Wenn es also noch andere Dinge gibt, die für das LLM entscheidend sind (wie werden die Bewertungen durchgeführt?, die Gewichte selbst?, das Framework, auf dem sie laufen?), sollten diese ebenfalls veröffentlicht werden, damit sie nach Belieben genutzt, untersucht, verbessert und verbreitet werden können.

All das zu haben, wäre ein guter Anfang, aber ich glaube nicht, dass es ausreicht.

Ethik

Obgleich es in den USA, zumindest derzeit, rechtlich möglich zu sein scheint, mit vollständig urheberrechtlich geschütztem Material zu trainieren, denke ich, dass damit klare Grenzen überschritten werden und wir uns an eindeutigere Ausnahmeregelungen halten sollten. Das Trainieren ausschließlich mit freien Inhalten ist zumindest ethisch vertretbarer, als auch alles zu sammeln, was unter vollständigem Urheberrecht veröffentlicht wurde – doch es ist wahrscheinlich, dass viele Nutzende freier Lizenzen nicht damit gerechnet haben, dass ihre Inhalte auf diese Weise verwendet werden. Die Zukunft vorherzusagen ist schwierig, aber zumindest wurden diese Inhalte für die allgemeine Wiederverwendung veröffentlicht. Bei neueren Inhalten sollten wir sicherstellen, dass alle vorhandenen Opt-out-Technologien und -Signale bei der Erhebung der Trainingsdaten respektiert wurden.

In einer kürzlich abgehaltenen Session der Open Knowledge Foundation beschrieb Prof. Adriana Baravalle (Universidad Austral, Buenos Aires) fünf Grundsätze für verantwortungsbewusstes Design. Die haben mir sehr gut gefallen. Der erste betraf die Rückverfolgbarkeit der Trainingsdaten; bei den vier anderen ging es um Ethik und vielleicht auch um Ehrlichkeit. Nicht alle lassen sich einfach „lösen“, aber ich denke, sie sind auch für das Movement alle eine Überlegung wert. Vielleicht ist uns eines davon bereits vertraut: die unterschiedliche Verfügbarkeit von Ressourcen in verschiedenen Sprachen. Es ist nicht einfach, hier gleiche Voraussetzungen zu schaffen, aber wir sind uns dessen bewusst, und einige im Movement arbeiten auch daran. Ebenso ist das Problem des Zugangs zu den Tools an Orten mit schlechter Infrastruktur bekannt, und das sollten wir weiterhin im Auge behalten. Der Teil, den sie „ökologische Ehrlichkeit“ nennt, hätte vielleicht unter dem Punkt „Transparenz“ weiter unten stehen können, aber ich denke, er passt als ethisches Thema, da es sich um ein Prozessproblem handelt und nicht um den Inhalt oder die Ergebnisse. Meiner Ansicht nach sollten wir nur LLMs verwenden, deren Entwickler sich ernsthaft bemühen, darüber zu berichten, welche ökologischen Auswirkungen die Entwicklung des LLM hatte. Und wir sollten auch Vorbilder sein, wenn es darum geht, zu berichten, welche Ressourcen wir für den Betrieb nutzen, oder fordern, dass diese Daten ebenfalls öffentlich zugänglich sind. Ihr Grundsatz, den ich neuartig finde und der vielleicht etwas Innovation erfordert, ist, dass ein Tool eine „Pädagogik der Ungewissheit“ haben sollte. Damit meint sie, dass sie kommunizieren sollten, was sie nicht wissen, und keine falsche Sicherheit vermitteln sollten. Vielleicht ist das mit der aktuellen Technologie unmöglich, aber als Wikimedianer/in würde ich mir solche Tools auf jeden Fall wünschen.

Transparenz

Ein Großteil der Transparenz würde dadurch gewährleistet, dass man offener mit den Trainingsdaten und dem Code umgeht. Ich denke aber, es lohnt sich, noch einmal zu betonen, dass dies nicht nur aus ideologischen Gründen wichtig wäre; es würde auch einen Anhaltspunkt dafür liefern, wie viel Vertrauen man in ein bestimmtes Modell setzen kann. Gleichzeitig würde diese nachverfolgbare Herkunftskette auch ganz im Sinne von Wikipedianern/innen sein.

Auf Meta haben wir bereits die bewährte Praxis, Machine-Learning-Modelle mit Modellkarten zu beschreiben. Die Vorlage dafür könnte um alle oben genannten Punkte erweitert werden, und jedes Modell, das wir verwenden, sollte dann natürlich mithilfe einer Modellkarte beschrieben werden.

Joy

Zwar gibt es fast unzählige Diskussionen über Projekte, wie wir LLMs nutzen können, doch drehen sich diese oft um den Nutzen der Ergebnisse, und manchmal werden auch rechtliche Fragen angesprochen. Ich möchte aber auch einen Punkt hervorheben, den Christophe Henner Anfang dieses Jahres in einem E-Mail-Thread auf Wikimedia-l angesprochen hat:

„Der Mensch, der den Kreislauf in Gang hält, ist unser wichtigster Wert. Die Wikimediaprojekte sind großartig, aber wir haben auch erfolgreich etwas Größeres geschaffen: Communities, die über Themen, Sprachen und Regionen hinweg eine gemeinsame Vorstellung davon teilen, was Qualität ist. Trotz der Unterschiede zwischen den Projekten ist das unsere größte Errungenschaft. Kein KI-System kann von der Gemeinschaft validiertes Wissen mit rechenschaftspflichtiger Redaktion nachbilden. Das ist unser Wettbewerbsvorteil. Nicht der Inhalt selbst, sondern der menschliche Prozess dahinter.“

Wenn man das mit dem kombiniert, was Alex Stinson im „Signpost“ im Juni geschrieben hat:

„Freiwilligenarbeit ist ein Privileg der Freizeit; sich in einer Welt der Informationsüberflutung mit informationsreichen Inhalten zu beschäftigen, ist eine seltene persönliche Entscheidung; und wenn der vermutete Weg zum Engagement derselbe ist wie die Arbeit, die in den meisten anderen Bereichen unseres Lebens an KI-Modelle ausgelagert wird – dann verengen wir den Trichter, anstatt ihn zu erweitern.“

Beides passt wirklich gut zu diesem Zitat aus dem Jahr 2024:

„Ich möchte, dass die KI meine Wäsche und mein Geschirr spült, damit ich mich der Kunst und dem Schreiben widmen kann – und nicht, dass die KI meine Kunst und mein Schreiben übernimmt, damit ich meine Wäsche und mein Geschirr erledigen kann.“ – Joanna Maciejewska

Was ich damit sagen will, ist: Wenn wir LLMs nutzen, sollten wir uns nicht in „Reverse Centaurs“ verwandeln, wie Cory Doctorow es ausdrücken würde. Wir sollten stattdessen dafür sorgen, dass alles, was wir neu entwickeln, uns Menschen, die das Wikimedia Movement ausmachen, mehr Freude und ein stärkeres Gemeinschaftsgefühl bringt, statt uns noch mehr Arbeit aufzubürden – und wir sollten den Prozess, den wir geschaffen haben, nicht vergessen.

Wie geht’s jetzt weiter?

Das war hauptsächlich ein Beitrag, um zu beschreiben, wie unsere Tools aussehen könnten, wenn wir sie nach (unseren) Grundprinzipien entwerfen würden. Ich bin mir sicher, dass ich einige wichtige Aspekte übersehen habe. Aber offensichtlich sind wir noch nicht so weit. Mir ist kein bestehendes LLM bekannt, das all diese Kriterien erfüllen würde. Mir ist sehr wohl bewusst, dass bestehende „Frontier-Modelle“ Lichtjahre davon entfernt sind, diese Kriterien zu erfüllen, und dass es darüber hinaus noch jede Menge andere Probleme mit ihnen gibt – und vielleicht insbesondere mit den Unternehmen, die dahinter stehen –, aber andere haben über diese Themen besser geschrieben, als ich es je könnte (zum Beispiel Amnesty und Greenpeace). Es gibt auch einen Unterschied zwischen den Tools, die wir auf unseren Servern einsetzen, und den Tools, die Nutzende lokal ausführen (obwohl ich dazu auch eine Meinung habe). Ich hoffe trotzdem, dass ich euch ein paar Denkanstöße für unsere kommenden Diskussionen gegeben habe. Das ist noch nicht das Ende, ganz sicher nicht meine letzten Gedanken oder Worte zu diesem Thema.

Die Grammatik und Rechtschreibung der originalen englischsprachigen Version dieses Textes wurden mit dem Open Source Language Tool überprüft. Es wurden keine anderen Tools zur Texterstellung oder zum „Austausch von Ideen“ verwendet. Die Übersetzung in’s Deutsche wurde mit Hilfe des Tools Deepl vorgenommen.