Das Debian-Projekt hat eine allgemeine Abstimmung (GR, allgemeine Resolution) der Projektentwickler angekündigt, um die Kriterien für die Annahme von Modellen des maschinellen Lernens in das Hauptrepository des Projekts zu genehmigen. In dieser Phase hat die Diskussion begonnen, nach der die Stimmen gesammelt werden (das Startdatum der Abstimmung ist noch nicht festgelegt). Etwa tausend Entwickler, die an der Pflege von Paketen und der Aufrechterhaltung der Debian-Infrastruktur beteiligt sind, haben das Recht zur Stimmabgabe.
KI-Modelle, die unter offenen Lizenzen vertrieben werden, aber ohne Bereitstellung des ursprünglichen Materials und der Werkzeuge zum Training des Modells angeboten werden, sollen als nicht mit den Debian-Kriterien für freie Software (DFSG, Debian Free Software Guideline) kompatibel angesehen werden. Sollte der Vorschlag angenommen werden, könnten solche Modelle nicht im Hauptrepository des Projekts („main“) aufgenommen werden. Die Möglichkeit, solche Modelle im Repository „non-free“ anzubieten, wird in der laufenden Abstimmung nicht in Betracht gezogen.
Zu den Problemen, die bei fehlenden Daten, die beim Training verwendet werden, auftreten, gehören:
- Das Fehlen von Rohdaten oder Programmen, die für das Training verwendet werden, schränkt die Möglichkeiten zur Modifikation von fertigen KI-Modellen stark ein. Trotz der Erlaubnis zur Modifikation in der Lizenz, ist eine solche Modifikation in der Praxis schwierig. Änderungen können beispielsweise erforderlich sein, wenn ein Tokenizer ersetzt werden muss, der benötigt wird, um neue Sprachen zu unterstützen.
- Die für das Training verwendeten Daten können als „Quellcode“ des Modells betrachtet werden, und das fertige Modell als das Ergebnis der Verarbeitung dieses „Quellcodes“ mit den Werkzeugen für das Training. Dementsprechend muss zur vollständigen Modifikation des Modells die Möglichkeit bestehen, die Rohdaten und die Werkzeuge zu modifizieren.
- Die Unmöglichkeit, die Arbeit zu reproduzieren, die zur Erstellung des Modells ohne Zugang zu den Rohdaten und Werkzeugen durchgeführt wurde.
- Sicherheits- und ethische Fragen. Ohne Quellmaterial und Werkzeuge ist die Möglichkeit, Schwachstellen in Modellen zu beheben, auf die Anwendung von Binärpatches oder den vollständigen Austausch des Modells beschränkt. Solche Patches kann nur der Autor des Modells erstellen, und die Nutzer des Modells sind vollständig von diesem abhängig. Dabei kann niemand, einschließlich der Autoren des Modells, den Kern der auf diese Weise vorgeschlagenen Änderungen verstehen. Das Fehlen von Quellmaterial erschwert außerdem die Identifizierung von Backdoor-Einschüben in Modellen des maschinellen Lernens.
- Einschränkungen beim Studium. Ohne Quellmaterial ist es unmöglich zu bestätigen, dass das Modell mit Daten trainiert wurde, die unter Lizenzen bereitgestellt werden, die eine solche Nutzung zulassen, oder auszuschließen, dass bei der Schulung keine Daten verwendet wurden, die illegal beschafft wurden. Wenn bei der Schulung Daten unter der GPL-Lizenz verwendet wurden, kann eine Überprüfung erforderlich sein, ob im Ergebnis, das das Modell ausgibt, Fragmente mit einer Kopie dieser Daten enthalten sind, für die eine Quellenangabe und Lizenz erforderlich sind. Der Entwickler kann ungewollt Lizenzen für bestimmte Quellmaterialien verletzen, indem er generierten код/Inhalt in sein Projekt einfügt.
Im Oktober letzten Jahres veröffentlichte die Organisation OSI (Open Source Initiative) eine Definition für ein Open Source AI-System. Ein Open Source AI-System muss folgende Möglichkeiten bieten: Nutzung zu beliebigen Zwecken, ohne dass eine gesonderte Erlaubnis eingeholt werden muss; Untersuchung der Funktionsweise des Systems und Prüfung seiner Komponenten; Änderungen zu beliebigen Zwecken vornehmen; Weitergabe sowohl der Originalversion als auch der bearbeiteten Version nach Änderungen ohne Einschränkung der Nutzungsziele. Ein Open Source AI-System sollte detaillierte Informationen über die Architektur des Modells, die beim Training verwendeten Daten und die Trainingsmethodologie enthalten sowie den Quellcode für den Betrieb und das Training des AI-Systems bereitstellen. Die Informationen sollten ausreichend sein, damit ein professioneller Entwickler in der Lage ist, selbstständig ein äquivalentes AI-System unter Verwendung derselben oder ähnlicher Daten zu reproduzieren.
Die Menschenrechtsorganisation Software Freedom Conservancy (SFC) hat eine Kritik an dieser Definition geäußert. Die Unzufriedenheit ist darauf zurückzuführen, dass es in den Kriterien keine Anforderungen zur Bereitstellung der Daten gibt, die zum Trainieren des Modells verwendet wurden. In der OSI-Definition ist lediglich eine detaillierte Information über die beim Training verwendeten Daten erforderlich, nicht aber die Daten selbst. Die angenommene Definition garantiert lediglich zwei von vier angegebenen Freiheiten der Open Source: die Möglichkeit zu nutzen und die Möglichkeit zu verbreiten, wobei die Möglichkeiten zu ändern und zu studieren nicht vollständig gewährleistet sind.
Die Entscheidung der OSI wird damit erklärt, dass die Veröffentlichung der Ausgangsdaten in vielen Fällen aus Gründen, die außerhalb der Kontrolle des Entwicklers des KI-Modells liegen, unmöglich ist, wie etwa die Notwendigkeit, Vertraulichkeit zu wahren, die Nutzung urheberrechtlich geschützter Materialien, die Lizenzierung von Daten durch Dritte usw. Wenn eine Anforderung zur Bereitstellung von Daten hinzugefügt würde, würde keines der bestehenden großen Sprachmodelle den Status ‚offen‘ erhalten, und die Definition selbst würde zu einer unerreichbaren Utopie.
Quelle: opennet.ru
