Das Debian-Projekt hat eine allgemeine Abstimmung (GR, allgemeine Resolution) unter den Entwicklern des Projekts angekündigt, um die Kriterien für die Annahme von Modellen des maschinellen Lernens in das Haupt-Repository des Projekts festzulegen. In dieser Phase beginnt die Diskussion, nach der die Stimmen gesammelt werden (das Datum der Abstimmung ist noch nicht festgelegt). Etwa tausend Entwickler, die an der Pflege von Paketen und der Wartung der Debian-Infrastruktur beteiligt sind, haben das Stimmrecht.
AI-Modelle, die unter offenen Lizenzen verbreitet werden, jedoch ohne Bereitstellung des Quellmaterials und der Werkzeuge für das Training des Modells, sollen als inkompatibel mit den Debian-Kriterien für freie Software (DFSG, Debian Free Software Guideline) anerkannt werden. Bei Annahme des Vorschlags könnten solche Modelle nicht in das Haupt-Repository des Projekts („main“) aufgenommen werden. Die Möglichkeit, solche Modelle in den „non-free“-Repositories zu liefern, wird in der laufenden Abstimmung nicht betrachtet.
Unter den Problemen, die bei fehlenden Daten, die zum Training verwendet wurden, erwähnt werden, sind:
- Das Fehlen von Trainingsdaten oder Programmen zur Durchführung von Schulungen schränkt die Möglichkeiten zur Modifikation fertiger KI-Modelle erheblich ein. Obwohl die Lizenz eine Modifikation erlaubt, gestaltet sich diese in der Praxis oft als schwierig. Änderungen könnten beispielsweise erforderlich sein, wenn der Tokenizer ersetzt werden muss, um die Unterstützung neuer Sprachen hinzuzufügen.
- Die für das Training verwendeten Daten können als der "Quellcode" des Modells angesehen werden, während das fertige Modell das Ergebnis der Verarbeitung dieses "Quellcodes" durch die Trainingstools darstellt. Folglich sollte für eine vollständige Modifikation des Modells die Möglichkeit bestehen, sowohl die Quelldaten als auch die Werkzeuge zu modifizieren.
- Die Unmöglichkeit, die Arbeit, die zur Erstellung des Modells erforderlich war, ohne Zugang zu den Quelldaten und Werkzeugen zu reproduzieren.
- Sicherheits- und ethische Fragen. Ohne Quellcode und Werkzeuge ist die Möglichkeit, Schwachstellen in Modellen zu beheben, durch die Verwendung binärer Patches oder den vollständigen Austausch des Modells eingeschränkt. Solche Patches kann nur der Autor des Modells erstellen, und die Nutzer des Modells sind vollständig von ihm abhängig. Dabei kann niemand, einschließlich der Autoren des Modells, den Kern der angebotenen Änderungen verstehen. Das Fehlen von Quelldaten erschwert außerdem die Erkennung von Backdoor-Einschüben in maschinellen Lernmodellen.
- Einschränkungen beim Lernen. Ohne Ausgangsdaten ist es unmöglich zu bestätigen, dass das Modell mit Daten trainiert wurde, die unter Lizenzen bereitgestellt wurden, die eine derartige Nutzung erlauben, oder auszuschließen, dass beim Training Daten verwendet wurden, die illegal beschafft wurden. Darüber hinaus, falls beim Training Daten unter der GPL-Lizenz verwendet wurden, kann eine Analyse erforderlich sein, um Fragmenten im Ergebnis des Modells zu erkennen, die diese Daten enthalten und für die eine Quellenangabe und Lizenz erforderlich sind. Der Entwickler könnte in seinem Projekt generierten Code/Inhalte des Modells hinzufügen und unabsichtlich eine Lizenzverletzung in Bezug auf bestimmte Ausgangsdaten begehen.
Im Oktober des letzten Jahres veröffentlichte die OSI (Open Source Initiative) eine Definition für offene AI-Systeme (Open Source AI). Ein offenes AI-System sollte folgende Möglichkeiten bieten: Nutzung zu allen Zwecken ohne die Notwendigkeit einer separaten Genehmigung; Untersuchung des Systems und Inspektion seiner Komponenten; Durchführung von Änderungen für beliebige Zwecke; Weitergabe an Dritte sowohl als Originalversion als auch in bearbeiteter Form nach Änderungen, ohne Einschränkungen in der Verwendung. Ein offenes AI-System sollte detaillierte Informationen zur Architektur des Modells, den bei der Schulung verwendeten Daten und der Lehrmethodik sowie den Quellcode zur Ausführung und Schulung des AI-Systems enthalten. Es sollten genügend Informationen bereitgestellt werden, damit ein professioneller Entwickler in der Lage ist, ein äquivalentes AI-System eigenständig zu rekonstruieren, wobei die gleichen oder ähnliche Daten für das Training verwendet werden.
Die Software Freedom Conservancy (SFC), eine Organisation für die Rechte der Nutzer, hat sich kritisch zu dieser Definition geäußert. Unmut entstand, weil in den Kriterien keine Anforderungen zur Bereitstellung der für das Training des Modells verwendeten Daten enthalten sind. In der OSI-Definition ist lediglich festgelegt, dass detaillierte Informationen über die im Training verwendeten Daten bereitgestellt werden müssen, jedoch nicht die Daten selbst. Die getroffene Definition gewährleistet nur zwei von vier angekündigten Freiheiten des Open Source — die Möglichkeit zu nutzen und die Möglichkeit zu verbreiten, während die Möglichkeiten zum Ändern und Studieren nicht vollständig gewährleistet sind.
Die Entscheidung der OSI wird damit erklärt, dass die Veröffentlichung der Rohdaten in vielen Fällen aus Gründen, die außerhalb der Kontrolle des Entwicklers des AI-Modells liegen, nicht möglich ist, wie z.B. der Notwendigkeit, die Vertraulichkeit zu wahren, die Nutzung urheberrechtlich geschützter Materialien oder die Lizenzierung von Daten durch Dritte usw. Wenn ein Anforderungen zur Bereitstellung von Daten hinzugefügt würde, würde kein bestehendes großes Sprachmodell den Status eines offenen Modells erhalten, und die Definition selbst würde eine unerreichbare Utopie werden.
Quelle: opennet.ru
