Bradley Kuhn, Geschäftsführer und Mitbegründer der gemeinnützigen Organisation Software Freedom Conservancy (SFC), äußerte Kritik an der kürzlich von der OSI (Open Source Initiative) veröffentlichten Definition offener KI-Systeme. Laut Kuhn hat die OSI zu schnell die endgültige Version der Definition veröffentlicht und diese ohne umfassende Diskussion in der Anfangsphase der Entwicklung solcher Systeme genehmigt. Zum Vergleich wurde die Definition von Open Source nach vielen Jahren des Nachdenkens und Diskutierens festgelegt. Was die veröffentlichte Definition offener KI-Systeme betrifft, hätte sie in dieser Phase eher als Empfehlung bezeichnet werden sollen.
Kuhn befürchtet, dass die aktuell formulierten Kriterien für Open AI weitreichende Folgen haben werden, den Begriff Open Source untergraben und die Gemeinschaft spalten könnten. Das Problem ist, dass die OSI-Organisation entgegen der Einwände einen Kompromiss eingegangen ist und die Anforderung, Daten bereitzustellen, die zum Trainieren des Modells verwendet wurden, nicht aufgenommen hat. Der Grund für diesen Kompromiss liegt darin, dass, wenn eine solche Klausel hinzugefügt würde, kein bestehendes großes Sprachmodell den Status 'offen' erhalten könnte.
Nach Meinung der OSI wird die Entwicklung einer Definition für offene AI-Systeme, die die aktuellen Gegebenheiten berücksichtigt, Manipulationen der Hersteller mit dem Begriff "offen" verhindern. In Zeiten der Unsicherheit werden Modelle lediglich aufgrund der Verfügbarkeit von Gewichtungsfaktoren als offen bezeichnet, obwohl die Lizenz des Modells den Anwendungsbereich einschränkt (zum Beispiel verbieten viele Modelle die Nutzung in kommerziellen Projekten) und die Implementierungsdetails nicht offengelegt werden.
In der genehmigten OSI-Definition eines offenen KI-Systems ist lediglich die Bereitstellung detaillierter Informationen über die verwendeten Trainingsdaten erforderlich, nicht jedoch die Daten selbst. Ohne die Bereitstellung der Originaldaten, auf denen das Modell trainiert wurde, ist es jedoch unmöglich, ein KI-System vollständig zu reproduzieren, was dem Konzept des Open Source widerspricht. Daher betrachtet die OSI-Organisation das KI-Modell nur als Technologie und nicht als ein vollständiges Produkt.
Das tatsächlich angenommene definiert offene KI-Systeme garantiert lediglich zwei der vier angegebenen Freiheiten von Open Source – die Möglichkeit der Nutzung und die Möglichkeit der Verbreitung, während die Möglichkeiten zur Änderung und zum Studium nicht vollständig gewährleistet sind. Darüber hinaus erschwert das Fehlen von Originaldaten die Identifizierung von Backdoor-Einfügungen in Modellen des maschinellen Lernens.
Andererseits ist die Veröffentlichung von Rohdaten in vielen Fällen aufgrund von Gründen, die nicht im Einflussbereich des KI-Modellentwicklers liegen, unmöglich, wie die Notwendigkeit, Vertraulichkeit zu wahren, die Nutzung urheberrechtlich geschützter Materialien, die Lizenzierung von Daten von Drittanbietern usw. Kritiker der akzeptierten Definition sind der Ansicht, dass solche Probleme kein Grund sind, das Konzept ‚Open Source‘ zu schmälern oder abzuwerten.
Bradley Kuhn plant, an den nächsten Wahlen zur OSI-Führung teilzunehmen und versucht, in den Vorstand einzutreten, um die Annahme der Definition rückgängig zu machen und diese in den Status einer Empfehlung zu überführen. Neben der Software Freedom Conservancy haben auch einige Entwickler des Debian-Projekts ihr Missfallen über die Definition von offenem KI geäußert und eine Initiative zur Durchführung einer allgemeinen Abstimmung ins Leben gerufen, um auf das Problem aufmerksam zu machen. Der Open Source Foundation wird ebenfalls an seiner Definition eines freien KI-Systems arbeiten, das die Anforderung an die Verfügbarkeit aller Daten beinhalten soll, jedoch die ethischen Gründe anerkennt, die in bestimmten Fällen eine Offenlegung der Daten verhindern (zum Beispiel, wenn medizinische oder persönliche Daten beim Training verwendet wurden).
Quelle: opennet.ru
