Initiative zur Aufhebung der Definition eines offenen KI-Systems, das das Konzept Open Source entwertet

Bradley M. Kuhn, Geschäftsführer und einer der Gründer der Menschenrechtsorganisation Software Freedom Conservancy (SFC), hat die kürzlich von der OSI (Open Source Initiative) veröffentlichte Definition eines offenen AI-Systems (Open Source AI) kritisiert. Laut Kuhn hat die OSI bei der Veröffentlichung der finalen Version der Definition überstürzt gehandelt und sie ohne eine längere umfassende Diskussion und in der frühen Entwicklungsphase solcher Systeme genehmigt. Zum Vergleich wurde die Definition von Open Source nach vielen Jahren des Nachdenkens und der Diskussion gegeben. Was das veröffentlichte Definition eines offenen AI-Systems betrifft, so hätte man es zu diesem Zeitpunkt nicht als Definition, sondern als Empfehlung bezeichnen sollen.

Kuhn befürchtet, dass die derzeit angenommenen Kriterien für offene AI weitreichende Konsequenzen haben werden, das Ansehen des Begriffs Open Source untergraben und die Gemeinschaft spalten werden. Das Problem ist, dass die OSI trotz der Einwände einen Kompromiss eingegangen ist und nicht die Anforderung aufgenommen hat, die für das Training des Modells verwendeten Daten bereitzustellen. Der Grund für den Kompromiss war, dass im Falle der Hinzufügung eines solchen Punktes kein bestehendes großes Sprachmodell den Status eines offenen Modells erhalten hätte.

Laut der OSI wird die Definition eines offenen AI-Systems, die die bestehenden Realitäten berücksichtigt, helfen, Manipulationen der Hersteller mit dem Begriff „offen“ zu verhindern. In Zeiten der Ungewissheit werden Modelle häufig nur aufgrund der Verfügbarkeit von Gewichtungsfaktoren als offen bezeichnet, selbst wenn die Lizenz für das Modell die Verwendung in kommerziellen Projekten einschränkt (zum Beispiel verbieten viele Modelle deren Anwendung in kommerziellen Projekten) und keine Details zur Implementierung offengelegt werden.

In der von der OSI genehmigten Definition eines offenen AI-Systems wird lediglich verlangt, ausführliche Informationen über die beim Training verwendeten Daten bereitzustellen, nicht jedoch die Daten selbst. Ohne die Bereitstellung der Ausgangsdaten, auf denen das Modell trainiert wurde, ist es jedoch unmöglich, das AI-System vollständig zu reproduzieren, was im Widerspruch zum Konzept des Open Source steht. Somit hat sich die OSI darauf beschränkt, das AI-Modell lediglich als Technologie zu betrachten, und hat es nicht als ganzheitliches Produkt betrachtet.

Das faktisch akzeptierte Definition einer offenen KI-System garantiert nur zwei der vier angegebenen Freiheiten von Open Source – die Möglichkeit der Nutzung und die Möglichkeit der Verbreitung, während die Möglichkeiten zur Modifikation und zum Studium nicht vollständig gewährleistet sind. Darüber hinaus erschwert das Fehlen von Quelldaten die Erkennung von Backdoor-Einfügungen in Maschinenlernmodellen.

Andererseits ist die Veröffentlichung von Quelldaten in vielen Fällen aufgrund von Gründen, die nicht im Einflussbereich des AI-Modellentwicklers liegen, unmöglich, wie beispielsweise die Notwendigkeit, die Vertraulichkeit zu wahren, die Verwendung urheberrechtlich geschützter Materialien, die Lizenzierung von Daten bei Drittanbietern usw. Nach Ansicht der Kritiker der akzeptierten Definition sind solche Probleme kein Grund, das Konzept von Open Source abzuwerten und zu entwerten.

Bradley Kuhn plant, an den kommenden Wahlen zur Leitung der OSI teilzunehmen und zu versuchen, in den Vorstand einzutreten, um die annullierte Definition zu erreichen und sie in den Bereich der Empfehlungen zu übertragen. Neben der Software Freedom Conservancy äußerten auch einige Entwickler des Debian-Projekts ihre Unzufriedenheit mit der Definition von offener KI und schlugen die Durchführung einer allgemeinen Abstimmung vor, um auf das Problem aufmerksam zu machen. Auch die Free Software Foundation arbeitet an ihrer Definition eines freien KI-Systems, die das Erfordernis der Verfügbarkeit aller Daten einführen möchte, dabei jedoch die ethischen Gründe anerkennt, die in einigen Fällen die Offenlegung von Daten verhindern (zum Beispiel, wenn medizinische oder personenbezogene Daten für das Training verwendet wurden).

Quelle: opennet.ru