Bradley M. Kuhn, executive director and one of the founders of the advocacy organization Software Freedom Conservancy (SFC), has criticized the recently published definition of open AI systems by the Open Source Initiative (OSI). According to Kuhn, the OSI rushed to publish the final version of the definition and approved it without extensive discussion during the early stages of such systems' development. In contrast, the definition of Open Source was given after many years of reflection and discussion. As for the published definition of open AI systems, at this stage, it should be called a recommendation rather than a definition.
Kuhn fears that the criteria for open AI as currently accepted will have far-reaching consequences, undermine the authority of the term Open Source, and lead to a division within the community. The problem is that, despite objections, the OSI reached a compromise and did not include the requirement to provide the data used to train the model. The reason for this compromise was that if such a clause were added, none of the existing large language models would qualify as open.
According to the OSI, establishing a definition of open AI systems that takes into account the current realities will help prevent manufacturers from manipulating the term 'open', which, in times of uncertainty, label models as open solely based on the availability of weights, even if the model's license restricts its use (for example, many models prohibit application in commercial projects) and does not disclose implementation details.
The approved OSI definition of open AI systems requires only that detailed information about the training data used is provided, but not the data itself. Without providing the source data on which the model was trained, it is impossible to fully reproduce the AI system, which contradicts the concept of open source. Thus, the OSI has limited its consideration of AI models merely as technology and has not treated them as a complete product.
De feitelijke aanvaarding van de definitie van een open AI-systeem biedt gegarandeerd slechts twee van de vier geclaimde vrijheden van Open Source ā de mogelijkheid om te gebruiken en de mogelijkheid om te verspreiden, terwijl de mogelijkheden om te wijzigen en te bestuderen niet volledig zijn gewaarborgd. Bovendien bemoeilijkt het ontbreken van de brongegevens het opsporen van backdoors in machine learning-modellen.
Aan de andere kant is het in veel gevallen onmogelijk om de brongegevens openbaar te maken, om redenen die buiten de controle van de ontwikkelaar van het AI-model liggen, zoals de noodzaak om privacy te waarborgen, het gebruik van auteursrechtelijk beschermd materiaal, en het licentiƫren van gegevens van externe leveranciers. Volgens critici van de aanvaarde definitie zijn dergelijke problemen geen reden om het begrip Open Source te ondermijnen en te devalueren.
Bradley Kuhn is van plan deel te nemen aan de volgende verkiezingen voor het bestuur van OSI en zal proberen in de raad van bestuur te komen om de aanvaarde definitie ongedaan te maken en deze om te zetten naar aanbevelingen. Naast de organisatie Software Freedom Conservancy hebben enkele ontwikkelaars van het Debian-project hun onenigheid over de definitie van open AI geuit, en zij hebben een initiatief ingediend voor een algemene stemming om aandacht te vragen voor dit probleem. Het Software Preservation Society werkt ook aan zijn eigen definitie van een vrij AI-systeem, dat zal vereisen dat alle gegevens toegankelijk zijn, maar erkent ook de ethische redenen die in sommige gevallen het openbaar maken van gegevens verhinderen (bijvoorbeeld als medische of persoonlijke data zijn gebruikt tijdens de training).
Bron: opennet.ru
