Bradley M. Kuhn, direttore esecutivo e cofondatore dell'organizzazione per i diritti digitali Software Freedom Conservancy (SFC), ha criticato la definizione di sistema AI open source recentemente pubblicata dall'Open Source Initiative (OSI). Secondo Kuhn, l'OSI ha affrettato la pubblicazione della versione finale della definizione, approvandola senza un lungo dibattito approfondito e nella fase iniziale di sviluppo di tali sistemi. A titolo di confronto, la definizione di Open Source è stata formulata dopo molti anni di riflessione e discussione. Per quanto riguarda la definizione di sistema AI open source pubblicata, in questa fase avrebbe dovuto essere considerata più una raccomandazione che una definizione.
Kun teme che i criteri attuali per l'AI aperto avranno conseguenze profonde, minando l'autorità del termine Open Source e portando a una frattura nella comunità. Il problema è che, nonostante le obiezioni, l'organizzazione OSI ha raggiunto un compromesso e non ha incluso la richiesta di fornire i dati utilizzati per addestrare il modello. La ragione del compromesso è che, se una tale clausola fosse stata aggiunta, nessuno dei grandi modelli linguistici esistenti avrebbe potuto ottenere lo status di aperto.
Secondo l'OSI, definire un sistema AI aperto tenendo conto delle realtà attuali aiuterà a prevenire la manipolazione del termine "aperto" da parte dei produttori, che in condizioni di incertezza etichettano come aperti i modelli solo sulla base della disponibilità dei pesi, anche se la licenza del modello limita il suo uso (ad esempio, molti modelli vietano l'uso in progetti commerciali) e non rivelano i dettagli della loro implementazione.
Nella definizione approvata di un sistema AI aperto dell'OSI è richiesto solo di fornire informazioni dettagliate sui dati utilizzati durante l'addestramento, ma non i dati stessi. Senza fornire i dati di origine su cui è stata addestrata la modella, non è possibile ricreare completamente il sistema AI, il che contraddice il concetto di codice aperto. Pertanto, l'organizzazione OSI si è limitata a considerare il modello AI solo come tecnologia e non come un prodotto completo.
Di fatto, la definizione accettata di un sistema AI aperto garantisce solo due delle quattro libertà dichiarate dell'Open Source: la possibilità di utilizzare e di distribuire, mentre le possibilità di modificare e studiare non sono completamente garantite. Inoltre, l'assenza di dati di origine complica l'identificazione delle sostituzioni di backdoor nei modelli di apprendimento automatico.
D'altra parte, la pubblicazione dei dati sorgente è in molti casi impossibile a causa di motivi che non dipendono dallo sviluppatore del modello AI, come la necessità di mantenere la riservatezza, l'uso di materiali protetti da copyright, il licensing dei dati da fornitori di terze parti, ecc. Secondo i critici della definizione adottata, tali problemi non giustificano la svalutazione e la diminuzione del concetto di Open Source.
Bradley Kuhn intende partecipare alle prossime elezioni dell'OSI e cercare di entrare nel consiglio di amministrazione per ottenere l'annullamento della definizione approvata e convertirla in una raccomandazione. Oltre all'organizzazione Software Freedom Conservancy, anche alcuni sviluppatori del progetto Debian hanno espresso il loro disaccordo con la definizione di AI aperta, proponendo un voto generale per attirare l'attenzione sul problema. La Free Software Foundation sta anche lavorando alla sua definizione di un sistema AI libero, la quale prevede la disponibilità di tutti i dati, pur riconoscendo l'esistenza di ragioni etiche che possono impedire la divulgazione di dati in alcuni casi (ad esempio, se durante l'addestramento sono stati utilizzati dati medici o personali).
Fonte: opennet.ru
