Bradley M. Kuhn, direttore esecutivo e uno dei fondatori dell'organizzazione per i diritti digitali Software Freedom Conservancy (SFC), ha criticato la recente definizione di sistema AI aperto pubblicata dall'organizzazione OSI (Open Source Initiative). Secondo Kuhn, l'organizzazione OSI ha affrettato la pubblicazione della versione finale della definizione, approvandola senza un lungo e approfondito dibattito e nella fase iniziale di sviluppo di tali sistemi. A titolo di confronto, la definizione di Open Source è stata proposta dopo molti anni di riflessioni e discussioni. Per quanto riguarda la definizione pubblicata di sistema AI aperto, in questa fase avrebbe dovuto essere chiamata non definizione, ma raccomandazione.
Kuhn teme che i criteri adottati nella loro forma attuale per l'AI aperta avranno conseguenze di vasta portata, minando l'autorità del termine Open Source e portando a una divisione della comunità. Il problema è che, contrariamente alle obiezioni, l'organizzazione OSI ha trovato un compromesso e non ha incluso il requisito di fornire i dati utilizzati per l'addestramento del modello. La ragione del compromesso è stata che, se fosse stata aggiunta tale clausola, nessuno dei modelli linguistici di grandi dimensioni esistenti avrebbe ottenuto lo status di aperto.
Secondo l'OSI, definire un sistema AI aperto tenendo conto delle realtà attuali consentirà di prevenire le manipolazioni dei produttori sul termine "aperto", che in condizioni di incertezza definiscono come aperti i modelli esclusivamente sulla base della disponibilità dei pesi, anche se la licenza sul modello limita l'ambito del suo utilizzo (ad esempio, molti modelli vietano l'uso in progetti commerciali) e non rivelano dettagli sulla realizzazione.
Nella definizione approvata dall'OSI di un sistema AI aperto è richiesto solo di fornire informazioni dettagliate sui dati utilizzati per l'addestramento, ma non i dati stessi. Senza la fornitura dei dati originali su cui è stato addestrato il modello, non è possibile ricreare completamente il sistema AI, il che contrasta con il concetto di codice sorgente aperto. Pertanto, l'organizzazione OSI si è limitata a considerare il modello AI solo come una tecnologia e non ha esaminato questi modelli come un prodotto integrato.
La definizione accettata di sistema AI aperto garantisce solo due delle quattro libertà dichiarate di Open Source: la possibilità di utilizzare e quella di distribuire, mentre le possibilità di modificare e studiare non sono completamente garantite. Inoltre, l'assenza di dati sorgente complica l'individuazione di sostituzioni backdoor nei modelli di apprendimento automatico.
D'altra parte, la pubblicazione dei dati sorgente, in molti casi, è impossibile a causa di motivi indipendenti dallo sviluppatore del modello AI, come la necessità di mantenere la riservatezza, l'uso di materiali protetti da copyright, il licensing dei dati da fornitori terzi, ecc. Secondo i critici della definizione accettata, tali problemi non giustificano la svalutazione e l'abbassamento del concetto di Open Source.
Bradley Kuhn intende partecipare alle prossime elezioni per la dirigenza di OSI e cercare di entrare nel consiglio per ottenere l'abrogazione della definizione accettata e la sua trasformazione in raccomandazioni. Oltre all'organizzazione Software Freedom Conservancy, alcuni sviluppatori del progetto Debian hanno espresso il loro dissenso verso la definizione di AI aperto, lanciando un'iniziativa per una votazione generale al fine di attirare l'attenzione sul problema. Anche il Free Software Foundation sta lavorando su una propria definizione di sistema AI libero, che intende includere nel proprio significato la richiesta di accessibilità di tutti i dati, pur riconoscendo che ci possono essere motivi etici che impediscono, in alcuni casi, la divulgazione dei dati (ad esempio, se sono stati utilizzati dati medici o personali durante l'addestramento).
Fonte: opennet.ru
