Il progetto Debian ha annunciato lo svolgimento di una votazione generale (GR, general resolution) tra gli sviluppatori del progetto per approvare i criteri di accettazione dei modelli di apprendimento automatico nel repository principale del progetto. In questa fase è stato avviato un dibattito, dopo il quale inizierà la raccolta dei voti (la data di inizio della votazione non è ancora stata determinata). Hanno diritto di voto circa mille sviluppatori che partecipano al mantenimento dei pacchetti e all'infrastruttura di Debian.
Si propone di riconoscere i modelli di intelligenza artificiale distribuiti con licenze aperte, ma senza fornire il materiale sorgente e gli strumenti per l'addestramento del modello, come incompatibili con i criteri Debian che definiscono il software libero (DFSG, Debian Free Software Guideline). In caso di approvazione della proposta, tali modelli non potranno essere inclusi nel repository principale del progetto («main»). La possibilità di fornire tali modelli nei repository «non-free» non è considerata nella votazione avviata.
Tra i problemi che sorgono in assenza dei dati utilizzati per l'addestramento, sono stati menzionati:
- L'assenza di dati sorgente o programmi utilizzati per l'addestramento limita fortemente le possibilità di modifica dei modelli di intelligenza artificiale già pronti. Nonostante la licenza consenta modifiche, nella pratica tale modifica è difficoltosa. Ad esempio, potrebbero essere necessarie modifiche in caso di necessità di sostituire il tokenizer, necessario per aggiungere supporto a nuove lingue.
- I dati utilizzati per l'addestramento possono essere interpretati come il «codice sorgente» del modello, e il modello finale come il risultato dell'elaborazione di questo «codice sorgente» tramite gli strumenti di addestramento. Di conseguenza, per una modifica completa del modello deve esserci la possibilità di modificare i dati sorgente e gli strumenti.
- L'impossibilità di riprodurre il lavoro svolto per la creazione del modello senza accesso ai dati sorgente e agli strumenti.
- Sicurezza e questioni etiche. Senza dati sorgente e strumenti, la possibilità di eliminare vulnerabilità nei modelli è limitata all'uso di patch binarie o alla sostituzione completa del modello. Tali patch possono essere preparate solo dall'autore del modello, e i consumatori del modello diventano completamente dipendenti da lui. Nessuno, incluso gli autori del modello, è in grado di comprendere la sostanza delle modifiche proposte in questo modo. L'assenza di dati sorgente rende inoltre difficile identificare la presenza di backdoor nei modelli di machine learning.
- Limitazioni nello studio. Senza dati sorgente, non è possibile confermare che il modello sia stato addestrato su dati forniti sotto licenze che consentono tale utilizzo, né escludere che durante l'addestramento siano stati utilizzati dati acquisiti illegalmente. Inoltre, se durante l'addestramento sono stati utilizzati dati sotto licenza GPL, potrebbe essere necessaria un'analisi per verificare la presenza nel risultato fornito dal modello di frammenti con una copia di tali dati, per i quali è necessaria la citazione della fonte e della licenza. Lo sviluppatore potrebbe incorporare nel proprio progetto codice/contenuto generato dal modello e violare involontariamente la licenza su alcuni dati sorgente.
Lo scorso ottobre, l'organizzazione OSI (Open Source Initiative) ha pubblicato una definizione di sistema AI open source. Un sistema AI open source deve fornire le seguenti opportunità: utilizzo per qualsiasi scopo senza la necessità di ottenere un permesso separato; studio del funzionamento del sistema e ispezione dei suoi componenti; apportare modifiche per qualsiasi scopo; trasferire ad altri sia la versione originale sia la versione modificata, senza limitazione degli scopi di utilizzo. Un sistema AI open source deve includere informazioni dettagliate sull'architettura del modello, sui dati utilizzati durante l'addestramento e sulla metodologia di addestramento, nonché il codice sorgente per l'esecuzione e l'addestramento del sistema AI. Le informazioni devono essere sufficienti affinché uno sviluppatore professionista possa ricreare autonomamente un sistema AI equivalente, utilizzando per l'addestramento gli stessi o simili dati.
L'organizzazione per i diritti civili Software Freedom Conservancy (SFC) ha criticato tale definizione. Il malcontento è causato dal fatto che nei criteri non sono presenti requisiti per la fornitura dei dati utilizzati per l'addestramento del modello. Nella definizione OSI è richiesto solo di fornire informazioni dettagliate sui dati utilizzati per l'addestramento, ma non i dati stessi. La definizione accettata garantisce solo due delle quattro libertà dichiarate dell'Open Source: la possibilità di utilizzare e la possibilità di distribuire, mentre le possibilità di modificare e studiare non sono garantite completamente.
La decisione dell'OSI è spiegata dal fatto che la pubblicazione dei dati sorgenti in molti casi è impossibile per motivi indipendenti dallo sviluppatore del modello di AI, come la necessità di mantenere la riservatezza, l'uso di materiali protetti da copyright, la licenza dei dati da fornitori terzi, ecc. Se fosse aggiunto il requisito di fornire i dati, nessuno dei modelli linguistici grandi esistenti avrebbe ottenuto lo status di open source, e la stessa definizione sarebbe diventata un'utopia irraggiungibile.
Fonte: opennet.ru
