Il progetto Debian ha annunciato un voto generale (GR, risoluzione generale) tra gli sviluppatori del progetto per approvare i criteri di accettazione dei modelli di machine learning nel repository principale del progetto. Attualmente è stata avviata la fase di discussione, dopo la quale inizierà la raccolta dei voti (la data di avvio del voto non è ancora stata definita). Circa mille sviluppatori, coinvolti nel mantenimento dei pacchetti e dell'infrastruttura Debian, hanno diritto di voto.
Si propone di considerare i modelli AI distribuiti sotto licenze aperte, ma senza la fornitura del materiale sorgente e degli strumenti per addestrare il modello, incompatibili con i criteri Debian che definiscono il software libero (DFSG, Debian Free Software Guideline). Se la proposta sarà approvata, modelli di questo tipo non potranno essere inclusi nel repository principale del progetto («main»). Non si considera la possibilità di fornire tali modelli nei repository «non-free» nell'attuale votazione.
Tra i problemi che sorgono in assenza dei dati utilizzati per l'addestramento, si menzionano:
- L'assenza di dati sorgente o programmi utilizzati per l'addestramento limita gravemente le possibilità di modificare i modelli AI esistenti. Nonostante la licenza consenta la modifica, nella pratica tale modifica risulta difficoltosa. Potrebbe essere necessaria una modifica, ad esempio, per sostituire il tokenizzatore necessario per aggiungere supporto a nuove lingue.
- I dati utilizzati per l'addestramento possono essere considerati come «codice sorgente» del modello, e il modello finito come il risultato dell'elaborazione di questo «codice sorgente» attraverso gli strumenti di addestramento. Di conseguenza, per una modifica completa del modello deve esserci la possibilità di modificare i dati sorgente e gli strumenti.
- L'impossibilità di riprodurre il lavoro svolto per creare il modello senza accesso ai dati sorgente e agli strumenti.
- Sicurezza e questioni etiche. In assenza di dati sorgente e strumenti, la possibilità di risolvere vulnerabilità nei modelli è limitata all'uso di patch binarie o alla sostituzione totale del modello. Tali patch possono essere preparate solo dall'autore del modello, e i consumatori del modello diventano completamente dipendenti da lui. Inoltre, nessuno, nemmeno gli autori del modello, è in grado di comprendere il significato delle modifiche proposte in questo modo. L'assenza di dati sorgente rende anche difficile individuare l'inserimento di backdoor nei modelli di machine learning.
- Limitazioni alla studio. Senza dati sorgente è impossibile confermare che il modello è stato addestrato su dati forniti sotto licenze che consentono tale utilizzo, o escludere che durante l'addestramento siano stati utilizzati dati ottenuti illegalmente. Inoltre, se durante l'addestramento sono stati utilizzati dati con licenza GPL, potrebbe essere necessario analizzare la presenza di frammenti con copia di tali dati nel output del modello, per i quali è necessario citare la fonte e la licenza. Uno sviluppatore potrebbe aggiungere al proprio progetto codice/contenuti generati dal modello e violare involontariamente la licenza per alcuni dati sorgente.
Lo scorso ottobre, l'organizzazione OSI (Open Source Initiative) ha pubblicato una definizione di sistema AI aperto (Open Source AI). Un sistema AI aperto deve fornire le seguenti opportunità: utilizzo per qualsiasi scopo senza necessità di autorizzazione separata; studio del funzionamento del sistema e ispezione dei suoi componenti; modifica per qualsiasi scopo; trasferimento a terzi sia della versione sorgente che delle edizioni dopo le modifiche, senza limitazione degli scopi di utilizzo. Un sistema AI aperto deve includere informazioni dettagliate sull'architettura del modello, sui dati utilizzati per l'addestramento e sulla metodologia di addestramento, così come il codice sorgente per eseguire e addestrare il sistema AI. Le informazioni devono essere sufficienti affinché un sviluppatore professionista possa ricreare un sistema AI equivalente, utilizzando per l'addestramento gli stessi o simili dati.
L'organizzazione per i diritti civili Software Freedom Conservancy (SFC) ha criticato tale definizione. La frustrazione è causata dal fatto che nei criteri non ci sono requisiti per fornire i dati utilizzati per l'addestramento del modello. Nella definizione OSI è richiesto solo di fornire dettagli sui dati utilizzati per l'addestramento, ma non i dati stessi. La definizione approvata garantisce solo due delle quattro libertà dichiarate dell'Open Source: la possibilità di utilizzare e quella di distribuire, mentre le possibilità di modificare e studiare non sono completamente garantite.
La soluzione OSI è spiegata dal fatto che la pubblicazione dei dati sorgente in molti casi è impossibile a causa di motivi al di fuori del controllo dello sviluppatore del modello AI, come la necessità di preservare la riservatezza, l'uso di materiali protetti da copyright, la licenza dei dati da fornitori terzi, e così via. Se venisse aggiunto un requisito di fornitura dei dati, nessuno dei modelli linguistici di grandi dimensioni esistenti otterrebbe lo status di aperto, e la stessa definizione diventerebbe un'utopia irraggiungibile.
Fonte: opennet.ru
