{"id":123966,"date":"2025-05-03T15:05:12","date_gmt":"2025-05-03T13:05:12","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/proekt-debian-nachal-obshhee-golosovanie-po-kriteriyam-otkrytosti-ai-modelej"},"modified":"2025-05-03T15:05:12","modified_gmt":"2025-05-03T13:05:12","slug":"proekt-debian-nachal-obshhee-golosovanie-po-kriteriyam-otkrytosti-ai-modelej","status":"publish","type":"post","link":"https:\/\/prohoster.info\/it\/blog\/news\/proekt-debian-nachal-obshhee-golosovanie-po-kriteriyam-otkrytosti-ai-modelej","title":{"rendered":"Il progetto Debian ha avviato una votazione generale sui criteri di apertura dei modelli AI","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Il progetto Debian ha annunciato lo svolgimento di una votazione generale (GR, general resolution) tra gli sviluppatori del progetto per approvare i criteri di accettazione dei modelli di apprendimento automatico nel repository principale del progetto. In questa fase \u00e8 stato avviato un dibattito, dopo il quale inizier\u00e0 la raccolta dei voti (la data di inizio della votazione non \u00e8 ancora stata determinata). Hanno diritto di voto circa mille sviluppatori che partecipano al mantenimento dei pacchetti e all'infrastruttura di Debian. <\/p>\n
I modelli AI distribuiti sotto licenze aperte, ma senza fornire il materiale sorgente e gli strumenti per l'addestramento del modello, si propongono di essere riconosciuti come non conformi ai criteri Debian che definiscono il software libero (DFSG, Debian Free Software Guideline). In caso di approvazione della proposta, modelli simili non potranno essere inclusi nel repository principale del progetto (\u00abmain\u00bb). Non si considera la possibilit\u00e0 di fornire tali modelli nei repository \u00abnon-free\u00bb in un voto in corso. <\/p>\n
Tra i problemi che sorgono in assenza dei dati utilizzati per l'addestramento, sono stati menzionati: <\/p>\n
\n
L'assenza di dati sorgente o programmi utilizzati per l'addestramento limita fortemente le possibilit\u00e0 di modifica dei modelli di intelligenza artificiale gi\u00e0 pronti. Nonostante la licenza consenta modifiche, nella pratica tale modifica \u00e8 difficoltosa. Ad esempio, potrebbero essere necessarie modifiche in caso di necessit\u00e0 di sostituire il tokenizer, necessario per aggiungere supporto a nuove lingue.\n
I dati utilizzati per l'addestramento possono essere interpretati come \u00abcodice sorgente\u00bb del modello, mentre il modello finito come il risultato dell'elaborazione di questo \u00abcodice sorgente\u00bb tramite strumenti per l'addestramento. Di conseguenza, per una modifica completa del modello deve esserci la possibilit\u00e0 di modificare i dati sorgente e gli strumenti.\n
L'impossibilit\u00e0 di riprodurre il lavoro svolto per la creazione del modello senza accesso ai dati sorgente e agli strumenti.\n
Sicurezza e questioni etiche. Senza dati sorgente e strumenti, la possibilit\u00e0 di eliminare vulnerabilit\u00e0 nei modelli \u00e8 limitata all'uso di patch binarie o alla sostituzione completa del modello. Tali patch possono essere preparate solo dall'autore del modello, e i consumatori del modello diventano completamente dipendenti da lui. Nessuno, incluso gli autori del modello, \u00e8 in grado di comprendere la sostanza delle modifiche proposte in questo modo. L'assenza di dati sorgente rende inoltre difficile identificare la presenza di backdoor nei modelli di machine learning.\n
Limitazioni nello studio. Senza dati sorgente, non \u00e8 possibile confermare che il modello sia stato addestrato su dati forniti sotto licenze che consentono tale utilizzo, n\u00e9 escludere che durante l'addestramento siano stati utilizzati dati acquisiti illegalmente. Inoltre, se durante l'addestramento sono stati utilizzati dati sotto licenza GPL, potrebbe essere necessaria un'analisi per verificare la presenza nel risultato fornito dal modello di frammenti con una copia di tali dati, per i quali \u00e8 necessaria la citazione della fonte e della licenza. Lo sviluppatore potrebbe incorporare nel proprio progetto codice\/contenuto generato dal modello e violare involontariamente la licenza su alcuni dati sorgente. <\/ul>\n
Lo scorso ottobre, l'organizzazione OSI (Open Source Initiative) ha pubblicato una definizione di sistema AI open source. Un sistema AI open source deve fornire le seguenti opportunit\u00e0: utilizzo per qualsiasi scopo senza la necessit\u00e0 di ottenere un permesso separato; studio del funzionamento del sistema e ispezione dei suoi componenti; apportare modifiche per qualsiasi scopo; trasferire ad altri sia la versione originale sia la versione modificata, senza limitazione degli scopi di utilizzo. Un sistema AI open source deve includere informazioni dettagliate sull'architettura del modello, sui dati utilizzati durante l'addestramento e sulla metodologia di addestramento, nonch\u00e9 il codice sorgente per l'esecuzione e l'addestramento del sistema AI. Le informazioni devono essere sufficienti affinch\u00e9 uno sviluppatore professionista possa ricreare autonomamente un sistema AI equivalente, utilizzando per l'addestramento gli stessi o simili dati. <\/p>\n
L'organizzazione per la difesa dei diritti Software Freedom Conservancy (SFC) ha criticato tale definizione. Il malcontento \u00e8 dovuto al fatto che nei criteri non ci sono requisiti per la fornitura dei dati utilizzati per l'addestramento del modello. Nella definizione OSI viene richiesto solo di fornire informazioni dettagliate sui dati utilizzati per l'addestramento, ma non i dati stessi. La definizione accettata garantisce solo due delle quattro libert\u00e0 dichiarate dell'Open Source \u2014 la possibilit\u00e0 di utilizzare e la possibilit\u00e0 di distribuire, mentre le possibilit\u00e0 di modificare e studiare non sono completamente garantite. <\/p>\n
La decisione dell'OSI \u00e8 spiegata dal fatto che la pubblicazione dei dati sorgenti in molti casi \u00e8 impossibile per motivi indipendenti dallo sviluppatore del modello di AI, come la necessit\u00e0 di mantenere la riservatezza, l'uso di materiali protetti da copyright, la licenza dei dati da fornitori terzi, ecc. Se fosse aggiunto il requisito di fornire i dati, nessuno dei modelli linguistici grandi esistenti avrebbe ottenuto lo status di open source, e la stessa definizione sarebbe diventata un'utopia irraggiungibile. \n Fonte: opennet.ru<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"