Il consiglio direttivo della distribuzione Gentoo Linux ha approvato regole che vietano l'accettazione in Gentoo di qualsiasi contenuto creato utilizzando strumenti AI che elaborano richieste in linguaggio naturale, come ChatGPT, Bard e GitHub Copilot. Tali strumenti non devono essere utilizzati nella scrittura del codice dei componenti Gentoo, nella creazione di ebuild, nella preparazione della documentazione e nell'invio di segnalazioni di bug.
Principali preoccupazioni che hanno portato al divieto dell'uso di strumenti AI in Gentoo:
- Incertezza riguardo a potenziali violazioni del copyright nei contenuti creati con modelli addestrati su un ampio insieme di dati, inclusi opere protette da copyright. Si menziona anche l'impossibilità di garantire il rispetto dei requisiti di licenza nel codice generato tramite strumenti AI. Il codice generato dall'AI potrebbe essere considerato come creazione di un'opera derivata dal codice utilizzato per addestrare il modello e distribuito sotto specifiche licenze.
Ad esempio, quando un modello viene addestrato su codice con licenze che richiedono attribuzione, il codice fornito dagli strumenti AI non soddisfa tale requisito, il che può essere considerato una violazione della maggior parte delle licenze open source, come GPL, MIT e Apache. Possono anche sorgere problemi di compatibilità delle licenze quando si inserisce in progetti sotto licenze permissive codice generato utilizzando modelli addestrati su codice con licenze copyleft.
- Possibili problemi di qualità. Le preoccupazioni riguardano il fatto che il codice o il testo generato dagli strumenti AI possono apparire corretti, ma contenere problemi impliciti e discrepanze con i fatti. L'uso di tale contenuto senza verifica può ridurre la qualità dei progetti. Ad esempio, il codice sintetizzato può ripetere errori del codice utilizzato per addestrare il modello, portando a vulnerabilità e mancanza di controlli necessari nella gestione dei dati esterni.
La verifica richiede però notevoli sforzi per il fact-checking e la revisione del codice. Analizzando i report degli errori generati automaticamente, gli sviluppatori sono costretti a perdere tempo prezioso ad analizzare rapporti inutili e a ricontrollare più volte le informazioni riportate, poiché la qualità esterna della presentazione ispira fiducia e fa sembrare che il revisore non abbia capito qualcosa.
- Le questioni etiche legate alla violazione dei diritti d'autore nell'addestramento dei modelli, all'impatto ambientale causato dal grande consumo energetico nella creazione dei modelli, ai licenziamenti dovuti alla sostituzione del personale con servizi AI, alla diminuzione della qualità dei servizi dopo la sostituzione del supporto clienti con bot e all'ampliamento delle possibilità di spam e frodi.
Nell'annuncio si sottolinea che il nuovo requisito potrebbe essere annullato selettivamente per gli strumenti AI per i quali sarà dimostrata l'assenza di problemi relativi al copyright, alla qualità e all'etica.
Fonte: opennet.ru
