Il browser web Dillo ha proposto un metodo per filtrare le modifiche preparate tramite AI. Il progetto Dillo accetta patch create solo da esseri umani, ma l'analisi delle modifiche inviate richiede molto tempo e non è sempre chiaro se una patch sia stata creata da un essere umano. Per semplificare il filtraggio delle patch generate da AI, ai partecipanti che inviano modifiche al progetto per la prima volta viene richiesto di fornire come prova del lavoro svolto una registrazione della sessione di sviluppo. Utilizzando Vim, la sessione può essere registrata, ad esempio, tramite l'utilizzo dello strumento asciinema.
L'idea non è stata tradotta in requisiti obbligatori ed è ancora in fase di discussione e sperimentazione. A prima vista, uno sviluppatore che cerca di ingannare il manutentore presentando una patch creata tramite AI come codice scritto a mano potrebbe utilizzare l'AI anche per generare una registrazione della sessione in asciinema. Gli esperimenti hanno dimostrato che l'artificialità di tali registrazioni è immediatamente evidente, poiché non riflettono le azioni, gli errori e le riflessioni umane durante il lavoro. I modelli AI tipici sono addestrati su codice già esistente, ma il loro addestramento non copriva pienamente il processo di scrittura del codice da parte degli esseri umani.
Fonte: opennet.ru
