Debiani projekt alustas üldhääletust AI-mudelite avatuskriteeriumide üle

Debiani projekt kuulutas välja arendajate üldise hääletuse (GR, üldine otsus) projekti mudelite aktsepteerimise kriteeriumide kinnitamiseks, et lisada masinõppemudelid projekti põhirepositooriumisse. Selle etapi jooksul on arutelufaas, pärast mida algab häälte kogumine (häälte kogumise alguskuupäev ei ole veel määratud). Hääletusõigus on umbes tuhandel arendajal, kes osalevad Debian'i pakettide hoolduses ja infrastruktuuri toetuses.

AI-mudeleid, mis jaotatakse avatud litsentside alusel, kuid ilma allikaine ja mudeli koolitusriistade pakkumiseta, pakutakse tunnustada Debian'i kriteeriumitega, mis määratlevad tasuta tarkvara (DFSG, Debian Free Software Guideline), kokkusobimatutena. Kui ettepanek kinnitatakse, ei saa sellised mudelid olla lisatud projekti põhirepositooriumisse («main»). Eelnevalt ei kaaluta võimalust selliste mudelite tarnimiseks «non-free» repositooriumites käimasoleva hääletuse käigus.

Mõningad probleemid, mis tekivad andmete puudumisel, mida kasutati koolitamisel, on nimetatud:

• Alguse andmeid või programme, mida kasutatakse koolitusprotsessis, piiravad oluliselt valmis AI mudelite kohandamise võimalusi. Hoolimata kohandamise lubamisest litsentsis, on selline kohandamine praktikas keeruline. Muudatus võib olla vajalik näiteks siis, kui on vaja vahetada tokenisaatorit, mis on vajalik uute keelte toe lisamiseks.
• Koolitusprotsessis kasutatud andmeid võib tõlgendada kui mudeli «algkoodi», ja valmis mudelit kui tulemuse, mis saadakse selle «algkoodi» töötlemisel koolitusvahendite abil. Seega peab mudeli täielikuks kohandamiseks olema võimalus algandmeid ja tööriistu kohandada.
• Mudeleid koostades tehtud töö taastamine on võimatu, kui puudub juurdepääs algandmetele ja tööriistadele.
• Turvalisus ja eetilised küsimused. Ilma algandmete ja tööriistadeta on haavatavuste likvideerimise võimalus mudelites piiratud binaarsete plaastrite kasutamise või mudeli täieliku asendamisega. Selliseid plaastrite võib valmistada ainult mudeli autor, mistõttu mudeli tarbijad sõltuvad temast täielikult. Samas ei suuda keegi, sealhulgas mudeli autorid, mõista selliste muudatuste olemust. Algandmete puudumine raskendab ka backdoor'ide tuvastamist masinõppe mudelites.
• Õppimise piirangud. Ilma lähtedata ei saa kinnitada, et mudel on koolitatud andmetel, mis on saadud litsentside alusel, mis lubavad sellist kasutamist, ega välistada, et koolitamisel ei ole kasutatud andmeid, mis on saadud ebaseaduslikult. Lisaks, kui koolitamisel on kasutatud GPL-litsentsiga andmeid, võib olla vajalik analüüsida, kas mudeli väljundis on koopia nende andmete fragmente, mille puhul on vajalik allika ja litsentsi mainimine. Arendaja võib oma projektis kasutada mudeli genereeritud koodi/sisu ja kogemata rikkuda teatud lähteandmete litsentsi.

Mullu aastal, 2022. aasta oktoobris, avaldas OSI (Open Source Initiative) avatud AI-süsteemi (Open Source AI) määratluse. Avatud AI-süsteem peab pakkuma järgmisi võimalusi: selle kasutamine igasugustel eesmärkidel ilma eraldi loata; süsteemi töö uurimine ja selle komponentide kontrollimine; muudatuste tegemine igasugustel eesmärkidel; edastamine teistele isikutele nii muutumatul kujul kui ka pärast muudatuste tegemist, ilma kasutamise eesmärkide piiranguteta. Avatud AI-süsteem peab sisaldama üksikasjalikku teavet mudeli arhitektuuri, õppimiseks kasutatud andmete ja õppe meetodite kohta, samuti lähtekoodi AI-süsteemi käitamiseks ja koolitamiseks. Teavet peab olema piisavalt, et professionaalne arendaja saaks iseseisvalt rekonstrueerida samaväärse AI-süsteemi, kasutades sama või sarnaseid andmeid.

Tõukogude Liidu organisatsioon Software Freedom Conservancy (SFC) on kritiseerinud sellist määratlemist. Saatud rahulolematus tuleneb sellest, et kriteeriumites ei ole nõutud mudeleid koolitamiseks kasutatud andmete esitamist. OSI määratlemises nõutakse ainult üksikasjalikku teavet koolitamiseks kasutatud andmete kohta, kuid mitte andmeid endid. Vastuvõetud määratlemine tagab vaid kaks neljast väidetud vabadusest Open Source — kasutamise ja jagamise võimaluse, samal ajal kui muutmis- ja uurimisvõimalused ei ole täielikult tagatud.

OSI lahendus selgitatakse välja selle tõttu, et algandmete avaldamine ei ole paljuski võimalik arendaja AI-mudeli tõttu, sealhulgas vajadus konfidentsiaalsuse säilitamiseks, autoriõigusega kaitstud materjalide kasutamine, kolmandatelt tarnijatelt andmete litsentsimine jne. Kui andmete esitamise nõue lisatakse, ei saaks ükski olemasolev suur keeleline mudel avatud staatust, ja määratlemine muutuks kättesaamatuks utoopiaks.

Allikas: opennet.ru