Брэдли М.Кун, Software Freedom Conservancy (SFC) адвокаттық ұйымының атқарушы директоры және тең құрылтайшысы OSI (Open Source Initiative) жақында жарияланған ашық бастапқы AI анықтамасын сынға алды. Кунның айтуынша, OSI ұйымы анықтаманың соңғы нұсқасын шығаруға асықты және оны ұзақ жан-жақты талқылаусыз және мұндай жүйелерді әзірлеудің бастапқы кезеңінде бекітті. Салыстырмалы түрде айтсақ, Open Source анықтамасы көптеген жылдар бойы ойланып, талқылаудан кейін берілген. Ашық AI жүйесінің жарияланған анықтамасына келетін болсақ, бұл кезеңде оны анықтама емес, ұсыныс деп атаған жөн еді.
Кун қазіргі ашық AI критерийлері ауқымды салдарға алып келеді, Ашық бастапқы код терминінің беделіне нұқсан келтіреді және қауымдастықтың бөлінуіне әкеледі деп қорқады. Мәселе мынада, қарсылыққа қарамастан, OSI ымыраға келді және үлгіні үйрету үшін пайдаланылатын деректерді қамтамасыз ету талабын қоспады. Ымыраға келу себебі, егер мұндай тармақ қосылса, қолданыстағы үлкен тіл үлгілерінің ешқайсысы ашық мәртебе алмайды.
OSI сәйкес, ағымдағы шындықтарды ескеретін ашық AI жүйесінің анықтамасын сақтау өндірушілерге белгісіздік жағдайында салмақ коэффициенттерінің болуы негізінде ашық үлгілерді атайтын «ашық» терминін манипуляциялаудан сақтайды, үлгіге арналған лицензия оны қолдану аясын шектесе де (мысалы, көптеген үлгілер коммерциялық жобаларда пайдалануға тыйым салады) және іске асыру мәліметтері ашылмаған.
OSI мақұлдаған ашық AI жүйесінің анықтамасы тек оқытуда пайдаланылатын деректер туралы егжей-тегжейлі ақпаратты беруді талап етеді, бірақ деректердің өзі емес. Сонымен қатар, модель оқытылатын бастапқы деректерді бермей, ашық бастапқы код тұжырымдамасына қайшы келетін AI жүйесін толығымен қайта шығару мүмкін емес. Осылайша, OSI ұйымы AI моделін тек технология ретінде қарастырумен шектелді және оларды тұтас өнім ретінде қарастырмады.
Шын мәнінде, ашық AI жүйесінің қабылданған анықтамасы ашық бастапқы кодтың жарияланған төрт еркіндігінің екеуін ғана қамтамасыз етуге кепілдік береді - өзгерту және зерттеу мүмкіндігі толық қамтамасыз етілмегеніне қарамастан, пайдалану және тарату мүмкіндігі. . Бұған қоса, бастапқы деректердің болмауы машиналық оқыту үлгісінде бэкдорды ауыстыруды анықтауды қиындатады.
Екінші жағынан, бастапқы деректерді жариялау көптеген жағдайларда AI моделін әзірлеушіге байланысты емес себептерге байланысты мүмкін емес, мысалы, құпиялылықты сақтау қажеттілігі, авторлық құқықпен қорғалған материалдарды пайдалану, үшінші тарап провайдерлерінің деректерін лицензиялау, т.б. Қабылданған анықтаманы сынаушылардың пікірінше, мұндай проблемалар Open Source тұжырымдамасын кемсітуге және құнсыздандыруға негіз болып табылмайды.
Бредли Кун намерен участвовать в следующих выборах руководства OSI и попытаться войти в совет директоров для того чтобы добиться отмены принятого определения и перевода его в разряд рекомендаций. Кроме организации Software Freedom Conservancy своё несогласие с определением открытого AI высказали некоторых разработчики проекта Debian, которые выступили с инициативой проведения общего голосования для привлечения внимания к проблеме. Над своим определением свободной AI-системы также работает Фонд СПО, который намерен ввести в своё определение требование доступности всех данных, но при этом признаёт наличие этических причин, не позволяющих в некоторых случаях раскрывать данные (например, если при обучении использованы медицинские или персональные данные).
Ақпарат көзі: opennet.ru
