Проектът Debian стартира общо гласуване относно критериите за отвореност на AI моделите

Проект Debian обяви провеждането на общо гласуване (GR, общо решение) на разработчиците на проекта, за да одобрят критерии за приемане на модели на машинно обучение в основния архив на проекта. В този етап е стартирана фаза на обсъждане, след което ще започне събирането на гласове (датата на започване на гласуването все още не е определена). Право на глас имат около хиляда разработчици, които участват в поддръжката на пакети и инфраструктурата на Debian.

AI модели, разпространявани под открити лицензи, но без предоставяне на изходни данни и инструменти за обучение на модела, се предлагат да бъдат признати за несъвместими с критериите на Debian, които определят свободния софтуер (DFSG, Ръководство за свободен софтуер на Debian). В случай на одобрение на предложението, подобни модели няма да могат да бъдат включени в основния архив на проекта („main“). Възможността за доставка на такива модели в архивите „non-free“ в рамките на стартираното гласуване не се разглежда.

Сред проблемите, които възникват при липса на данни, използвани за обучение, се споменават:

• Липсата на изходни данни или програми, използвани за обучение, значително ограничава възможностите за модифициране на готовите AI модели. Въпреки разрешението за модификации в лиценза, на практика такава модификация е затруднена. Модификация може да бъде необходима, например, при налагане на промяна на токенизатора, необходим за добавяне на поддръжка на нови езици.
• Данните, използвани за обучение, могат да се разглеждат като „изходен код“ на модела, а готовият модел като резултат от обработката на този „изходен код“ с инструментите за обучение. Следователно, за пълно модифициране на модела трябва да има възможност за модифициране на изходните данни и инструменти.
• Невъзможността да се възпроизведе работата, извършена за създаване на модела, без достъп до изходни данни и инструменти.
• Безопасността и етичните въпроси. Без налични данни и инструменти, възможността за отстраняване на уязвимости в моделите е ограничена до прилагането на бинарни пачове или пълна замяна на модела. Тези пачове могат да бъдат подготвени само от автора на модела, а потребителите на модела стават напълно зависими от него. Въпреки това, никой, включително авторите на модела, не може да разбере същността на предлаганите по този начин изменения. Липсата на налични данни също затруднява идентифицирането на инжекции на бэкдори в моделите на машинно обучение.
• Ограничения при изучаването. Без налични данни е невъзможно да се потвърди, че моделът е обучен на данни, предоставени под лицензи, позволяващи подобна употреба, или да се изключи, че при обучението не са използвани данни, получени незаконно. Освен това, ако при обучението са използвани данни под лиценз GPL, може да се наложи анализ на наличието на фрагменти от тези данни в резултатите, които моделът предоставя, за които е необходимо да се посочи източникът и лицензът. Разработчикът може неволно да добави в проекта си код/съдържание, генерирано от модела, и да наруши лиценза за някои от основните данни.

През октомври миналата година организацията OSI (Open Source Initiative) публикува определението на отворена AI-система (Open Source AI). Отворената AI-система трябва да предоставя следните възможности: използване за всякакви цели без необходимост от получаване на отделно разрешение; изучаване на работата на системата и инспекция на нейните компоненти; внасяне на промени за всякакви цели; предаване на трети лица както на оригиналната версия, така и на редакции след внасяне на промени, без ограничения на целите на използването. Отворената AI-система трябва да включва детайлна информация за архитектурата на модела, данните, използвани при обучението, и методологията на обучението, както и изходния код за стартиране и обучение на AI-системата. Информацията трябва да е достатъчна, за да може професионален разработчик самостоятелно да възпроизведе еквивалентна AI-система, използвайки същите или подобни данни за обучение.

Правозащитната организация Software Freedom Conservancy (SFC) изрази критика към подобно определение. Недоволството произтича от факта, че в критериите липсват изисквания за предоставяне на данни, използвани за обучението на модела. В определението на OSI се изисква само предоставяне на подробна информация за използваните при обучението данни, а не самите данни. Приетото определение гарантирано предоставя само две от четирите обявени свободи на Open Source — възможността за използване и възможността за разпространение, докато възможностите за изменение и изучаване не са напълно осигурени.

Решението на OSI се дължи на факта, че публикацията на изходните данни в много случаи е невъзможна поради причини, независещи от разработчика на AI-модела, като необходимостта от запазване на конфиденциалността, използването на материали, защитени с авторско право, лицензиране на данни от трети страни и т.н. В случай на добавяне на изискването за предоставяне на данни, нито един от съществуващите големи езикови модели не би получил статус на отворен, а самото определение би станало недостижима утопия.

Източник: opennet.ru