Инициатива за отмяна на определението на отворената AI-система като обезценяваща понятието Open Source

Бредли Кун (Bradley M. Kuhn), изпълнителен директор и един от създателите на правозащитната организация Software Freedom Conservancy (SFC), отправи критика към наскоро публикуваното от организацията OSI (Open Source Initiative) определение за открита AI система (Open Source AI). Според Кун организацията OSI е побързала с публикуването на финалната версия на определението и го е утвърдила без продължително обширно обсъждане и на начален етап от развитието на такива системи. За сравнение, определението за Open Source беше дадено след много години размисли и обсъждания. Що се отнася до публикуваното определение за открита AI система, на този етап би трябвало да се нарича не определение, а препоръка.

Кун се опасява, че приетите в настоящия им вид критерии за отворена AI ще имат дългосрочни последици, подкопавайки авторитета на термина Open Source и водейки до разделение на общността. Проблемът е, че въпреки възраженията, организацията OSI е влязла в компромис и не е включила изискването за предоставяне на данни, използвани за обучението на модела. Причината за компромиса е, че в случай на добавяне на подобна точка, нито една от съществуващите големи езикови модели не би получила статус на отворена.

Според OSI, изготвянето на определение за открита AI система, което отчита утвърдените реалности, ще предотврати манипулацията на производителите с термина 'отворен', които в условия на несигурност наричат отворени модели единствено на основа на наличността на тегловни коефициенти, дори когато лицензията на модела ограничава обхвата на използването му (например, много модели забраняват приложението им в търговски проекти) и не разкриват детайлите на реализацията.

В одобрено от OSI определение за открита AI система се изисква единствено да се предостави подробна информация за данните, използвани при обучението, но не и самите данни. Без предоставяне на оригиналните данни, на които е обучен моделът, не е възможно напълно да се възпроизведе AI системата, което противоречи на концепцията за отворен код. Така организацията OSI ограничи разглеждането на AI модела единствено като технология и не стана да възприема те като цялостен продукт.

Всъщност, приетото определение за открита AI система гарантира единствено две от четирите заявени свободи на Open Source — възможността за използване и възможността за разпространение, при което възможностите за изменение и изучаване не са напълно осигурени. Освен това, отсъствието на оригинални данни затруднява откритията на вмъкване на бекдори в моделите на машинното обучение.

От друга страна, публикуването на изходни данни в много случаи е невъзможно поради причини, които не зависят от разработчика на AI модела, като необходимостта от запазване на конфиденциалността, използването на материали, защитени с авторски права, лицензиране на данни от трети страни и т.н. Според критиците на приетото определение, подобни проблеми не са основание за принижаване и обезценяване на понятието Open Source.

Бредли Кун има намерение да участва в следващите избори за ръководство на OSI и да се опита да влезе в борда на директорите, за да постигне отмяна на приетото определение и да го превърне в категория препоръки. Освен организацията Software Freedom Conservancy, своето несъгласие с определението на отворен AI изразиха и някои разработчици на проекта Debian, които предложиха провеждането на общо гласуване, за да се привлече вниманието към проблема. Фондът СПО също работи по своето определение за свободна AI система, което желае да включи изискване за достъпност на всичките данни, но същевременно признава наличието на етични причини, които в някои случаи не позволяват разкритие на данни (например, ако при обучението са използвани медицински или лични данни).

Източник: opennet.ru