Бредли Кун (Bradley M. Kuhn), изпълнителен директор и един от създателите на защитната организация Software Freedom Conservancy (SFC), изрази критика към наскоро публикуваното от OSI (Open Source Initiative) определение за отворена AI система (Open Source AI). Според Кун, организацията OSI прибързала с публикуването на финалната версия на определението и го одобрила без дълго и задълбочено обсъждане, на начален етап на развитието на подобни системи. За сравнение, определението за Open Source е дадено след много години размисли и обсъждания. Що се отнася до публикуваното определение за отворена AI система, в момента то по-скоро трябва да се нарече препоръка, а не определение.
Кун се опасява, че приетите в настоящия вид критерии за открит AI ще имат далечни последици, ще подкопаят авторитета на термина Open Source и ще доведат до разделяне на общността. Проблемът е, че въпреки възраженията, организацията OSI е сключила компромис и не е включила изискването за предоставяне на данните, използвани за обучение на модела. Причината за компромиса е, че при добавяне на такъв пункт, нито една от съществуващите големи езикови модели не би получила статус на отворена.
Според OSI, установяването на определение за отворена AI система, отразяващо реалностите, ще помогне да се предотвратят манипулациите от страна на производителите с термина "отворен", които в условия на несигурност наричат отворени модели единствено на основата на достъпността на теглата, дори когато лицензията на модела ограничава обхвата на използването му (например, много модели забраняват употребата в търговски проекти) и не разкриват подробности за изпълнението.
В одобреното от OSI определение за отворена AI система се изисква единствено предоставяне на подробна информация относно данните, използвани при обучението, но не и самите данни. При това, без предоставяне на изходните данни, на които е обучен моделът, е невъзможно напълно да се възпроизведе AI системата, което противоречи на концепцията за отворен код. Така организацията OSI се е ограничила до разглеждане на AI модела само като технология и не е разгледала тях като цялостен продукт.
Фактически приетото определение на открита AI-система гарантира само две от четирите заявени свободи Open Source — възможността за използване и разпространение, като възможностите за модифициране и изучаване не са напълно осигурени. Освен това, липсата на изходни данни затруднява откритията на подмяна на бекдории в моделите за машинно обучение.
От друга страна, публикуването на изходни данни в много случаи е невъзможно по причини, независещи от разработчика на AI-модела, като необходимостта от запазване на конфиденциалността, използването на материали, защитени с авторски права, лицензирането на данни от трети страни и т.н. Според критиците на приетото определение, подобни проблеми не са основание за намаляване и обезценяване на понятието Open Source.
Бредли Кун планира да участва в следващите избори за ръководство на OSI и да опита да влезе в съвета на директорите, за да успее да отменя приетото определение и да го преведе в разряд препоръки. Освен организацията Software Freedom Conservancy, своето несъгласие с определението на открития AI изразиха някои разработчици на проекта Debian, които предложиха общо гласуване, за да привлекат внимание към проблема. Фондът СПО работи и върху своето определение за свободна AI-система, който има за цел да въведе изискването за достъпност на всички данни, но признава наличието на етични причини, които в някои случаи не позволяват разкритие на данни (например, ако при обучението са използвани медицински или лични данни).
Източник: opennet.ru
