Управителният съвет на дистрибуцията Gentoo Linux одобри правила, забраняващи приемането на съдържание, създадено с помощта на AI инструменти, обработващи заявки на естествен език, като ChatGPT, Bard и GitHub Copilot. Подобни инструменти не трябва да се използват при писане на код за компоненти на Gentoo, създаване на ebuild, подготовка на документация и изпращане на отчети за грешки.
Основните притеснения, поради които е забранено използването на AI инструменти в Gentoo:
- Неопределеност относно възможното нарушаване на авторските права в съдържанието, създадено с помощта на модели, обучени на голямо количество информация, включително произведения, защитени с авторски права. Също така се споменава невъзможността да се гарантира спазването на лицензионните изисквания в кода, генериран чрез AI инструменти. Генерираният AI код може да бъде считан за произвеждане на произведена работа от кода, който е бил използван за обучение на модела и който се разпространява под определени лицензи.
Например, ако моделът е обучен на код с лиценз, изискващ уведомяване за авторство (атрибуция), в предоставения от AI инструменти код това изискване не се изпълнява, което може да се счита за нарушаване на повечето отворени лицензи, като GPL, MIT и Apache. Също така могат да възникнат проблеми с лицензионната съвместимост при вмъкване в проекти с разрешителни лицензи на код, генериран с помощта на модели, обучени на код с копилефт лицензи.
- Възможни проблеми с качеството. Притесненията са свързани с факта, че генерираният от AI инструменти код или текст може да изглежда правилен, но да съдържа неявни проблеми и несъответствия с фактите. Използването на такова съдържание без проверка може да доведе до понижаване на качеството на проектите. Например, синтезираният код може да повтаря грешки от кода, използван при обучението на модела, което в крайна сметка ще доведе до появата на уязвимости и липса на необходимите проверки при обработката на външни данни.
Проверката изисква значителни усилия за фактчекинг и рецензиране на кода. Разглеждайки автоматично генерираните отчети за грешки, разработчиците са принудени да харчат много време в анализа на безполезни отчети и да проверяват посочената информация многократно, тъй като външното качество на представянето внушава доверие към информацията и създава усещане, че рецензентът не е разбрал нещо.
- Етичните въпроси, свързани с нарушаването на авторските права при обучението на модели, негативното влияние върху екологията поради високите разходи за енергия при създаването на модели, уволненията поради замяната на персонала с AI услуги, пониженото качество на услугите след заменянето на службите за поддръжка с ботове, разширяването на възможностите за спам и измами.
В анонса се отбелязва, че новото изискване може да бъде частично отменено за AI инструменти, за които ще бъде доказано, че нямат проблеми с авторските права, качеството и етиката.
Източник: opennet.ru
