Проектът Gentoo забрани приемането на промени, подготвени с помощта на AI-инструменти

Управителният съвет на дистрибуцията Gentoo Linux одобри правила, които забраняват приемането на каквото и да е съдържание в Gentoo, създадено с помощта на инструменти за AI, обработващи заявки на естествен език, като ChatGPT, Bard и GitHub Copilot. Подобни инструменти не трябва да се използват при написването на код за компоненти на Gentoo, създаването на ebuild, подготовката на документация и подаването на отчети за грешки.

Основните притеснения, поради които използването на AI инструменти в Gentoo е забранено:

• Неопределеност относно потенциалното нарушение на авторските права в съдържанието, създадено с помощта на модели, обучени на голямо количество информация, включваща и произведения, защитени с авторски права. Също така се споменава невъзможността да се гарантира изпълнението на лицензионните изисквания в кода, генериран чрез AI инструменти. Генерираният AI код може да се счита за създаване на производна работа от кода, който е използван при обучението на модела и се разпространява под определени лицензи.

  Например, при обучението на модела с код под лиценз, изискващ уведомление за авторство (атрибуция), в предоставения от AI инструменти код това изискване не се изпълнява, което може да се разглежда като нарушение на повечето отворени лицензи, като GPL, MIT и Apache. Също така могат да възникнат проблеми с лицензионната съвместимост при вмъкването в проекти под пермисивни лицензи на код, генериран с помощта на модели, обучени на код с копилефт лицензи.
• Възможни проблеми с качеството. Притесненията са свързани с факта, че генерираният от AI инструменти код или текст може да изглежда коректен, но да съдържа неявни проблеми и несъответствия с фактите. Използването на такова съдържание без проверка може да доведе до понижаване на качеството на проектите. Например, синтезиран код може да повтаря грешки от кода, използван при обучението на модела, което в крайна сметка ще доведе до появата на уязвимости и липсата на необходимите проверки при обработката на външни данни.

  Системата изисква значителни усилия за фактчекинг и рецензиране на кода. При анализа на автоматично генерирани отчети за грешки, разработчиците често са принудени да харчат много време в безполезно разглеждане на отчети и да проверяват информацията в тях многократно, тъй като външното качество на оформлението внушава доверие и създава усещането, че рецензентът е нещо недоразбрал.

• Етичните въпроси, свързани с нарушаването на авторски права при обучението на модели, негативното въздействие върху околната среда поради високите енергийни разходи при създаването на модели, съкращения на персонала заради заместването му с AI услуги, понижението на качеството на услугите след замяната на обслужването с роботи, разширяването на възможностите за спам и измами.

В анонса се отбелязва, че новото изискване може да бъде отменено за AI инструменти, при които ще бъде доказано, че нямат проблеми с авторските права, качеството и етиката.

Източник: opennet.ru