Π˜Π½ΠΈΡ†ΠΈΠ°Ρ‚ΠΈΠ²Π° ΠΏΠΎ ΠΎΡ‚ΠΌΠ΅Π½Π΅ опрСдСлСния ΠΎΡ‚ΠΊΡ€Ρ‹Ρ‚ΠΎΠΉ AI-систСмы, ΠΊΠ°ΠΊ ΠΎΠ±Π΅ΡΡ†Π΅Π½ΠΈΠ²Π°ΡŽΡ‰Π΅Π³ΠΎ понятиС Open Source

Π‘Ρ€Π΅Π΄Π»ΠΈ ΠšΡƒΠ½ (Bradley M. Kuhn), ΠΈΡΠΏΠΎΠ»Π½ΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹ΠΉ Π΄ΠΈΡ€Π΅ΠΊΡ‚ΠΎΡ€ ΠΈ ΠΎΠ΄ΠΈΠ½ ΠΈΠ· создатСлСй ΠΏΡ€Π°Π²ΠΎΠ·Π°Ρ‰ΠΈΡ‚Π½ΠΎΠΉ ΠΎΡ€Π³Π°Π½ΠΈΠ·Π°Ρ†ΠΈΠΈ Software Freedom Conservancy (SFC), выступил c ΠΊΡ€ΠΈΡ‚ΠΈΠΊΠΎΠΉ Π½Π΅Π΄Π°Π²Π½ΠΎ ΠΎΠΏΡƒΠ±Π»ΠΈΠΊΠΎΠ²Π°Π½Π½ΠΎΠ³ΠΎ ΠΎΡ€Π³Π°Π½ΠΈΠ·Π°Ρ†ΠΈΠ΅ΠΉ OSI (Open Source Initiative) опрСдСлСния ΠΎΡ‚ΠΊΡ€Ρ‹Ρ‚ΠΎΠΉ AI-систСмы (Open Source AI). По мнСнию ΠšΡƒΠ½Π° организация OSI ΠΏΠΎΡ‚ΠΎΡ€ΠΎΠΏΠΈΠ»Π°ΡΡŒ с ΠΏΡƒΠ±Π»ΠΈΠΊΠ°Ρ†ΠΈΠ΅ΠΉ Ρ„ΠΈΠ½Π°Π»ΡŒΠ½ΠΎΠ³ΠΎ Π²Π°Ρ€ΠΈΠ°Π½Ρ‚Π° опрСдСлСния ΠΈ ΡƒΡ‚Π²Π΅Ρ€Π΄ΠΈΠ»Π° Π΅Π³ΠΎ Π±Π΅Π· Π΄Π»ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΠ³ΠΎ всСстороннСго обсуТдСния ΠΈ Π½Π° Π½Π°Ρ‡Π°Π»ΡŒΠ½ΠΎΠΌ этапС становлСния ΠΏΠΎΠ΄ΠΎΠ±Π½Ρ‹Ρ… систСм. Для сравнСния ΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½ΠΈΠ΅ Open Source Π±Ρ‹Π»ΠΎ Π΄Π°Π½ΠΎ послС ΠΌΠ½ΠΎΠ³ΠΈΡ… Π»Π΅Ρ‚ Ρ€Π°Π·ΠΌΡ‹ΡˆΠ»Π΅Π½ΠΈΠΉ ΠΈ обсуТдСний. Π§Ρ‚ΠΎ касаСтся ΠΎΠΏΡƒΠ±Π»ΠΈΠΊΠΎΠ²Π°Π½Π½ΠΎΠ³ΠΎ опрСдСлСния ΠΎΡ‚ΠΊΡ€Ρ‹Ρ‚ΠΎΠΉ AI-систСмы, Ρ‚ΠΎ Π½Π° Π΄Π°Π½Π½ΠΎΠΉ стадии Π΅Π³ΠΎ слСдовало Π½Π°Π·Π²Π°Ρ‚ΡŒ Π½Π΅ ΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½ΠΈΠ΅ΠΌ, Π° Ρ€Π΅ΠΊΠΎΠΌΠ΅Π½Π΄Π°Ρ†ΠΈΠ΅ΠΉ.

ΠšΡƒΠ½ опасаСтся, Ρ‡Ρ‚ΠΎ принятыС Π² Ρ‚Π΅ΠΊΡƒΡ‰Π΅ΠΌ Π²ΠΈΠ΄Π΅ ΠΊΡ€ΠΈΡ‚Π΅Ρ€ΠΈΠΈ ΠΎΡ‚ΠΊΡ€Ρ‹Ρ‚ΠΎΠ³ΠΎ AI Π±ΡƒΠ΄ΡƒΡ‚ ΠΈΠΌΠ΅Ρ‚ΡŒ Π΄Π°Π»Π΅ΠΊΠΎ ΠΈΠ΄ΡƒΡ‰ΠΈΠ΅ послСдствия, ΠΏΠΎΠ΄ΠΎΡ€Π²ΡƒΡ‚ Π°Π²Ρ‚ΠΎΡ€ΠΈΡ‚Π΅Ρ‚ Ρ‚Π΅Ρ€ΠΌΠΈΠ½Π° Open Source ΠΈ ΠΏΡ€ΠΈΠ²Π΅Π΄ΡƒΡ‚ ΠΊ Ρ€Π°Π·Π΄Π΅Π»Π΅Π½ΠΈΡŽ сообщСства. ΠŸΡ€ΠΎΠ±Π»Π΅ΠΌΠ° Π² Ρ‚ΠΎΠΌ, Ρ‡Ρ‚ΠΎ Π²ΠΎΠΏΡ€Π΅ΠΊΠΈ возраТСниям, организация OSI пошла Π½Π° компромисс ΠΈ Π½Π΅ Π²ΠΊΠ»ΡŽΡ‡ΠΈΠ»Π° Ρ‚Ρ€Π΅Π±ΠΎΠ²Π°Π½ΠΈΠ΅ прСдоставлСния Π΄Π°Π½Π½Ρ‹Ρ…, ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Π½Π½Ρ‹Ρ… для обучСния ΠΌΠΎΠ΄Π΅Π»ΠΈ. ΠŸΡ€ΠΈΡ‡ΠΈΠ½ΠΎΠΉ компромисса стало Ρ‚ΠΎ, Ρ‡Ρ‚ΠΎ Π² случаС добавлСния ΠΏΠΎΠ΄ΠΎΠ±Π½ΠΎΠ³ΠΎ ΠΏΡƒΠ½ΠΊΡ‚Π°, Π½ΠΈ ΠΎΠ΄Π½Π° ΠΈΠ· ΡΡƒΡ‰Π΅ΡΡ‚Π²ΡƒΡŽΡ‰ΠΈΡ… Π±ΠΎΠ»ΡŒΡˆΠΈΡ… языковых ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ Π½Π΅ ΠΏΠΎΠ»ΡƒΡ‡ΠΈΠ»Π° Π±Ρ‹ статус ΠΎΡ‚ΠΊΡ€Ρ‹Ρ‚ΠΎΠΉ.

По мнСнию OSI, Π²Π΅Π΄Π΅Π½ΠΈΠ΅ опрСдСлСния ΠΎΡ‚ΠΊΡ€Ρ‹Ρ‚ΠΎΠΉ AI-систСмы, ΡƒΡ‡ΠΈΡ‚Ρ‹Π²Π°ΡŽΡ‰Π΅Π³ΠΎ слоТившиСся Ρ€Π΅Π°Π»ΠΈΠΈ, ΠΏΠΎΠ·Π²ΠΎΠ»ΠΈΡ‚ ΠΏΠΎΠΌΠ΅ΡˆΠ°Ρ‚ΡŒ манипуляциям ΠΏΡ€ΠΎΠΈΠ·Π²ΠΎΠ΄ΠΈΡ‚Π΅Π»Π΅ΠΉ с Ρ‚Π΅Ρ€ΠΌΠΈΠ½ΠΎΠΌ «ΠΎΡ‚ΠΊΡ€Ρ‹Ρ‚Ρ‹ΠΉ», ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Π² условиях нСопрСдСлённости Π½Π°Π·Ρ‹Π²Π°ΡŽΡ‚ ΠΎΡ‚ΠΊΡ€Ρ‹Ρ‚Ρ‹ΠΌΠΈ ΠΌΠΎΠ΄Π΅Π»ΠΈ лишь Π½Π° основании доступности вСсовых коэффициСнтов, Π΄Π°ΠΆΠ΅ Ссли лицСнзия Π½Π° модСль ΠΎΠ³Ρ€Π°Π½ΠΈΡ‡ΠΈΠ²Π°Π΅Ρ‚ ΠΎΠ±Π»Π°ΡΡ‚ΡŒ Π΅Ρ‘ использования (Π½Π°ΠΏΡ€ΠΈΠΌΠ΅Ρ€, ΠΌΠ½ΠΎΠ³ΠΈΠ΅ ΠΌΠΎΠ΄Π΅Π»ΠΈ Π·Π°ΠΏΡ€Π΅Ρ‰Π°ΡŽΡ‚ ΠΏΡ€ΠΈΠΌΠ΅Π½Π΅Π½ΠΈΠ΅ Π² коммСрчСских ΠΏΡ€ΠΎΠ΅ΠΊΡ‚Π°Ρ…) ΠΈ Π½Π΅ Ρ€Π°ΡΠΊΡ€Ρ‹Π²Π°ΡŽΡ‚ΡΡ Π΄Π΅Ρ‚Π°Π»ΠΈ Ρ€Π΅Π°Π»ΠΈΠ·Π°Ρ†ΠΈΠΈ.

Π’ ΡƒΡ‚Π²Π΅Ρ€ΠΆΠ΄Ρ‘Π½Π½ΠΎΠΌ OSI ΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½ΠΈΠΈ ΠΎΡ‚ΠΊΡ€Ρ‹Ρ‚ΠΎΠΉ AI-систСмы трСбуСтся лишь ΠΏΡ€Π΅Π΄ΠΎΡΡ‚Π°Π²ΠΈΡ‚ΡŒ ΠΏΠΎΠ΄Ρ€ΠΎΠ±Π½ΡƒΡŽ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΡŽ ΠΎΠ± ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Π½Π½Ρ‹Ρ… ΠΏΡ€ΠΈ ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠΈ Π΄Π°Π½Π½Ρ‹Ρ…, Π½ΠΎ Π½Π΅ сами Π΄Π°Π½Π½Ρ‹Π΅. ΠŸΡ€ΠΈ этом Π±Π΅Π· прСдоставлСния исходных Π΄Π°Π½Π½Ρ‹Ρ…, Π½Π° ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Ρ… ΠΎΠ±ΡƒΡ‡Π΅Π½Π° модСль, Π½Π΅Π²ΠΎΠ·ΠΌΠΎΠΆΠ½ΠΎ ΠΏΠΎΠ»Π½ΠΎΡΡ‚ΡŒΡŽ воспроизвСсти AI-систСму, Ρ‡Ρ‚ΠΎ расходится с ΠΊΠΎΠ½Ρ†Π΅ΠΏΡ†ΠΈΠ΅ΠΉ ΠΎΡ‚ΠΊΡ€Ρ‹Ρ‚ΠΎΠ³ΠΎ исходного ΠΊΠΎΠ΄Π°. Π’Π°ΠΊΠΈΠΌ ΠΎΠ±Ρ€Π°Π·ΠΎΠΌ, организация OSI ΠΎΠ³Ρ€Π°Π½ΠΈΡ‡ΠΈΠ»Π°ΡΡŒ рассмотрСниСм AI-ΠΌΠΎΠ΄Π΅Π»ΠΈ лишь ΠΊΠ°ΠΊ Ρ‚Π΅Ρ…Π½ΠΎΠ»ΠΎΠ³ΠΈΠΈ ΠΈ Π½Π΅ стала Ρ€Π°ΡΡΠΌΠ°Ρ‚Ρ€ΠΈΠ²Π°Ρ‚ΡŒ ΠΈΡ… ΠΊΠ°ΠΊ цСлостный ΠΏΡ€ΠΎΠ΄ΡƒΠΊΡ‚.

ЀактичСски принятоС ΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½ΠΈΠ΅ ΠΎΡ‚ΠΊΡ€Ρ‹Ρ‚ΠΎΠΉ AI-систСмы Π³Π°Ρ€Π°Π½Ρ‚ΠΈΡ€ΠΎΠ²Π°Π½Π½ΠΎ прСдоставляСт лишь Π΄Π²Π΅ ΠΈΠ· Ρ‡Π΅Ρ‚Ρ‹Ρ€Ρ‘Ρ… заявлСнных свобод Open Source — Π²ΠΎΠ·ΠΌΠΎΠΆΠ½ΠΎΡΡ‚ΡŒ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒ ΠΈ Π²ΠΎΠ·ΠΌΠΎΠΆΠ½ΠΎΡΡ‚ΡŒ Ρ€Π°ΡΠΏΡ€ΠΎΡΡ‚Ρ€Π°Π½ΡΡ‚ΡŒ, ΠΏΡ€ΠΈ Ρ‚ΠΎΠΌ, Ρ‡Ρ‚ΠΎ возмоТности ΠΈΠ·ΠΌΠ΅Π½ΡΡ‚ΡŒ ΠΈ ΠΈΠ·ΡƒΡ‡Π°Ρ‚ΡŒ обСспСчСны Π½Π΅ ΠΏΠΎΠ»Π½ΠΎΡΡ‚ΡŒΡŽ. ΠšΡ€ΠΎΠΌΠ΅ Ρ‚ΠΎΠ³ΠΎ, отсутствиС исходных Π΄Π°Π½Π½Ρ‹Ρ… затрудняСт выявлСниС подстановки бэкдоров Π² ΠΌΠΎΠ΄Π΅Π»ΠΈ машинного обучСния.

Π‘ Π΄Ρ€ΡƒΠ³ΠΎΠΉ стороны публикация исходных Π΄Π°Π½Π½Ρ‹Ρ… Π²ΠΎ ΠΌΠ½ΠΎΠ³ΠΈΡ… случаях Π½Π΅Π²ΠΎΠ·ΠΌΠΎΠΆΠ½Π° Π² силу ΠΏΡ€ΠΈΡ‡ΠΈΠ½, Π½Π΅ зависящих ΠΎΡ‚ Ρ€Π°Π·Ρ€Π°Π±ΠΎΡ‚Ρ‡ΠΈΠΊΠ° AI-ΠΌΠΎΠ΄Π΅Π»ΠΈ, Ρ‚Π°ΠΊΠΈΡ… ΠΊΠ°ΠΊ Π½Π΅ΠΎΠ±Ρ…ΠΎΠ΄ΠΈΠΌΠΎΡΡ‚ΡŒ сохранСния ΠΊΠΎΠ½Ρ„ΠΈΠ΄Π΅Π½Ρ†ΠΈΠ°Π»ΡŒΠ½ΠΎΡΡ‚ΠΈ, использованиС ΠΌΠ°Ρ‚Π΅Ρ€ΠΈΠ°Π»ΠΎΠ², Π·Π°Ρ‰ΠΈΡ‰Ρ‘Π½Π½Ρ‹Ρ… авторским ΠΏΡ€Π°Π²ΠΎΠΌ, Π»ΠΈΡ†Π΅Π½Π·ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠ΅ Π΄Π°Π½Π½Ρ‹Ρ… Ρƒ сторонних поставщиков ΠΈ Ρ‚.ΠΏ. По мнСнию ΠΊΡ€ΠΈΡ‚ΠΈΠΊΠΎΠ² принятого опрСдСлСния, ΠΏΠΎΠ΄ΠΎΠ±Π½Ρ‹Π΅ ΠΏΡ€ΠΎΠ±Π»Π΅ΠΌΡ‹ Π½Π΅ ΡΠ²Π»ΡΡŽΡ‚ΡΡ основаниСм для приниТСния ΠΈ обСсцСнивания понятия Open Source.

Π‘Ρ€Π΅Π΄Π»ΠΈ ΠšΡƒΠ½ Π½Π°ΠΌΠ΅Ρ€Π΅Π½ ΡƒΡ‡Π°ΡΡ‚Π²ΠΎΠ²Π°Ρ‚ΡŒ Π² ΡΠ»Π΅Π΄ΡƒΡŽΡ‰ΠΈΡ… Π²Ρ‹Π±ΠΎΡ€Π°Ρ… руководства OSI ΠΈ ΠΏΠΎΠΏΡ‹Ρ‚Π°Ρ‚ΡŒΡΡ Π²ΠΎΠΉΡ‚ΠΈ Π² совСт Π΄ΠΈΡ€Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² для Ρ‚ΠΎΠ³ΠΎ Ρ‡Ρ‚ΠΎΠ±Ρ‹ Π΄ΠΎΠ±ΠΈΡ‚ΡŒΡΡ ΠΎΡ‚ΠΌΠ΅Π½Ρ‹ принятого опрСдСлСния ΠΈ ΠΏΠ΅Ρ€Π΅Π²ΠΎΠ΄Π° Π΅Π³ΠΎ Π² разряд Ρ€Π΅ΠΊΠΎΠΌΠ΅Π½Π΄Π°Ρ†ΠΈΠΉ. ΠšΡ€ΠΎΠΌΠ΅ ΠΎΡ€Π³Π°Π½ΠΈΠ·Π°Ρ†ΠΈΠΈ Software Freedom Conservancy своё нСсогласиС с ΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½ΠΈΠ΅ΠΌ ΠΎΡ‚ΠΊΡ€Ρ‹Ρ‚ΠΎΠ³ΠΎ AI высказали Π½Π΅ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Ρ… Ρ€Π°Π·Ρ€Π°Π±ΠΎΡ‚Ρ‡ΠΈΠΊΠΈ ΠΏΡ€ΠΎΠ΅ΠΊΡ‚Π° Debian, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ выступили с ΠΈΠ½ΠΈΡ†ΠΈΠ°Ρ‚ΠΈΠ²ΠΎΠΉ провСдСния ΠΎΠ±Ρ‰Π΅Π³ΠΎ голосования для привлСчСния внимания ΠΊ ΠΏΡ€ΠΎΠ±Π»Π΅ΠΌΠ΅. Над своим ΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½ΠΈΠ΅ΠΌ свободной AI-систСмы Ρ‚Π°ΠΊΠΆΠ΅ Ρ€Π°Π±ΠΎΡ‚Π°Π΅Ρ‚ Π€ΠΎΠ½Π΄ БПО, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ Π½Π°ΠΌΠ΅Ρ€Π΅Π½ ввСсти Π² своё ΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½ΠΈΠ΅ Ρ‚Ρ€Π΅Π±ΠΎΠ²Π°Π½ΠΈΠ΅ доступности всСх Π΄Π°Π½Π½Ρ‹Ρ…, Π½ΠΎ ΠΏΡ€ΠΈ этом ΠΏΡ€ΠΈΠ·Π½Π°Ρ‘Ρ‚ Π½Π°Π»ΠΈΡ‡ΠΈΠ΅ этичСских ΠΏΡ€ΠΈΡ‡ΠΈΠ½, Π½Π΅ ΠΏΠΎΠ·Π²ΠΎΠ»ΡΡŽΡ‰ΠΈΡ… Π² Π½Π΅ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Ρ… случаях Ρ€Π°ΡΠΊΡ€Ρ‹Π²Π°Ρ‚ΡŒ Π΄Π°Π½Π½Ρ‹Π΅ (Π½Π°ΠΏΡ€ΠΈΠΌΠ΅Ρ€, Ссли ΠΏΡ€ΠΈ ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠΈ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Π½Ρ‹ мСдицинскиС ΠΈΠ»ΠΈ ΠΏΠ΅Ρ€ΡΠΎΠ½Π°Π»ΡŒΠ½Ρ‹Π΅ Π΄Π°Π½Π½Ρ‹Π΅).

Π˜ΡΡ‚ΠΎΡ‡Π½ΠΈΠΊ: opennet.ru