Bradley M. Kuhn, dyrektor wykonawczy i jeden z założycieli organizacji broniącej praw Software Freedom Conservancy (SFC), skrytykował niedawno opublikowaną przez organizację OSI (Open Source Initiative) definicję otwartych systemów AI (Open Source AI). Według Kuna organizacja OSI przedwcześnie opublikowała ostateczną wersję definicji i zatwierdziła ją bez długotrwałej, wszechstronnej dyskusji na wczesnym etapie rozwoju tych systemów. Dla porównania, definicja Open Source została podana po wielu latach refleksji i dyskusji. Co do opublikowanej definicji otwartego systemu AI, na tym etapie powinno się ją nazwać nie definicją, a zaleceniem.
Kuhn obawia się, że przyjęte w obecnej formie kryteria otwartego AI będą miały dalekosiężne konsekwencje, podważą autorytet terminu Open Source i doprowadzą do podziału społeczności. Problem polega na tym, że wbrew zastrzeżeniom organizacja OSI poszła na kompromis i nie uwzględniła wymagania dotyczącego udostępnienia danych użytych do trenowania modelu. Powodem kompromisu było to, że w przypadku dodania takiego punktu, żaden z istniejących dużych modeli językowych nie mógłby uzyskać statusu otwartego.
Według OSI prowadzenie definicji otwartego systemu AI, uwzględniającego istniejące realia, pozwoli na zapobieganie manipulacjom producentów z terminem „otwarty”, którzy w warunkach niepewności nazywają otwartymi modele tylko na podstawie dostępności wag, nawet jeśli licencja na model ogranicza zakres jego użycia (na przykład wiele modeli zabrania stosowania w projektach komercyjnych) i nie ujawniają szczegółów implementacji.
W zatwierdzonej przez OSI definicji otwartego systemu AI wymaga się jedynie dostarczenia szczegółowych informacji na temat danych użytych do treningu, ale nie samych danych. Bez udostępnienia surowych danych, na których trenowany jest model, niemożliwe jest całkowite odtworzenie systemu AI, co jest sprzeczne z koncepcją otwartego kodu źródłowego. W ten sposób organizacja OSI ograniczyła się do rozważania modelu AI jedynie jako technologii i nie zajęła się nimi jako całościowym produktem.
Faktycznie przyjęta definicja otwartego systemu AI gwarantuje jedynie dwie z czterech zadeklarowanych wolności Open Source — możliwość używania i możliwość rozpowszechniania, podczas gdy możliwości zmieniania i badania nie są w pełni zapewnione. Ponadto brak danych źródłowych utrudnia identyfikację substytucji backdoorów w modelach uczenia maszynowego.
Z drugiej strony publikacja danych źródłowych w wielu przypadkach jest niemożliwa z powodów niezależnych od twórcy modelu AI, takich jak konieczność zachowania poufności, korzystanie z materiałów chronionych prawem autorskim, licencjonowanie danych od zewnętrznych dostawców itp. W opinii krytyków przyjętej definicji takie problemy nie są podstawą do deprecjonowania i umniejszania znaczenia pojęcia Open Source.
Bradley Kun zamierza wziąć udział w kolejnych wyborach zarządu OSI i starać się wejść do rady dyrektorów, aby doprowadzić do zniesienia przyjętej definicji i przekształcenia jej w rekomendację. Oprócz organizacji Software Freedom Conservancy, swoje niezadowolenie z definicji otwartego AI wyrazili niektórzy deweloperzy projektu Debian, którzy wystąpili z inicjatywą przeprowadzenia ogólnego głosowania, aby zwrócić uwagę na problem. Nad swoją definicją wolnego systemu AI pracuje również Fundacja Otwartych Danych, która zamierza wprowadzić wymóg dostępności wszystkich danych, ale równocześnie uznaje istnienie powodów etycznych, które w niektórych przypadkach uniemożliwiają ujawnienie danych (na przykład, gdy podczas szkolenia użyto danych medycznych lub osobowych).
Źródło: opennet.ru
