{"id":120442,"date":"2024-11-01T01:09:22","date_gmt":"2024-10-31T23:09:22","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/inicziativa-po-otmene-opredeleniya-otkrytoj-ai-sistemy-kak-obesczenivayushhego-ponyatie-open-source"},"modified":"2024-11-01T01:09:22","modified_gmt":"2024-10-31T23:09:22","slug":"inicziativa-po-otmene-opredeleniya-otkrytoj-ai-sistemy-kak-obesczenivayushhego-ponyatie-open-source","status":"publish","type":"post","link":"https:\/\/prohoster.info\/de\/blog\/novosti-interneta\/inicziativa-po-otmene-opredeleniya-otkrytoj-ai-sistemy-kak-obesczenivayushhego-ponyatie-open-source","title":{"rendered":"Initiative zur Streichung der Definition offener KI-Systeme als abwertende Interpretation des Begriffs Open Source","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Bradley Kuhn, Gesch\u00e4ftsf\u00fchrer und Mitbegr\u00fcnder der gemeinn\u00fctzigen Organisation Software Freedom Conservancy (SFC), \u00e4u\u00dferte Kritik an der k\u00fcrzlich von der OSI (Open Source Initiative) ver\u00f6ffentlichten Definition offener KI-Systeme. Laut Kuhn hat die OSI zu schnell die endg\u00fcltige Version der Definition ver\u00f6ffentlicht und diese ohne umfassende Diskussion in der Anfangsphase der Entwicklung solcher Systeme genehmigt. Zum Vergleich wurde die Definition von Open Source nach vielen Jahren des Nachdenkens und Diskutierens festgelegt. Was die ver\u00f6ffentlichte Definition offener KI-Systeme betrifft, h\u00e4tte sie in dieser Phase eher als Empfehlung bezeichnet werden sollen. <\/p>\n
Kuhn bef\u00fcrchtet, dass die aktuell formulierten Kriterien f\u00fcr Open AI weitreichende Folgen haben werden, den Begriff Open Source untergraben und die Gemeinschaft spalten k\u00f6nnten. Das Problem ist, dass die OSI-Organisation entgegen der Einw\u00e4nde einen Kompromiss eingegangen ist und die Anforderung, Daten bereitzustellen, die zum Trainieren des Modells verwendet wurden, nicht aufgenommen hat. Der Grund f\u00fcr diesen Kompromiss liegt darin, dass, wenn eine solche Klausel hinzugef\u00fcgt w\u00fcrde, kein bestehendes gro\u00dfes Sprachmodell den Status 'offen' erhalten k\u00f6nnte. <\/p>\n
Laut OSI wird die Definition eines offenen AI-Systems, die die bestehenden Realit\u00e4ten ber\u00fccksichtigt, dazu beitragen, Manipulationen der Hersteller mit dem Begriff \u201eoffen\u201c zu verhindern. In einem unsicheren Umfeld werden Modelle h\u00e4ufig als offen bezeichnet, nur weil ihre Gewichtungen verf\u00fcgbar sind, selbst wenn die Lizenz des Modells den Anwendungsbereich einschr\u00e4nkt (zum Beispiel verbieten viele Modelle die Nutzung in kommerziellen Projekten) und keine Details zur Implementierung offengelegt werden. <\/p>\n
In der genehmigten OSI-Definition eines offenen KI-Systems ist lediglich die Bereitstellung detaillierter Informationen \u00fcber die verwendeten Trainingsdaten erforderlich, nicht jedoch die Daten selbst. Ohne die Bereitstellung der Originaldaten, auf denen das Modell trainiert wurde, ist es jedoch unm\u00f6glich, ein KI-System vollst\u00e4ndig zu reproduzieren, was dem Konzept des Open Source widerspricht. Daher betrachtet die OSI-Organisation das KI-Modell nur als Technologie und nicht als ein vollst\u00e4ndiges Produkt. <\/p>\n
Das tats\u00e4chlich akzeptierte Definition eines offenen AI-Systems bietet garantiert nur zwei der vier deklarierten Freiheiten von Open Source \u2013 die M\u00f6glichkeit der Nutzung und der Verbreitung, w\u00e4hrend die M\u00f6glichkeiten zur Ver\u00e4nderung und zum Studium nicht vollst\u00e4ndig gew\u00e4hrleistet sind. Dar\u00fcber hinaus erschwert das Fehlen der Quelldaten die Identifizierung von Backdoor-Einsch\u00fcbe in Maschinenlernmodellen. <\/p>\n
Andererseits ist die Ver\u00f6ffentlichung von Rohdaten in vielen F\u00e4llen aufgrund von Gr\u00fcnden, die nicht im Einflussbereich des KI-Modellentwicklers liegen, unm\u00f6glich, wie die Notwendigkeit, Vertraulichkeit zu wahren, die Nutzung urheberrechtlich gesch\u00fctzter Materialien, die Lizenzierung von Daten von Drittanbietern usw. Kritiker der akzeptierten Definition sind der Ansicht, dass solche Probleme kein Grund sind, das Konzept \u201aOpen Source\u2018 zu schm\u00e4lern oder abzuwerten. <\/p>\n
Bradley Kuhn plant, an den n\u00e4chsten Wahlen zur OSI-F\u00fchrung teilzunehmen und versucht, in den Vorstand einzutreten, um die Annahme der Definition r\u00fcckg\u00e4ngig zu machen und diese in den Status einer Empfehlung zu \u00fcberf\u00fchren. Neben der Software Freedom Conservancy haben auch einige Entwickler des Debian-Projekts ihr Missfallen \u00fcber die Definition von offenem KI ge\u00e4u\u00dfert und eine Initiative zur Durchf\u00fchrung einer allgemeinen Abstimmung ins Leben gerufen, um auf das Problem aufmerksam zu machen. Der Open Source Foundation wird ebenfalls an seiner Definition eines freien KI-Systems arbeiten, das die Anforderung an die Verf\u00fcgbarkeit aller Daten beinhalten soll, jedoch die ethischen Gr\u00fcnde anerkennt, die in bestimmten F\u00e4llen eine Offenlegung der Daten verhindern (zum Beispiel, wenn medizinische oder pers\u00f6nliche Daten beim Training verwendet wurden). \n Quelle: opennet.ru<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"