{"id":116805,"date":"2024-06-27T18:05:52","date_gmt":"2024-06-27T16:05:52","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/rejting-otkrytosti-generativnyh-ai-modelej"},"modified":"2024-06-27T18:05:52","modified_gmt":"2024-06-27T16:05:52","slug":"rejting-otkrytosti-generativnyh-ai-modelej","status":"publish","type":"post","link":"https:\/\/prohoster.info\/de\/blog\/novosti-interneta\/rejting-otkrytosti-generativnyh-ai-modelej","title":{"rendered":"Bewertung der Offenheit von generativen KI-Modellen","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Forscher der Radboud-Universit\u00e4t Nijmegen (Niederlande) haben eine Bewertung der Offenheit von 40 gro\u00dfen Sprachmodellen und 7 Modellen zur Bildgenerierung aus Textbeschreibungen erstellt, die von den Herstellern als offen deklariert werden. Da die Kriterien f\u00fcr die Offenheit von Maschinenlernmodellen noch in der Entwicklung sind, gibt es derzeit eine Situation, in der unter dem Deckmantel der Offenheit Modelle verbreitet werden, die Lizenzen besitzen, die den Anwendungsbereich einschr\u00e4nken (zum Beispiel verbieten viele Modelle die Nutzung in kommerziellen Projekten). Zudem gew\u00e4hren Hersteller oft keinen Zugang zu den f\u00fcr das Training verwendeten Daten, offenbaren nicht die Implementierungsdetails oder stellen den zugeh\u00f6rigen Code nicht vollst\u00e4ndig zur Verf\u00fcgung.<\/p>\n
Die meisten Modelle, die als \u201eoffen\u201c beworben werden, sollten eher als \u201eoffene Gewichtungen\u201c oder genauer als \u201everf\u00fcgbare Gewichtungen\u201c betrachtet werden, da sie unter einschr\u00e4nkenden Lizenzen stehen, die die Nutzung in kommerziellen Produkten untersagen. Dritte Forscher k\u00f6nnen mit solchen Modellen experimentieren, haben jedoch keine M\u00f6glichkeit, das Modell an ihre Bed\u00fcrfnisse anzupassen oder die Implementierung zu inspizieren. Mehr als die H\u00e4lfte der Modelle bietet keine detaillierten Informationen zu den f\u00fcr das Training verwendeten Daten und ver\u00f6ffentlicht auch keine Informationen zur internen Struktur und Architektur.<\/p>\n
Die am meisten als offen anerkannten Modelle sind BloomZ, AmberChat, OLMo, Open Assistant und Stable Diffusion, die unter offenen Lizenzen ver\u00f6ffentlicht wurden, zusammen mit den Trainingsdaten, dem Code und der API-Implementierung. Modelle von Google (Gemma 7B), Microsoft (Orca 2) und Meta (Llama 3), die von den Herstellern als offen positioniert werden, befinden sich hingegen am Ende der Rangliste, da sie keinen Zugang zu den Trainingsdaten bieten, technische Implementierungsdetails nicht offenlegen und die Gewichtungen der Modelle unter Lizenzen verteilen, die den Nutzungsbereich einschr\u00e4nken. Das beliebte Modell Mistral 7B hat es auf etwa die Mitte der Rangliste geschafft, da es unter einer offenen Lizenz bereitgestellt wird, jedoch nur teilweise dokumentiert ist, die verwendeten Trainingsdaten nicht offenlegt und den begleitenden Code nicht vollst\u00e4ndig offen bereitstellt.<\/p>\n
Forscher haben 14 Kriterien f\u00fcr die Offenheit von KI-Modellen vorgeschlagen, die die Bedingungen f\u00fcr die Verbreitung von Code, Trainingsdaten, Gewichtungen, Datenvarianten und Faktoren, die durch Reinforcement Learning (RL) optimiert wurden, sowie das Vorhandensein von einsatzbereiten Paketen, APIs, Dokumentation und detaillierten Beschreibungen der Implementierung umfassen.<\/p>\n
<\/center><\/p>\n
<\/center><\/p>\n
Gem\u00e4\u00df dem Entwurf der Open Source Initiative (OSI) f\u00fcr die Definition von Open AI sind die wesentlichen Kriterien f\u00fcr die Offenheit von AI-Systemen die Bereitstellung von M\u00f6glichkeiten zur Nutzung f\u00fcr alle Zwecke ohne die Notwendigkeit, eine separate Genehmigung einzuholen; das Studium der Funktionsweise des Systems und die Inspektion seiner Komponenten; die M\u00f6glichkeit von \u00c4nderungen f\u00fcr beliebige Zwecke; die Weitergabe an Dritte sowohl in der Originalversion als auch in einer bearbeiteten Version nach \u00c4nderungen.<\/p>\n
Um \u00c4nderungen zu erm\u00f6glichen, muss das AI-System Folgendes umfassen:<\/p>\n
\n
Detaillierte Informationen zu den verwendeten Daten und der Lernmethodologie. Die Informationen sollten ausreichend sein, damit ein professioneller Entwickler in der Lage ist, ein entsprechendes KI-System aus denselben oder \u00e4hnlichen Daten selbst zu rekonstruieren.\n
Der Quellcode, der es erm\u00f6glicht, sowohl das AI-System zu starten als auch den Trainingsprozess durchzuf\u00fchren, sollte zur Verf\u00fcgung stehen (in der oben behandelten Tabelle ist in der Spalte \u201eCode\u201c bei vielen Modellen \u201e~\u201c angegeben, was darauf hindeutet, dass Code teilweise vorhanden ist, wenn der Code zum Starten des Modells verf\u00fcgbar ist, aber der Code f\u00fcr das Training oder die Erstellung des Modells fehlt). Der Code sollte auch Bereiche wie Preprocessing, Datenpr\u00fcfung und Tokenisierung abdecken. Zus\u00e4tzlich sollte eine detaillierte Beschreibung der Modellarchitektur bereitgestellt werden.\n
Die Modellparameter (Gewichtungskoeffizienten), die einen einsatzbereiten Zustand nach dem Training oder eine final optimierte Version des Modells implizieren.\n<\/ul>\n
![\"Bewertung](\"\/wp-content\/uploads\/2024\/06\/7f2a777c3bad9a47eb7291149cd93e58.png\")
<\/center><\/p>\n![\"Bewertung](\"\/wp-content\/uploads\/2024\/06\/b4fa41ec1107a108831eb3772f35e05f.png\")
<\/center><\/p>\n