{"id":116805,"date":"2024-06-27T18:05:52","date_gmt":"2024-06-27T16:05:52","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/rejting-otkrytosti-generativnyh-ai-modelej"},"modified":"2024-06-27T18:05:52","modified_gmt":"2024-06-27T16:05:52","slug":"rejting-otkrytosti-generativnyh-ai-modelej","status":"publish","type":"post","link":"https:\/\/prohoster.info\/de\/blog\/news\/rejting-otkrytosti-generativnyh-ai-modelej","title":{"rendered":"Bewertung der Offenheit von generativen KI-Modellen","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Forscher der Universit\u00e4t Nijmegen (Niederlande) haben ein Ranking der Offenheit von 40 gro\u00dfen Sprachmodellen und 7 Modellen zur Generierung von Bildern aus Text beschrieben, die von den Herstellern als offen deklariert werden. Da die Kriterien f\u00fcr die Offenheit von Modellen des maschinellen Lernens noch in der Entwicklung sind, besteht derzeit die Situation, dass als offen verbreitete Modelle mit Lizenzen verkauft werden, die den Anwendungsbereich einschr\u00e4nken (zum Beispiel verbieten viele Modelle die Verwendung in kommerziellen Projekten). Zudem stellen Hersteller h\u00e4ufig keinen Zugang zu den verwendeten Trainingsdaten zur Verf\u00fcgung, geben keine Details zur Implementierung preis oder \u00f6ffnen nicht den vollst\u00e4ndigen begleitenden Code.<\/p>\n
Die meisten Modelle, die als \u201eoffen\u201c positioniert sind, sollten in der Tat als \u201eoffene Gewichtungskoeffizienten\u201c oder genauer als \u201everf\u00fcgbare Gewichtungskoeffizienten\u201c betrachtet werden, da sie unter restriktiven Lizenzen verbreitet werden, die die Nutzung in kommerziellen Produkten verbieten. Dritte Forscher k\u00f6nnen mit solchen Modellen experimentieren, haben jedoch keine M\u00f6glichkeit, das Modell an ihre Bed\u00fcrfnisse anzupassen oder die Implementierung zu inspizieren. Mehr als die H\u00e4lfte der Modelle bieten keine detaillierten Informationen zu den Daten, die f\u00fcr das Training verwendet wurden, und ver\u00f6ffentlichen auch keine Informationen \u00fcber die interne Struktur und Architektur.<\/p>\n
Am offensten gelten die Modelle BloomZ, AmberChat, OLMo, Open Assistant und Stable Diffusion, die unter offenen Lizenzen zusammen mit den Quellcodes, Daten und der API-Implementierung ver\u00f6ffentlicht wurden. Modelle von Google (Gemma 7B), Microsoft (Orca 2) und Meta (Llama 3), die von den Herstellern als offen positioniert werden, landeten am Ende des Rankings, da sie keinen Zugang zu den Quelldaten bieten, technische Details zur Implementierung nicht offenlegen und die Gewichtungen des Modells unter Lizenzen verbreiten, die den Anwendungsbereich einschr\u00e4nken. Das beliebte Modell Mistral 7B befindet sich etwa in der Mitte des Rankings, da es unter einer offenen Lizenz bereitgestellt wird, jedoch nur teilweise dokumentiert ist, keine Informationen \u00fcber die verwendeten Trainingsdaten preisgibt und nicht vollst\u00e4ndig offenen begleitenden Code hat.<\/p>\n
Forschende haben 14 Kriterien f\u00fcr die Offenheit von KI-Modellen vorgeschlagen, die Bedingungen f\u00fcr die Verbreitung von Code, Trainingsdaten, Gewichtungsfaktoren, Datenvarianten und faktoren, die durch Reinforcement Learning (RL) optimiert wurden, sowie die Verf\u00fcgbarkeit von einsatzbereiten Paketen, APIs, Dokumentationen und detaillierten Implementierungsbeschreibungen umfassen.<\/p>\n
<\/center><\/p>\n
<\/center><\/p>\n
Gem\u00e4\u00df dem von der OSI (Open Source Initiative) vorgeschlagenen Entwurf zur Definition von offener KI sind die Hauptkriterien f\u00fcr die Offenheit eines KI-Systems die Bereitstellung der M\u00f6glichkeit zur Nutzung f\u00fcr beliebige Zwecke ohne die Notwendigkeit, eine separate Erlaubnis zu erhalten; das Studium der Funktionsweise des Systems und die Inspektion seiner Komponenten; die M\u00f6glichkeit zur \u00c4nderung zu beliebigen Zwecken; sowie die \u00dcbertragung an Dritte sowohl der Originalversion als auch der bearbeiteten Fassung nach \u00c4nderungen.<\/p>\n
Um die M\u00f6glichkeit zur Durchf\u00fchrung von \u00c4nderungen zu bieten, sollte das KI-System Folgendes beinhalten:<\/p>\n
\n
Detaillierte Informationen \u00fcber die f\u00fcr das Training verwendeten Daten und die Methodologie des Trainings. Die Informationen m\u00fcssen ausreichend sein, damit ein professioneller Entwickler in der Lage ist, ein entsprechendes KI-System mit denselben oder \u00e4hnlichen Daten selbst zu rekonstruieren.\n
Das Vorhandensein von Quellcode, der sowohl das Starten des KI-Systems als auch den Trainingsprozess erm\u00f6glicht (in der oben beschriebenen Tabelle ist in der Spalte \u201eCode\u201c bei vielen Modellen ein \u201e~\u201c angegeben, was auf partielle Verf\u00fcgbarkeit des Codes hinweist, da der Code zum Starten des Modells verf\u00fcgbar ist, jedoch der Code zum Trainieren oder Erstellen des Modells fehlt). Der Code sollte auch Bereiche wie Vorverarbeitung, Datenvalidierung und Tokenisierung abdecken. Dar\u00fcber hinaus sollte eine detaillierte Beschreibung der Architektur des Modells bereitgestellt werden.\n
Die Modelparameter (Gewichtsfaktoren), die darauf hindeuten, dass ein einsatzbereiter Snapshot des Status nach dem Training oder eine finale optimierte Version des Modells vorliegt.\n<\/ul>\n
![\"Bewertung](\"\/wp-content\/uploads\/2024\/06\/7f2a777c3bad9a47eb7291149cd93e58.png\")
<\/center><\/p>\n![\"Bewertung](\"\/wp-content\/uploads\/2024\/06\/b4fa41ec1107a108831eb3772f35e05f.png\")
<\/center><\/p>\n