{"id":119093,"date":"2024-08-06T09:43:09","date_gmt":"2024-08-06T07:43:10","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/google-eksperimentiruet-so-vstraivaniem-v-chrome-bolshoj-yazykovoj-modeli"},"modified":"2024-08-06T09:43:09","modified_gmt":"2024-08-06T07:43:10","slug":"google-eksperimentiruet-so-vstraivaniem-v-chrome-bolshoj-yazykovoj-modeli","status":"publish","type":"post","link":"https:\/\/prohoster.info\/de\/blog\/news\/google-eksperimentiruet-so-vstraivaniem-v-chrome-bolshoj-yazykovoj-modeli","title":{"rendered":"Google experimentiert mit der Integration eines gro\u00dfen Sprachmodells in Chrome.","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Die Firma Google hat ein Experiment zur Integration eines gro\u00dfen Sprachmodells f\u00fcr maschinelles Lernen in Chrome angek\u00fcndigt. F\u00fcr den Zugriff auf das Modell aus Webanwendungen und Browsererweiterungen wurde eine API Prompt vorgeschlagen, die es erm\u00f6glicht, Anfragen in nat\u00fcrlicher Sprache zu senden, \u00e4hnlich wie bei Chatbots. Es wird angenommen, dass das im Browser integrierte gro\u00dfe Sprachmodell die Ausf\u00fchrung von KI-Aufgaben in Webanwendungen erleichtert und die Installation und Verwaltung von Sprachmodellen \u00fcberfl\u00fcssig macht. <\/p>\n
Im durchgef\u00fchrten Experiment wird das Modell Gemini Nano eingesetzt, das kompakteste Modell der Gemini-Familie. Au\u00dferdem besteht die M\u00f6glichkeit, Expertenmodelle zu installieren, die das Basismodell mit zus\u00e4tzlichen Kenntnissen erweitern, die zur L\u00f6sung spezifischer Aufgaben erforderlich sein k\u00f6nnten, sowie zur Implementierung von F\u00e4higkeiten wie maschineller \u00dcbersetzung und Zusammenfassung. Die Modelle werden lokal auf dem System des Benutzers ausgef\u00fchrt, ohne auf externe Dienste zugreifen zu m\u00fcssen. <\/p>\n
Das zur Ausf\u00fchrung des Modells verwendete Runtime aktiviert automatisch die im System verf\u00fcgbaren GPUs und NPUs, um die Bearbeitungsgeschwindigkeit des Modells zu erh\u00f6hen, oder wechselt zur Ausf\u00fchrung des Modells unter Verwendung der CPU. Zu den Vorteilen der Ausf\u00fchrung des Modells auf dem System des Benutzers geh\u00f6rt der Erhalt der Vertraulichkeit der verarbeiteten Daten, die M\u00f6glichkeit, im Offline-Modus zu arbeiten, wenn keine Netzwerkverbindung besteht oder Qualit\u00e4tsprobleme auftreten, die Verringerung von Latenzen bei der Absendung von Anfragen und die Beseitigung der Abh\u00e4ngigkeit von externen Diensten.
<\/center> <\/p>\n
Die f\u00fcr die Interaktion mit dem Modell entwickelte API Prompt erm\u00f6glicht es, nicht nur einfachste Einzelanfragen in nat\u00fcrlicher Sprache auszuf\u00fchren, sondern auch die Einbeziehung des Modells zur Verarbeitung und Klassifizierung von Daten im Kontext zu organisieren, fr\u00fchere Anfragen und Daten im Verlauf des Sitzung zu ber\u00fccksichtigen sowie das Modell f\u00fcr die Auswahl optimaler Optionen zu verwenden (z. B. kann man darum bitten, ein Emoji aus einer Liste f\u00fcr einen bestimmten Kommentar auf der Website auszuw\u00e4hlen). Dar\u00fcber hinaus ist geplant, die API f\u00fcr die Erstellung von Inhalten und zur L\u00f6sung von Aufgaben wie Neuformulierung, Korrekturlesen und Grammatikpr\u00fcfung weiterzuentwickeln. <\/p>\n
Im Allgemeinen werden zur Interaktion mit dem eingebetteten AI-Modell zwei Arten von APIs entwickelt \u2013 Task und Exploratory. Die erste bietet Zugang zu Funktionen zur L\u00f6sung bestimmter Aufgaben, wie z.B. die \u00dcbersetzung von Texten von einer Sprache in eine andere (API Translation) oder die Zusammenfassung des Hauptinhalts eines Textes (API Summarization). Der zweite Typ zielt darauf ab, experimentelle Prototypen bei der Entwicklung neuer Task APIs zu erstellen und zu \u00fcberpr\u00fcfen. Au\u00dferdem wird an der API LoRA (Low-Rank Adaptation) gearbeitet, um die Gewichtungskoeffizienten des Basis-Modells anzupassen und die Effizienz bei der L\u00f6sung bestimmter Aufgaben zu steigern. <\/p>\n
Der Zugang zur Teilnahme am Experiment wird nach dem Ausf\u00fcllen eines Antrags gew\u00e4hrt. Die API befindet sich in aktiver Entwicklung und wird bis zur Annahme der endg\u00fcltigen Version erweitert und ver\u00e4ndert, um den R\u00fcckmeldungen und Vorlieben der Benutzer Rechnung zu tragen. In Zukunft wird geplant, ein zug\u00e4nglicheres Testverfahren unter Verwendung des Modus Origin Trials zu organisieren, das die M\u00f6glichkeit bietet, mit experimentellen APIs aus Anwendungen zu arbeiten, die von localhost oder 127.0.0.1 geladen werden, oder nach der Registrierung und dem Erhalt eines speziellen Tokens, das f\u00fcr einen bestimmten Zeitraum f\u00fcr eine bestimmte Website g\u00fcltig ist. Parallel dazu wird mit anderen Browserherstellern an einer Standardisierung der entwickelten APIs gearbeitet. \n Quelle: opennet.ru<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"
![\"Google](\"\/wp-content\/uploads\/2024\/08\/edbc591694c84e4f7e95c0b7dea053d4.jpg\")
<\/center> <\/p>\n