{"id":114737,"date":"2024-04-03T00:25:44","date_gmt":"2024-04-02T22:25:47","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/databricks-otkryl-bolshuyu-yazykovuyu-model-dbrx-operezhayushhuyu-v-testah-gpt-3-5"},"modified":"2024-04-03T00:25:44","modified_gmt":"2024-04-02T22:25:47","slug":"databricks-otkryl-bolshuyu-yazykovuyu-model-dbrx-operezhayushhuyu-v-testah-gpt-3-5","status":"publish","type":"post","link":"https:\/\/prohoster.info\/pl\/blog\/news\/databricks-otkryl-bolshuyu-yazykovuyu-model-dbrx-operezhayushhuyu-v-testah-gpt-3-5","title":{"rendered":"Databricks wprowadzi\u0142 du\u017c\u0105 model j\u0119zykowy DBRX, kt\u00f3ry przewy\u017csza w testach GPT-3.5","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

Firma Databricks og\u0142osi\u0142a wprowadzenie du\u017cego modelu j\u0119zykowego DBRX, kt\u00f3ry mo\u017ce by\u0107 wykorzystywany do tworzenia chatbot\u00f3w odpowiadaj\u0105cych na pytania w naturalnym j\u0119zyku, rozwi\u0105zuj\u0105cych zadania matematyczne, generuj\u0105cych tre\u015bci na okre\u015blony temat oraz tworz\u0105cych kod w r\u00f3\u017cnych j\u0119zykach programowania. Model zosta\u0142 stworzony przez firm\u0119 Mosaic ML, kt\u00f3ra zosta\u0142a kupiona przez Databricks za 1,3 miliarda dolar\u00f3w. Do treningu wykorzystano klaster sk\u0142adaj\u0105cy si\u0119 z 3072 GPU NVIDIA H100 Tensor Core. Aby uruchomi\u0107 gotowy model, zaleca si\u0119 320 GB pami\u0119ci. <\/p>\n

Podczas szkolenia modelu zastosowano architektur\u0119 MoE (Mixture of Experts), kt\u00f3ra pozwala uzyska\u0107 dok\u0142adniejsz\u0105 ocen\u0119 ekspert\u00f3w, oraz kolekcj\u0119 tekst\u00f3w i kodu o wielko\u015bci 12 TB. Rozmiar kontekstu brany pod uwag\u0119 przez model DBRX wynosi 32 tysi\u0105ce token\u00f3w (liczba token\u00f3w, kt\u00f3re model mo\u017ce przetworzy\u0107 i zapami\u0119ta\u0107 podczas generowania tekstu). Dla por\u00f3wnania, rozmiar kontekstu modeli Google Gemini i OpenAI GPT-4 wynosi 32 tysi\u0105ce token\u00f3w, Google Gemma \u2014 8 tysi\u0119cy, a model GPT-4 Turbo \u2014 128 tysi\u0119cy. <\/p>\n

Model obejmuje 132 miliardy parametr\u00f3w i jest podzielony na 16 sieci ekspert\u00f3w, z kt\u00f3rych podczas przetwarzania zapytania mog\u0105 by\u0107 u\u017cywane maksymalnie 4 (zakres nie przekraczaj\u0105cy 36 miliard\u00f3w parametr\u00f3w dla ka\u017cdego tokena). Dla por\u00f3wnania, model GPT-4 prawdopodobnie obejmuje 1,76 biliona parametr\u00f3w, niedawno zaprezentowany model Grok (X\/Twitter) \u2014 314 miliard\u00f3w, GPT-3.5 \u2014 175 miliard\u00f3w, YaLM (Yandex) \u2014 100 miliard\u00f3w, LLaMA (Meta) \u2014 65 miliard\u00f3w, GigaChat (Sber) \u2014 29 miliard\u00f3w, Gemma (Google) \u2014 7 miliard\u00f3w. <\/p>\n

Model i zwi\u0105zane z nim komponenty s\u0105 dystrybuowane na licencji Databricks Open Model License, kt\u00f3ra pozwala na u\u017cycie, reprodukcj\u0119, kopiowanie, modyfikacj\u0119 i tworzenie produkt\u00f3w pochodnych, ale z pewnymi ograniczeniami. Na przyk\u0142ad, licencja zabrania u\u017cywania DBRX, modeli pochodnych oraz jakichkolwiek wynik\u00f3w na ich podstawie do ulepszania innych modeli j\u0119zykowych, r\u00f3\u017cnych od DBRX. Licencja zabrania tak\u017ce u\u017cywania modelu w obszarach naruszaj\u0105cych przepisy prawa i regulacje. Modele pochodne musz\u0105 by\u0107 dystrybuowane na tej samej licencji. Przy u\u017cyciu w produktach i us\u0142ugach, z kt\u00f3rych korzysta ponad 700 mln u\u017cytkownik\u00f3w miesi\u0119cznie, wymagane jest uzyskanie osobnego zezwolenia. <\/p>\n

Wed\u0142ug tw\u00f3rc\u00f3w modelu, pod wzgl\u0119dem charakterystyki i mo\u017cliwo\u015bci DBRX przewy\u017csza modele GPT-3.5 od OpenAI i Grok-1 od Twittera, a tak\u017ce mo\u017ce konkurowa\u0107 z modelem Gemini 1.0 Pro przy testach rozumienia j\u0119zyka, mo\u017cliwo\u015bci pisania kodu w j\u0119zykach programowania oraz rozwi\u0105zywania zada\u0144 matematycznych. W niekt\u00f3rych zastosowaniach, na przyk\u0142ad przy generowaniu zapyta\u0144 SQL, DBRX zbli\u017ca si\u0119 wydajno\u015bci\u0105 do modelu GPT-4 Turbo, kt\u00f3ry dominuje na rynku. Ponadto model wyr\u00f3\u017cnia si\u0119 bardzo szybk\u0105 prac\u0105, umo\u017cliwiaj\u0105c formu\u0142owanie odpowiedzi niemal natychmiast. W szczeg\u00f3lno\u015bci DBRX mo\u017ce generowa\u0107 tekst z pr\u0119dko\u015bci\u0105 do 150 token\u00f3w na sekund\u0119 na jednego u\u017cytkownika, co jest oko\u0142o dwa razy szybsze ni\u017c model LLaMA2-70B.

\"Databricks<\/center>
\"Databricks<\/center> <\/p>\n

Dodatkowo warto zauwa\u017cy\u0107 publikacj\u0119 opisu technicznego otwartego du\u017cego modelu j\u0119zykowego InternLM2, kt\u00f3ry jest udost\u0119pniany na licencji Apache 2.0, dost\u0119pny w wersjach z 20, 7 i 1.8 miliardami parametr\u00f3w. Model jest rozwijany przez shanghajskie laboratorium sztucznej inteligencji przy wsp\u00f3\u0142pracy kilku chi\u0144skich uniwersytet\u00f3w i jest godny uwagi ze wzgl\u0119du na uwzgl\u0119dnienie do 200K token\u00f3w kontekstu oraz wsparcie nie tylko dla j\u0119zyka angielskiego, ale tak\u017ce chi\u0144skiego. W wielu testach model jest bliski GPT-4.

\"Databricks<\/center>
\"Databricks<\/center>
\"Databricks<\/center> <\/p>\n

Ponadto donosi si\u0119 o opracowaniu 84 nowych rdzeni mno\u017cenia macierzy dla narz\u0119dzia llamafile, rozwijanego przez Mozill\u0119, kt\u00f3re umo\u017cliwia tworzenie uniwersalnych plik\u00f3w wykonywalnych do uruchamiania du\u017cych modeli j\u0119zykowych (LLM). Zmiany pozwoli\u0142y znacznie przyspieszy\u0107 dzia\u0142anie modeli w llamafile podczas wykonywania na CPU. Na przyk\u0142ad, wykonywanie modeli przy u\u017cyciu llamafile jest teraz szybsze ni\u017c przy u\u017cyciu llama.cpp o 30% do 500%, w zale\u017cno\u015bci od \u015brodowiska, a w por\u00f3wnaniu do biblioteki MKL operacje macierzowe, kt\u00f3re mieszcz\u0105 si\u0119 w pami\u0119ci podr\u0119cznej L2, w nowej implementacji s\u0105 wykonywane dwa razy szybciej.
\n
\u0179r\u00f3d\u0142o: opennet.ru<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"

\u041a\u043e\u043c\u043f\u0430\u043d\u0438\u044f Databricks \u043e\u0431\u044a\u044f\u0432\u0438\u043b\u0430 \u043e\u0431 \u043e\u0442\u043a\u0440\u044b\u0442\u0438\u0438 \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u044f\u0437\u044b\u043a\u043e\u0432\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 DBRX, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0442\u044c\u0441\u044f \u0434\u043b\u044f \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u044f \u0447\u0430\u0442\u0431\u043e\u0442\u043e\u0432, \u043e\u0442\u0432\u0435\u0447\u0430\u044e\u0449\u0438\u0445 \u043d\u0430 \u0432\u043e\u043f\u0440\u043e\u0441\u044b \u043d\u0430 \u0435\u0441\u0442\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u043c \u044f\u0437\u044b\u043a\u0435, \u0440\u0435\u0448\u0430\u044e\u0449\u0438\u0445 \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u043d\u044b\u0435 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0437\u0430\u0434\u0430\u0447\u0438, \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u044b\u0445 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043a\u043e\u043d\u0442\u0435\u043d\u0442 \u043d\u0430 \u0437\u0430\u0434\u0430\u043d\u043d\u0443\u044e \u0442\u0435\u043c\u0443 \u0438 \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u0442\u044c \u043a\u043e\u0434 \u043d\u0430 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0445 \u044f\u0437\u044b\u043a\u0430\u0445 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f. \u041c\u043e\u0434\u0435\u043b\u044c \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0430\u043d\u0430 \u043a\u043e\u043c\u043f\u0430\u043d\u0438\u0435\u0439 Mosaic ML, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0431\u044b\u043b\u0430 \u043a\u0443\u043f\u043b\u0435\u043d\u0430 Databricks \u0437\u0430 1.3 \u043c\u043b\u0440\u0434 \u0434\u043e\u043b\u043b\u0430\u0440\u043e\u0432. \u0414\u043b\u044f \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0441\u044f \u043a\u043b\u0430\u0441\u0442\u0435\u0440 […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":114738,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-114737","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\n","aioseo_head_json":{"title":"\ud83e\udd47Databricks otworzy\u0142 du\u017cy model j\u0119zykowy DBRX, kt\u00f3ry przewy\u017csza w testach GPT-3.5 | ProHoster","description":"Firma Databricks og\u0142osi\u0142a otwarcie du\u017cego modelu j\u0119zykowego DBRX, kt\u00f3ry mo\u017ce by\u0107 u\u017cywany do tworzenia chatbot\u00f3w, odpowiadaj\u0105cych na pytania w naturalnym j\u0119zyku i rozwi\u0105zuj\u0105cych zadane problemy matematyczne.","canonical_url":"https:\/\/prohoster.info\/pl\/blog\/news\/databricks-otkryl-bolshuyu-yazykovuyu-model-dbrx-operezhayushhuyu-v-testah-gpt-3-5","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"pl_PL","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47Databricks \u043e\u0442\u043a\u0440\u044b\u043b \u0431\u043e\u043b\u044c\u0448\u0443\u044e \u044f\u0437\u044b\u043a\u043e\u0432\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c DBRX, \u043e\u043f\u0435\u0440\u0435\u0436\u0430\u044e\u0449\u0443\u044e \u0432 \u0442\u0435\u0441\u0442\u0430\u0445 GPT-3.5 | ProHoster","og:description":"\u041a\u043e\u043c\u043f\u0430\u043d\u0438\u044f Databricks \u043e\u0431\u044a\u044f\u0432\u0438\u043b\u0430 \u043e\u0431 \u043e\u0442\u043a\u0440\u044b\u0442\u0438\u0438 \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u044f\u0437\u044b\u043a\u043e\u0432\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 DBRX, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0442\u044c\u0441\u044f \u0434\u043b\u044f \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u044f \u0447\u0430\u0442\u0431\u043e\u0442\u043e\u0432, \u043e\u0442\u0432\u0435\u0447\u0430\u044e\u0449\u0438\u0445 \u043d\u0430 \u0432\u043e\u043f\u0440\u043e\u0441\u044b \u043d\u0430 \u0435\u0441\u0442\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u043c \u044f\u0437\u044b\u043a\u0435, \u0440\u0435\u0448\u0430\u044e\u0449\u0438\u0445 \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u043d\u044b\u0435 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0437\u0430\u0434\u0430\u0447\u0438.","og:url":"https:\/\/prohoster.info\/pl\/blog\/news\/databricks-otkryl-bolshuyu-yazykovuyu-model-dbrx-operezhayushhuyu-v-testah-gpt-3-5","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2024-04-02T22:25:47+00:00","article:modified_time":"2024-04-02T22:25:47+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"114737","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":"default","schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":"2026-01-22 21:17:19","breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2026-01-22 21:17:19","updated":"2026-01-22 21:17:19","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/posts\/114737","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/comments?post=114737"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/posts\/114737\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/media\/114738"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/media?parent=114737"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/categories?post=114737"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/tags?post=114737"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}