FlexGen แƒแƒ แƒ˜แƒก แƒซแƒ แƒแƒ•แƒ ChatGPT-แƒ˜แƒก แƒ›แƒกแƒ’แƒแƒ•แƒกแƒ˜ AI แƒ‘แƒแƒขแƒ”แƒ‘แƒ˜แƒก แƒ’แƒแƒกแƒแƒจแƒ•แƒ”แƒ‘แƒแƒ“ แƒ”แƒ แƒ— GPU แƒกแƒ˜แƒกแƒขแƒ”แƒ›แƒ”แƒ‘แƒ–แƒ”

แƒกแƒขแƒ”แƒœแƒคแƒแƒ แƒ“แƒ˜แƒก แƒฃแƒœแƒ˜แƒ•แƒ”แƒ แƒกแƒ˜แƒขแƒ”แƒขแƒ˜แƒก, แƒ™แƒแƒšแƒ˜แƒคแƒแƒ แƒœแƒ˜แƒ˜แƒก แƒฃแƒœแƒ˜แƒ•แƒ”แƒ แƒกแƒ˜แƒขแƒ”แƒขแƒ˜แƒก, แƒ‘แƒ”แƒ แƒ™แƒšแƒ˜แƒก, แƒชแƒ˜แƒฃแƒ แƒ˜แƒฎแƒ˜แƒก ETH, แƒ”แƒ™แƒแƒœแƒแƒ›แƒ˜แƒ™แƒ˜แƒก แƒฃแƒ›แƒแƒฆแƒšแƒ”แƒกแƒ˜ แƒกแƒ™แƒแƒšแƒ˜แƒก, แƒ™แƒแƒ แƒœแƒ”แƒ’แƒ˜ แƒ›แƒ”แƒšแƒแƒœแƒ˜แƒก แƒฃแƒœแƒ˜แƒ•แƒ”แƒ แƒกแƒ˜แƒขแƒ”แƒขแƒ˜แƒก, แƒแƒกแƒ”แƒ•แƒ” Yandex-แƒ˜แƒกแƒ แƒ“แƒ Meta-แƒก แƒ›แƒ™แƒ•แƒšแƒ”แƒ•แƒแƒ แƒ—แƒ แƒฏแƒ’แƒฃแƒคแƒ›แƒ แƒ’แƒแƒ›แƒแƒแƒฅแƒ•แƒ”แƒงแƒœแƒ แƒซแƒ แƒแƒ•แƒ˜แƒก แƒกแƒแƒฌแƒงแƒ˜แƒกแƒ˜ แƒ™แƒแƒ“แƒ˜ แƒ แƒ”แƒกแƒฃแƒ แƒกแƒ–แƒ” แƒ“แƒ˜แƒ“แƒ˜ แƒ”แƒœแƒแƒ‘แƒ แƒ˜แƒ•แƒ˜ แƒ›แƒแƒ“แƒ”แƒšแƒ”แƒ‘แƒ˜แƒก แƒ’แƒแƒกแƒแƒจแƒ•แƒ”แƒ‘แƒแƒ“. -แƒจแƒ”แƒ–แƒฆแƒฃแƒ“แƒฃแƒšแƒ˜ แƒกแƒ˜แƒกแƒขแƒ”แƒ›แƒ”แƒ‘แƒ˜. แƒ›แƒแƒ’แƒแƒšแƒ˜แƒ—แƒแƒ“, แƒซแƒ แƒแƒ•แƒ แƒ˜แƒซแƒšแƒ”แƒ•แƒ แƒจแƒ”แƒกแƒแƒซแƒšแƒ”แƒ‘แƒšแƒแƒ‘แƒแƒก แƒจแƒ”แƒฅแƒ›แƒœแƒแƒก ChatGPT แƒ“แƒ Copilot-แƒ˜แƒก แƒ›แƒกแƒ’แƒแƒ•แƒกแƒ˜ แƒคแƒฃแƒœแƒฅแƒชแƒ˜แƒ”แƒ‘แƒ˜, แƒฌแƒ˜แƒœแƒแƒกแƒฌแƒแƒ  แƒ’แƒแƒฌแƒ•แƒ แƒ—แƒœแƒ˜แƒšแƒ˜ OPT-175B แƒ›แƒแƒ“แƒ”แƒšแƒ˜แƒก แƒ’แƒแƒจแƒ•แƒ”แƒ‘แƒ˜แƒ—, แƒ แƒแƒ›แƒ”แƒšแƒ˜แƒช แƒ›แƒแƒ˜แƒชแƒแƒ•แƒก 175 แƒ›แƒ˜แƒšแƒ˜แƒแƒ แƒ“ แƒžแƒแƒ แƒแƒ›แƒ”แƒขแƒ แƒก, แƒฉแƒ•แƒ”แƒฃแƒšแƒ”แƒ‘แƒ แƒ˜แƒ• แƒ™แƒแƒ›แƒžแƒ˜แƒฃแƒขแƒ”แƒ แƒ–แƒ” NVIDIA RTX3090 แƒกแƒแƒ—แƒแƒ›แƒแƒจแƒ แƒ’แƒ แƒแƒคแƒ˜แƒ™แƒฃแƒšแƒ˜ แƒ‘แƒแƒ แƒแƒ—แƒ˜แƒ—, แƒ แƒแƒ›แƒ”แƒšแƒ˜แƒช แƒแƒฆแƒญแƒฃแƒ แƒ•แƒ˜แƒšแƒ˜แƒ 24 GB แƒ•แƒ˜แƒ“แƒ”แƒ แƒ›แƒ”แƒฎแƒกแƒ˜แƒ”แƒ แƒ”แƒ‘แƒ˜แƒ—. แƒ™แƒแƒ“แƒ˜ แƒ“แƒแƒฌแƒ”แƒ แƒ˜แƒšแƒ˜แƒ แƒžแƒ˜แƒ—แƒแƒœแƒจแƒ˜, แƒ˜แƒงแƒ”แƒœแƒ”แƒ‘แƒก PyTorch แƒฉแƒแƒ แƒฉแƒแƒก แƒ“แƒ แƒœแƒแƒฌแƒ˜แƒšแƒ“แƒ”แƒ‘แƒ Apache 2.0 แƒšแƒ˜แƒชแƒ”แƒœแƒ–แƒ˜แƒ˜แƒ—.

แƒ›แƒแƒกแƒจแƒ˜ แƒจแƒ”แƒ“แƒ˜แƒก แƒ‘แƒแƒขแƒ”แƒ‘แƒ˜แƒก แƒจแƒ”แƒฅแƒ›แƒœแƒ˜แƒก แƒ›แƒแƒ’แƒแƒšแƒ˜แƒ—แƒ˜ แƒกแƒ™แƒ แƒ˜แƒžแƒขแƒ˜, แƒ แƒแƒ›แƒ”แƒšแƒ˜แƒช แƒกแƒแƒจแƒฃแƒแƒšแƒ”แƒ‘แƒแƒก แƒ’แƒแƒซแƒšแƒ”แƒ•แƒ— แƒฉแƒแƒ›แƒแƒขแƒ•แƒ˜แƒ แƒ—แƒแƒ— แƒ”แƒ แƒ—-แƒ”แƒ แƒ—แƒ˜ แƒกแƒแƒฏแƒแƒ แƒแƒ“ แƒฎแƒ”แƒšแƒ›แƒ˜แƒกแƒแƒฌแƒ•แƒ“แƒแƒ›แƒ˜ แƒ”แƒœแƒ˜แƒก แƒ›แƒแƒ“แƒ”แƒšแƒ˜ แƒ“แƒ แƒ“แƒแƒฃแƒงแƒแƒ•แƒœแƒ”แƒ‘แƒšแƒ˜แƒ• แƒ“แƒแƒ˜แƒฌแƒงแƒแƒ— แƒ™แƒแƒ›แƒฃแƒœแƒ˜แƒ™แƒแƒชแƒ˜แƒ (แƒ›แƒแƒ’แƒแƒšแƒ˜แƒ—แƒแƒ“, แƒ‘แƒ แƒซแƒแƒœแƒ”แƒ‘แƒ˜แƒก โ€žpython apps/chatbot.py โ€” แƒ›แƒแƒ“แƒ”แƒšแƒ˜ facebook/opt-30b โ€” -แƒžแƒ แƒแƒชแƒ”แƒœแƒขแƒ˜ 0โ€œ แƒ’แƒแƒจแƒ•แƒ”แƒ‘แƒ˜แƒ—. 100 100 0 100 0โ€ ). แƒ แƒแƒ’แƒแƒ แƒช แƒกแƒแƒคแƒฃแƒซแƒ•แƒ”แƒšแƒ˜, แƒจแƒ”แƒ›แƒแƒ—แƒแƒ•แƒแƒ–แƒ”แƒ‘แƒฃแƒšแƒ˜แƒ Facebook-แƒ˜แƒก แƒ›แƒ˜แƒ”แƒ  แƒ’แƒแƒ›แƒแƒฅแƒ•แƒ”แƒงแƒœแƒ”แƒ‘แƒฃแƒšแƒ˜ แƒ“แƒ˜แƒ“แƒ˜ แƒ”แƒœแƒ˜แƒก แƒ›แƒแƒ“แƒ”แƒšแƒ˜แƒก แƒ’แƒแƒ›แƒแƒงแƒ”แƒœแƒ”แƒ‘แƒ, แƒ แƒแƒ›แƒ”แƒšแƒ˜แƒช แƒ’แƒแƒฌแƒ•แƒ แƒ—แƒœแƒ˜แƒšแƒ˜ แƒ˜แƒงแƒ BookCorpus-แƒ˜แƒก (10 แƒแƒ—แƒแƒกแƒ˜ แƒฌแƒ˜แƒ’แƒœแƒ˜), CC-Stories, Pile (OpenSubtitles, Wikipedia, DM Mathematics, HackerNews แƒ“แƒ แƒ.แƒจ.), Pushshift-แƒ˜แƒก แƒ™แƒแƒšแƒ”แƒฅแƒชแƒ˜แƒ”แƒ‘แƒ–แƒ”. io (Reddit แƒ›แƒแƒœแƒแƒชแƒ”แƒ›แƒ”แƒ‘แƒ–แƒ” แƒ“แƒแƒงแƒ แƒ“แƒœแƒแƒ‘แƒ˜แƒ—) แƒ“แƒ CCNewsV2 (แƒแƒฎแƒแƒšแƒ˜ แƒแƒ›แƒ‘แƒ”แƒ‘แƒ˜แƒก แƒแƒ แƒฅแƒ˜แƒ•แƒ˜). แƒ›แƒแƒ“แƒ”แƒšแƒ˜ แƒ›แƒแƒ˜แƒชแƒแƒ•แƒก แƒ“แƒแƒแƒฎแƒšแƒแƒ”แƒ‘แƒ˜แƒ— 180 แƒ›แƒ˜แƒšแƒ˜แƒแƒ แƒ“ แƒขแƒแƒ™แƒ”แƒœแƒก (800 GB แƒ›แƒแƒœแƒแƒชแƒ”แƒ›แƒก). แƒ›แƒแƒ“แƒ”แƒšแƒ˜แƒก แƒขแƒ แƒ”แƒœแƒ˜แƒœแƒ’แƒ–แƒ” แƒ“แƒแƒ˜แƒฎแƒแƒ แƒฏแƒ แƒ™แƒšแƒแƒกแƒขแƒ”แƒ แƒ˜แƒก แƒ›แƒฃแƒจแƒแƒแƒ‘แƒ˜แƒก 33 แƒ“แƒฆแƒ” 992 NVIDIA A100 80 GB GPU-แƒ˜แƒ—.

OPT-175B แƒ›แƒแƒ“แƒ”แƒšแƒ˜แƒก แƒ’แƒแƒจแƒ•แƒ”แƒ‘แƒ˜แƒกแƒแƒก แƒกแƒ˜แƒกแƒขแƒ”แƒ›แƒแƒ–แƒ” แƒ”แƒ แƒ—แƒ˜ NVIDIA T4 GPU (16GB), FlexGen-แƒ˜แƒก แƒซแƒ แƒแƒ•แƒ›แƒ แƒแƒฉแƒ•แƒ”แƒœแƒ แƒ›แƒฃแƒจแƒแƒแƒ‘แƒ 100-แƒฏแƒ”แƒ  แƒฃแƒคแƒ แƒ แƒกแƒฌแƒ แƒแƒคแƒแƒ“, แƒ•แƒ˜แƒ“แƒ แƒ” แƒแƒ“แƒ แƒ” แƒจแƒ”แƒ›แƒแƒ—แƒแƒ•แƒแƒ–แƒ”แƒ‘แƒฃแƒšแƒ˜ แƒ’แƒแƒ“แƒแƒฌแƒงแƒ•แƒ”แƒขแƒ˜แƒšแƒ”แƒ‘แƒ”แƒ‘แƒ˜, แƒ แƒแƒช แƒฃแƒคแƒ แƒ แƒฎแƒ”แƒšแƒ›แƒ˜แƒกแƒแƒฌแƒ•แƒ“แƒแƒ›แƒก แƒฎแƒ“แƒ˜แƒก แƒ›แƒกแƒฎแƒ•แƒ˜แƒšแƒ”แƒœแƒแƒ•แƒแƒœแƒ˜ แƒ›แƒแƒ“แƒ”แƒšแƒ”แƒ‘แƒ˜แƒก แƒ’แƒแƒ›แƒแƒงแƒ”แƒœแƒ”แƒ‘แƒแƒก แƒ“แƒ แƒกแƒแƒจแƒฃแƒแƒšแƒ”แƒ‘แƒแƒก แƒแƒซแƒšแƒ”แƒ•แƒก แƒ›แƒแƒ— แƒ›แƒฃแƒจแƒแƒแƒ‘แƒแƒก. แƒกแƒ˜แƒกแƒขแƒ”แƒ›แƒ”แƒ‘แƒ˜ แƒกแƒžแƒ”แƒชแƒ˜แƒแƒšแƒฃแƒ แƒ˜ แƒแƒ›แƒแƒฉแƒฅแƒแƒ แƒ”แƒ‘แƒšแƒ”แƒ‘แƒ˜แƒก แƒ’แƒแƒ แƒ”แƒจแƒ”. แƒแƒ›แƒแƒ•แƒ“แƒ แƒแƒฃแƒšแƒแƒ“, FlexGen-แƒก แƒจแƒ”แƒฃแƒซแƒšแƒ˜แƒ แƒ’แƒแƒแƒคแƒแƒ แƒ—แƒแƒ•แƒแƒก แƒ’แƒแƒ›แƒแƒ—แƒ•แƒšแƒ”แƒ‘แƒ˜แƒก แƒžแƒแƒ แƒแƒšแƒ”แƒšแƒ˜แƒ–แƒ”แƒ‘แƒ แƒ›แƒ แƒแƒ•แƒแƒšแƒ˜ GPU-แƒ˜แƒ—. แƒ›แƒแƒ“แƒ”แƒšแƒ˜แƒก แƒ–แƒแƒ›แƒ˜แƒก แƒจแƒ”แƒกแƒแƒ›แƒชแƒ˜แƒ แƒ”แƒ‘แƒšแƒแƒ“, แƒ“แƒแƒ›แƒแƒขแƒ”แƒ‘แƒ˜แƒ— แƒ’แƒแƒ›แƒแƒ˜แƒงแƒ”แƒœแƒ”แƒ‘แƒ แƒžแƒแƒ แƒแƒ›แƒ”แƒขแƒ แƒ˜แƒก แƒจแƒ”แƒ™แƒฃแƒ›แƒจแƒ•แƒ˜แƒก แƒกแƒฅแƒ”แƒ›แƒ แƒ“แƒ แƒ›แƒแƒ“แƒ”แƒšแƒ˜แƒก แƒฅแƒ”แƒจแƒ˜แƒ แƒ”แƒ‘แƒ˜แƒก แƒ›แƒ”แƒฅแƒแƒœแƒ˜แƒ–แƒ›แƒ˜.

แƒแƒ›แƒŸแƒแƒ›แƒแƒ“ FlexGen แƒ›แƒฎแƒแƒ แƒก แƒฃแƒญแƒ”แƒ แƒก แƒ›แƒฎแƒแƒšแƒแƒ“ OPT แƒ”แƒœแƒ˜แƒก แƒ›แƒแƒ“แƒ”แƒšแƒ”แƒ‘แƒก, แƒ›แƒแƒ’แƒ แƒแƒ› แƒ›แƒแƒ›แƒแƒ•แƒแƒšแƒจแƒ˜ แƒ“แƒ”แƒ•แƒ”แƒšแƒแƒžแƒ”แƒ แƒ”แƒ‘แƒ˜ แƒแƒกแƒ”แƒ•แƒ” แƒ’แƒ•แƒžแƒ˜แƒ แƒ“แƒ”แƒ‘แƒ˜แƒแƒœ, แƒ แƒแƒ› แƒ“แƒแƒแƒ›แƒแƒขแƒ”แƒ‘แƒ”แƒœ แƒ›แƒฎแƒแƒ แƒ“แƒแƒญแƒ”แƒ แƒแƒก BLOOM-แƒ˜แƒกแƒ—แƒ•แƒ˜แƒก (176 แƒ›แƒ˜แƒšแƒ˜แƒแƒ แƒ“แƒ˜ แƒžแƒแƒ แƒแƒ›แƒ”แƒขแƒ แƒ˜, แƒ›แƒฎแƒแƒ แƒก แƒฃแƒญแƒ”แƒ แƒก 46 แƒ”แƒœแƒแƒก แƒ“แƒ 13 แƒžแƒ แƒแƒ’แƒ แƒแƒ›แƒ˜แƒ แƒ”แƒ‘แƒ˜แƒก แƒ”แƒœแƒแƒก), CodeGen-แƒก (แƒจแƒ”แƒ˜แƒซแƒšแƒ”แƒ‘แƒ แƒ™แƒแƒ“แƒ˜แƒก แƒ’แƒ”แƒœแƒ”แƒ แƒ˜แƒ แƒ”แƒ‘แƒ 22 แƒžแƒ แƒแƒ’แƒ แƒแƒ›แƒ˜แƒ แƒ”แƒ‘แƒ˜แƒก แƒ”แƒœแƒแƒ–แƒ”) แƒ“แƒ GLM แƒ›แƒแƒ“แƒ”แƒšแƒ”แƒ‘แƒ˜. แƒ‘แƒแƒขแƒ—แƒแƒœ แƒ“แƒ˜แƒแƒšแƒแƒ’แƒ˜แƒก แƒ›แƒแƒ’แƒแƒšแƒ˜แƒ—แƒ˜, แƒ แƒแƒ›แƒ”แƒšแƒ˜แƒช แƒ“แƒแƒคแƒฃแƒซแƒœแƒ”แƒ‘แƒฃแƒšแƒ˜แƒ FlexGen-แƒ–แƒ” แƒ“แƒ OPT-30B แƒ›แƒแƒ“แƒ”แƒšแƒ–แƒ”:

แƒแƒ“แƒแƒ›แƒ˜แƒแƒœแƒ˜: แƒ แƒ แƒฐแƒฅแƒ•แƒ˜แƒ แƒ›แƒกแƒแƒคแƒšแƒ˜แƒแƒจแƒ˜ แƒงแƒ•แƒ”แƒšแƒแƒ–แƒ” แƒ›แƒแƒฆแƒแƒš แƒ›แƒ—แƒแƒก?

แƒแƒกแƒ˜แƒกแƒขแƒ”แƒœแƒขแƒ˜: แƒ”แƒ•แƒ”แƒ แƒ”แƒกแƒขแƒ˜.

แƒแƒ“แƒแƒ›แƒ˜แƒแƒœแƒ˜: แƒ›แƒ” แƒ•แƒ’แƒ”แƒ’แƒ›แƒแƒ• แƒ›แƒแƒ’แƒ–แƒแƒฃแƒ แƒแƒ‘แƒแƒก แƒฉแƒ•แƒ”แƒœแƒ˜ แƒฌแƒšแƒ˜แƒกแƒ—แƒแƒ•แƒ˜แƒกแƒ—แƒ•แƒ˜แƒก. แƒ แƒ แƒจแƒ”แƒ’แƒ•แƒ˜แƒซแƒšแƒ˜แƒ แƒ’แƒแƒ•แƒแƒ™แƒ”แƒ—แƒแƒ—?

แƒแƒกแƒ˜แƒกแƒขแƒ”แƒœแƒขแƒ˜: แƒ™แƒแƒ แƒ’แƒ˜, แƒแƒ แƒกแƒ”แƒ‘แƒแƒ‘แƒก แƒ›แƒ แƒแƒ•แƒแƒšแƒ˜ แƒ แƒแƒ›, แƒ แƒ˜แƒกแƒ˜ แƒ’แƒแƒ™แƒ”แƒ—แƒ”แƒ‘แƒแƒช แƒจแƒ”แƒ’แƒ˜แƒซแƒšแƒ˜แƒแƒ— แƒ—แƒฅแƒ•แƒ”แƒœแƒ˜ แƒฌแƒšแƒ˜แƒกแƒ—แƒแƒ•แƒ˜แƒกแƒ—แƒ•แƒ˜แƒก. แƒžแƒ˜แƒ แƒ•แƒ”แƒš แƒ แƒ˜แƒ’แƒจแƒ˜, แƒจแƒ”แƒ’แƒ˜แƒซแƒšแƒ˜แƒแƒ— แƒ™แƒแƒ แƒขแƒ˜แƒก แƒ—แƒแƒ›แƒแƒจแƒ˜. แƒ›แƒ”แƒแƒ แƒ”แƒช, แƒจแƒ”แƒ’แƒ˜แƒซแƒšแƒ˜แƒแƒ— แƒšแƒแƒจแƒฅแƒ แƒแƒ‘แƒแƒ–แƒ” แƒฌแƒแƒกแƒ•แƒšแƒ. แƒ›แƒ”แƒกแƒแƒ›แƒ”, แƒจแƒ”แƒ’แƒ˜แƒซแƒšแƒ˜แƒแƒ— แƒ›แƒฃแƒ–แƒ”แƒฃแƒ›แƒจแƒ˜ แƒฌแƒแƒกแƒ•แƒšแƒ.

แƒฌแƒงแƒแƒ แƒ: opennet.ru

แƒแƒฎแƒแƒšแƒ˜ แƒ™แƒแƒ›แƒ”แƒœแƒขแƒแƒ แƒ˜แƒก แƒ“แƒแƒ›แƒแƒขแƒ”แƒ‘แƒ