ΠΡΡ ΠΈΡΠ΅ΠΊΡΡΡΠ° Π½ΠΎΠ²ΠΎΠΉ ΡΠ·ΡΠΊΠΎΠ²ΠΎΠΉ ΠΌΠΎΠ΄Π΅Π»ΠΈ ΠΏΠΎΡ ΠΎΠΆΠ° Π½Π° Llama ΠΈΠ»ΠΈ Qwen, Π½ΠΎ ΠΎΠ½Π° ΠΎΠ±ΡΡΠ°Π»Π°ΡΡ ΠΏΠΎΠ»Π½ΠΎΡΡΡΡ Ρ Π½ΡΠ»Ρ. ΠΠΎΡ ΠΎΠΆΠ΅ΡΡΡ ΠΏΠΎΠ·Π²ΠΎΠ»ΡΠ΅Ρ ΠΈΡΠΏΠΎΠ»ΡΠ·ΠΎΠ²Π°ΡΡ ΡΠΎΡ ΠΆΠ΅ ΠΈΠ½ΡΡΡΡΠΌΠ΅Π½ΡΠ°ΡΠΈΠΉ. Pretrain-Π²Π΅ΡΡΠΈΡ Π±ΠΎΠ»ΡΡΠΎΠΉ ΡΠ·ΡΠΊΠΎΠ²ΠΎΠΉ ΠΌΠΎΠ΄Π΅Π»ΠΈ YandexGPT 5 Lite Π½Π° 8B ΠΏΠ°ΡΠ°ΠΌΠ΅ΡΡΠΎΠ² Ρ Π΄Π»ΠΈΠ½ΠΎΠΉ ΠΊΠΎΠ½ΡΠ΅ΠΊΡΡΠ° 32k ΡΠΎΠΊΠ΅Π½ΠΎΠ². ΠΡΠΈ ΠΎΠ±ΡΡΠ΅Π½ΠΈΠΈ ΠΌΠΎΠ΄Π΅Π»ΠΈ ΠΎΡΠΎΠ±ΠΎΠ΅ Π²Π½ΠΈΠΌΠ°Π½ΠΈΠ΅ ΡΠ΄Π΅Π»ΡΠ»ΠΎΡΡ ΡΡΡΡΠΊΠΎΠΌΡ ΡΠ·ΡΠΊΡ, ΠΌΠ°ΡΠ΅ΡΠΈΠ°Π»Ρ Π½Π° ΡΡΡΡΠΊΠΎΠΌ ΡΠΎΡΡΠ°Π²ΠΈΠ»ΠΈ Π±ΠΎΠ»Π΅Π΅ 70% Π΄Π°ΡΠ°ΡΠ΅ΡΠ°.
Π‘ΡΠ°ΡΡΠ°Ρ ΠΌΠΎΠ΄Π΅Π»Ρ YandexGPT 5 Π΄ΠΎΡΡΡΠΏΠ½Π° Π² ΠΠ»ΠΈΡΠ΅ ΠΈ Π½Π° ΡΠ°ΠΉΡΠ΅ Π―Π½Π΄Π΅ΠΊΡΠ°, Π½ΠΎ ΠΎΠ½Π° Π² ΠΎΡΠΊΡΡΡΡΠΉ Π΄ΠΎΡΡΡΠΏ Π²ΡΠ»ΠΎΠΆΠ΅Π½Π° Π½Π΅ Π±ΡΠ΄Π΅Ρ.
Π ΡΠ²ΠΎΠ΅ΠΉ ΠΊΠ°ΡΠ΅Π³ΠΎΡΠΈΠΈ ΠΌΠΎΠ΄Π΅Π»Ρ Π΄ΠΎΡΡΠΈΠ³Π°Π΅Ρ ΠΏΠ°ΡΠΈΡΠ΅ΡΠ° Ρ ΠΌΠΈΡΠΎΠ²ΡΠΌΠΈ SOTA ΠΏΠΎ ΡΡΠ΄Ρ ΠΊΠ»ΡΡΠ΅Π²ΡΡ Π±Π΅Π½ΡΠΌΠ°ΡΠΊΠΎΠ² Π΄Π»Ρ pretrain-ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ, Π° ΠΏΠΎ ΠΌΠ½ΠΎΠ³ΠΈΠΌ Π΄ΡΡΠ³ΠΈΠΌ β ΠΏΡΠ΅Π²ΠΎΡΡ ΠΎΠ΄ΠΈΡ ΠΈΡ . ΠΠ°ΠΏΡΠΈΠΌΠ΅Ρ, ΠΏΠΎ ΡΠ΅Π·ΡΠ»ΡΡΠ°ΡΠ°ΠΌ Π²Π½ΡΡΡΠ΅Π½Π½Π΅Π³ΠΎ ΡΠ»Π΅ΠΏΠΎΠ³ΠΎ ΠΏΠΎΠΏΠ°ΡΠ½ΠΎΠ³ΠΎ ΡΡΠ°Π²Π½Π΅Π½ΠΈΡ (side-by-side) Π΄Π»Ρ ΡΠΈΡΠΎΠΊΠΎΠ³ΠΎ ΠΏΠΎΡΠΎΠΊΠ° Π·Π°ΠΏΡΠΎΡΠΎΠ² YandexGPT 5 Pro ΠΏΡΠ΅Π²ΠΎΡΡ ΠΎΠ΄ΠΈΡ YandexGPT 4 Pro Π² 67% ΡΠ»ΡΡΠ°Π΅Π² ΠΈ Π½Π΅ ΡΡΡΡΠΏΠ°Π΅Ρ GPT-4o.
ΠΡΡΠΎΡΠ½ΠΈΠΊ: linux.org.ru