Yandex ha rilasciato in accesso aperto il modello linguistico YandexGPT-5-Lite
L'architettura del nuovo modello linguistico assomiglia a Llama o Qwen, ma è stata completamente addestrata da zero. La somiglianza consente di utilizzare lo stesso strumento. La versione Pretrain del grande modello linguistico YandexGPT 5 Lite presenta 8B parametri con una lunghezza del contesto di 32k token. Durante l'addestramento del modello, particolare attenzione è stata prestata alla lingua russa, con materiali in russo che hanno costituito oltre il 70% del dataset. Il modello superiore YandexGPT 5 […]
