Ua tatala le fa'ailoga mo le fa'ailoaina o le tautala ma le fa'aliliuga

O le poloketi OpenAI, o loʻo atiaʻe galuega faʻapitoa i le matata o le atamai faʻapitoa, ua faʻasalalauina atinaʻe e fesoʻotaʻi ma le Whisper speech recognition system. Fai mai e faapea mo le tautala i le gagana Peretania o le faiga e maua ai le maualuga o le faatuatuaina ma le saʻo o le iloa otometi latalata i le iloa e tagata. O le code mo le faʻatinoga o faʻamatalaga e faʻavae i luga o le PyTorch framework ma se seti o faʻataʻitaʻiga ua uma ona aʻoaʻoina, sauni mo le faʻaaogaina, ua tatalaina. O lo'o tatala le code i lalo ole laisene MIT.

Ina ia aʻoaʻoina le faʻataʻitaʻiga, 680 afe itula o faʻamatalaga tautala na faʻaaogaina, na aoina mai le tele o aoina e aofia ai gagana eseese ma mataupu autu. E tusa ma le 1/3 o faʻamatalaga tautala e aofia i aʻoaʻoga o loʻo i gagana e ese mai le Igilisi. O le faiga fa'atonu e fa'atautaia sa'o tulaga e pei o le fa'aleaogaina o le faaleoga, leo i tua, ma le fa'aogaina o upu fa'apitoa. E le gata i le tusiaina o le tautala i totonu o tusitusiga, e mafai foi e le faiga ona faaliliu le tautala mai soo se gagana i le Igilisi ma iloa ai foliga o le tautala i le leo leo.

O faʻataʻitaʻiga e faʻavaeina i ni faʻaaliga se lua: o se faʻataʻitaʻiga mo le gagana Peretania ma se faʻataʻitaʻiga gagana, lea e lagolagoina ai gagana Rusia, Ukrainian ma Belarusian. I le isi itu, o faʻataʻitaʻiga taʻitasi e vaevaeina i 5 filifiliga, eseese i le tele ma le numera o faʻamaufaʻailoga o loʻo ufiufi i le faʻataʻitaʻiga. O le tele o le tele, o le sili atu lea o le saʻo ma le lelei o le faʻaalia, ae o le maualuga foi o manaʻoga mo le tele o le GPU vitio manatua ma le maualalo o le faʻatinoga. Mo se faʻataʻitaʻiga, o le laʻititi laʻititi e aofia ai le 39 miliona taʻaloga ma manaʻomia le 1 GB o le manatua o vitio, ma le maualuga e aofia ai le 1550 miliona faʻasologa ma manaʻomia le 10 GB o le manatua o vitio. Ole filifiliga pito maualalo ole 32 taimi sili atu nai lo le maualuga.

O lo'o fa'aogaina e le faiga le fausaga o feso'ota'iga neural Transformer, lea e aofia ai le encoder ma le decoder e fegalegaleai le tasi ma le isi. O le leo e malepe i lalo i le 30-lua pusi, lea e liua i se log-Mel spectrogram ma auina atu i le encoder. O le gaosiga o le encoder e auina atu i le decoder, lea e vavalo ai se faʻatusa o tusitusiga faʻafefiloi ma faʻailoga faʻapitoa e mafai ai, i se tasi faʻataʻitaʻiga lautele, e foia ai faʻafitauli e pei o le suʻeina o le gagana, faʻamaumauga mo le faasologa o le faʻauigaina o fuaitau, faʻaliliuga o le tautala i totonu. gagana eseese, ma le faaliliuga i le gagana Peretania.

puna: opennet.ru