Ọrụ OpenAI, nke na-emepụta ọrụ ọha na eze na ngalaba nke ọgụgụ isi, ebipụtala mmepe metụtara usoro njirimara okwu Whisper. A na-azọrọ na maka ikwu okwu n'asụsụ Bekee usoro ahụ na-enye ọkwa nke ntụkwasị obi na izi ezi nke njirimara akpaaka dị nso na njirimara mmadụ. Koodu maka mmejuputa nrụtụ aka dabere na usoro PyTorch na ụdị a zụrụlarị, dị njikere maka ojiji, emepeela. Koodu emeghere n'okpuru ikike MIT.
Iji zụọ ihe nlereanya ahụ, a na-eji data okwu 680 puku awa, anakọtara site na ọtụtụ nchịkọta na-ekpuchi asụsụ dị iche iche na mpaghara isiokwu. Ihe dị ka 1/3 nke data okwu metụtara ọzụzụ dị n'asụsụ ndị ọzọ karịa Bekee. Usoro a na-atụ aro na-edozi ọnọdụ ndị dị ka ịkpọpụta ụda olu, mkpọtụ ndabere, na iji teknụzụ teknụzụ. Na mgbakwunye na ịsụgharị okwu n'ime ederede, usoro ahụ nwekwara ike ịtụgharị okwu site na asụsụ ọ bụla gaa na bekee ma chọpụta ọdịdị okwu dị na iyi ọdịyo.
A na-emepụta ụdị ndị ahụ na ihe nnọchianya abụọ: ihe nlereanya maka asụsụ Bekee na ụdị asụsụ dị iche iche, nke na-akwadokwa asụsụ Russian, Ukraine na Belarusian. N'aka nke ya, a na-ekewa ihe nnọchiteanya ọ bụla n'ime nhọrọ 5, dị iche na nha na ọnụ ọgụgụ nke parampat kpuchie na ihe nlereanya ahụ. Ọnụ ọgụgụ buru ibu, ka izi ezi na njirimara mara mma dịkwuo ukwuu, mana ọ bụkwa ihe dị elu chọrọ maka nha nke ebe nchekwa vidiyo GPU na arụmọrụ dị ala. Dịka ọmụmaatụ, nhọrọ kacha nta gụnyere 39 nde paramita ma na-achọ 1 GB nke ebe nchekwa vidiyo, na nke kachasị gụnyere 1550 nde paramita ma chọọ 10 GB nke ebe nchekwa vidiyo. Nhọrọ kacha nta bụ ugboro 32 ngwa ngwa karịa nke kacha.
Sistemu na-eji ihe owuwu netwọkụ neural Transformer, nke gụnyere ihe ngbanwe na ihe ngbanwe nke na-emekọrịta ihe. A na-akụrisị ọdịyo a n'ime nkeji iri atọ, nke agbanwere ka ọ bụrụ log-Mel spectrogram ma zigara ya na koodu ntinye. A na-ezigara mmepụta nke ihe ngbanwe ahụ na onye na-emepụta ihe, nke na-ebu amụma ihe nnọchiteanya ederede jikọtara ya na akara ngosi pụrụ iche nke na-enye ohere, n'otu ụdị n'ozuzu, iji dozie nsogbu ndị dị ka nchọpụta asụsụ, na-aza ajụjụ maka usoro oge nke ịkpọ okwu nkebiokwu, ntụgharị okwu na asụsụ dị iche iche, na ntụgharị asụsụ Bekee.
isi: opennet.ru