Ko te kaupapa OpenAI, e whakawhanake ana i nga kaupapa a te iwi i roto i te waahi o te matauranga hangai, kua whakaputa i nga whanaketanga e pa ana ki te punaha tohu korero Whisper. E kii ana mo te whaikorero i te reo Ingarihi ka whakaratohia e te punaha nga taumata pono me te tika o te mohiotanga aunoa tata ki te mohiotanga tangata. Ko te waehere mo te whakatinanatanga tohutoro i runga i te anga PyTorch me te huinga o nga tauira kua oti te whakangungu, kua rite mo te whakamahi, kua whakatuwherahia. Ka tuwhera te waehere i raro i te raihana MIT.
Hei whakangungu i te tauira, 680 mano haora o nga korero korero i whakamahia, i kohia mai i nga kohinga maha e hipoki ana i nga reo rereke me nga kaupapa kaupapa. Mo te 1/3 o nga korero korero e uru ana ki te whakangungu kei roto i nga reo ke atu i te reo Ingarihi. Ka tika te whakahaere a te punaha whakaaro i nga ahuatanga penei i te whakahua whakahua, te haruru papamuri, me te whakamahi i nga kupu hangarau. I tua atu i te tuhi korero ki roto i te tuhinga, ka taea hoki e te punaha te whakamaori i nga korero mai i tetahi reo ki te reo Ingarihi me te kite i te ahua o te whaikorero i te awa ororongo.
Ko nga tauira ka hangaia i roto i nga whakaaturanga e rua: he tauira mo te reo Ingarihi me te tauira reo maha, e tautoko ana hoki i nga reo Russian, Ukrainian me Belarusian. Ka huri, ka wehewehea ia tohu ki nga whiringa 5, he rereke te rahi me te maha o nga tawhā kua hipokina ki te tauira. Ko te nui o te rahi, ko te nui ake o te tika me te kounga o te mohiotanga, engari ko te teitei ake o nga whakaritenga mo te rahi o te mahara ataata GPU me te iti ake o te mahi. Hei tauira, kei roto i te waahanga iti rawa te 39 miriona tawhā me te 1 GB o te mahara ataata, me te nui rawa kei roto 1550 miriona tawhā me te 10 GB o te mahara ataata. Ko te kōwhiringa iti ko te 32 nga wa tere atu i te teitei.
Ka whakamahia e te punaha te hoahoanga whatunga neural Transformer, kei roto he encoder me te wetewaehere e pahekoheko ana tetahi ki tetahi. Ka pakaruhia te oro ki roto i nga wahanga 30-hekona, ka huri ki te tohutoro-log-Mel ka tukuna ki te encoder. Ka tukuna te putanga o te encoder ki te wewetewaehere, e tohu ana i te ahua o te tuhinga kua konatunatua ki nga tohu motuhake e taea ai, i roto i tetahi tauira whanui, ki te whakaoti rapanga penei i te rapunga reo, te kaute mo te wa o te whakahuatanga o nga kianga, te tuhi korero i roto reo rereke, me te whakamaoritanga ki te reo Ingarihi.
Source: opennet.ru