Avatud kood animatsiooni sünteesiks, kasutades närvivõrke

Shanghai Tehnikaülikooli teadlaste rühm опубликовала tööriistad Imperaator, mis võimaldab masinõppemeetodite abil staatiliste kujutiste abil inimeste liikumist simuleerida, samuti riideid välja vahetada, teise keskkonda üle kanda ja objekti nähtavuse nurka muuta. Kood on kirjutatud Pythonis
raamistikku kasutades PyTorch. Nõuab ka kokkupanek tõrvikuvisioon ja CUDA tööriistakomplekt.

Avatud kood animatsiooni sünteesiks, kasutades närvivõrke

Tööriistakomplekt saab sisendiks kahemõõtmelise pildi ja sünteesib valitud mudeli alusel muudetud tulemuse. Toetatud on kolm teisendusvalikut:
Liikuva objekti loomine, mis järgib neid liigutusi, millel modelli treeniti. Välimuse elementide ülekandmine modellilt esemele (näiteks riiete vahetus). Uue nurga genereerimine (näiteks profiilipildi süntees täisnäofoto põhjal). Kõiki kolme meetodit saab kombineerida, näiteks saab fotost genereerida video, mis simuleerib keeruka akrobaatilise triki sooritamist erinevates riietes.

Sünteesiprotsessi käigus sooritatakse samaaegselt fotol oleva objekti valimise ja liikumisel puuduvate taustaelementide moodustamise toimingud. Närvivõrgu mudelit saab ühe korra treenida ja kasutada erinevateks teisendusteks. Laadimiseks saadaval valmismudelid, mis võimaldavad tööriistu ilma eelkoolituseta kohe kasutada. Töötamiseks on vaja vähemalt 8 GB mälumahuga GPU-d.

Erinevalt teisendusmeetoditest, mis põhinevad teisendamisel põhipunktide järgi, mis kirjeldavad keha asukohta kahemõõtmelises ruumis, üritab Impersonator masinõppe meetodeid kasutades sünteesida keha kirjeldusega kolmemõõtmelist võrku.
Kavandatav meetod võimaldab teha manipulatsioone, võttes arvesse isikupärastatud kehakuju ja hetkeasendit, simuleerides jäsemete loomulikke liigutusi.

Avatud kood animatsiooni sünteesiks, kasutades närvivõrke

Algse teabe, nagu tekstuurid, stiil, värvid ja näotuvastus, säilitamiseks transformatsiooniprotsessi ajal, generatiivne vastandlik närvivõrk (Vedeliku koolutamine GAN). Rakenduse abil saadakse teave lähteobjekti ja selle täpse tuvastamise parameetrite kohta konvolutsiooniline närvivõrk.


Allikas: opennet.ru

Lisa kommentaar