Avoin koodi animaatiosynteesiä varten hermoverkkojen avulla

Ryhmä tutkijoita Shanghain teknisestä yliopistosta julkaistu työkaluja Imitoija, jonka avulla koneoppimismenetelmien avulla voidaan simuloida ihmisten liikkeitä staattisten kuvien avulla sekä vaihtaa vaatteita, siirtää niitä toiseen ympäristöön ja muuttaa kulmaa, josta kohde näkyy. Koodi on kirjoitettu Pythonilla
käyttämällä kehystä PyTorch. Myös kokoonpano vaatii soihtunäkö ja CUDA Toolkit.

Avoin koodi animaatiosynteesiä varten hermoverkkojen avulla

Työkalusarja vastaanottaa kaksiulotteisen kuvan syötteenä ja syntetisoi muokatun tuloksen valitun mallin perusteella. Kolme muunnosvaihtoehtoa tuetaan:
Liikkuvan kohteen luominen, joka seuraa liikkeitä, joilla mallia on harjoiteltu. Ulkonäön elementtien siirtäminen mallista esineeseen (esimerkiksi vaatteiden vaihto). Uuden kuvakulman luominen (esimerkiksi profiilikuvan synteesi koko kasvokuvan perusteella). Kaikki kolme menetelmää voidaan yhdistää, esimerkiksi voit luoda valokuvasta videon, joka simuloi monimutkaisen akrobaattisen tempun suorittamista eri vaatteissa.

Synteesiprosessin aikana suoritetaan samanaikaisesti valokuvan kohteen valinta ja puuttuvien taustaelementtien muodostaminen liikkuessa. Neuroverkkomallia voidaan harjoitella kerran ja käyttää erilaisiin muunnoksiin. Lataamista varten saatavilla valmiita malleja, joiden avulla voit käyttää työkaluja välittömästi ilman esikoulutusta. Toimiakseen tarvitaan grafiikkasuoritin, jonka muistin koko on vähintään 8 Gt.

Toisin kuin muunnosmenetelmät, jotka perustuvat muuntamiseen avainpisteillä, jotka kuvaavat kehon sijaintia kaksiulotteisessa avaruudessa, Impersonator yrittää syntetisoida kolmiulotteisen meshin kehon kuvauksen kanssa koneoppimismenetelmillä.
Ehdotettu menetelmä mahdollistaa yksilöllisen vartalon muodon ja nykyisen asennon huomioon ottavat manipulaatiot, jotka simuloivat raajojen luonnollisia liikkeitä.

Avoin koodi animaatiosynteesiä varten hermoverkkojen avulla

Säilyttääksesi alkuperäiset tiedot, kuten tekstuurit, tyylin, värit ja kasvojentunnistuksen muutosprosessin aikana, generatiivinen kontradiktorinen neuroverkko (Liquid Warping GAN). Tietoa lähdeobjektista ja sen tarkan tunnistamisen parametreista poimitaan soveltamalla konvoluutiohermoverkko.


Lähde: opennet.ru

Lisää kommentti