Otvoren kod za sintezu animacija pomoću neuronskih mreža

Grupa istraživača sa Šangajskog tehničkog sveučilišta objavila alat Impersonator, koji koristeći metode strojnog učenja simulira pokrete ljudi na statičkim slikama, kao i zamjenjuje odjeću, premješta u drugo okruženje i mijenja kut pod kojim je objekt vidljiv. Kod je napisan na Python jeziku
uz korištenje okvira PyTorch. Za izradu su također potrebni torchvision i CUDA Toolkit.

Otvoren kod za sintezu animacija pomoću neuronskih mreža

Alat prima dvodimenzionalnu sliku kao ulaz i sintetizira promijenjeni rezultat na temelju odabranog modela. Podržava tri varijante transformacija:
Stvaranje pokretnog objekta koji ponavlja pokrete na kojima je model bio treniran. Prijenos elemenata izgleda iz modela na objekt (na primjer, promjena odjeće). Generacija novog kuta (na primjer, sinteza slike u profilu na temelju fotografije sprijeda). Sve tri metode mogu se kombinirati, na primjer, može se generirati video iz fotografije koji simulira izvođenje složenog akrobatskog trika u drugoj odjeći.

Pogledajte video

Tijekom sinteze obavljaju se dodatne operacije isticanja objekta na fotografiji i formiranja nedostajućih elemenata pozadine prilikom premještanja. Model za neuronsku mrežu može se obučiti jednom i koristiti za različite transformacije. Za preuzimanje su dostupne gotovi modeli koji omogućuju neposrednu upotrebu alata bez prethodnog treninga. Za rad je potrebno GPU s veličinom memorije od najmanje 8GB.

Za razliku od metoda transformacije temeljenih na ključnim točkama koje opisuju poziciju tijela u dvodimenzionalnom prostoru, u Impersonatoru je poduzet pokušaj sinteze trodimenzionalne mreže (mesh) s opisom tijela, koristeći metode strojnog učenja.
Predložena metoda omogućava manipulacije uzimajući u obzir personalizirani oblik tijela i trenutnu pozu, modelirajući prirodne pokrete udova.

Otvoren kod za sintezu animacija pomoću neuronskih mreža

Kako bi se sačuvale izvorne informacije, kao što su teksture, stil, boje i prepoznatljivost lica, tijekom transformacije primjenjuje se generativna suparnička neuronska mreža (Liquid Warping GAN). Informacije o izvornoj objektu i parametri za njegovu točnu identifikaciju izvode se primjenom konvolucijske neuronske mreže.

Pogledajte video

Izvor: opennet.ru

Kupite pouzdan hosting za web stranice s DDoS zaštitom, VPS VDS servere 🔥 Kupite pouzdan hosting za web stranice s DDoS zaštitom, VPS VDS servere | ProHoster