PIFu ir mašīnmācīšanās sistēma personas 3D modeļa izveidošanai, pamatojoties uz 2D fotogrāfijām

Pētnieku grupa no vairākām Amerikas universitātēm publicēja projektu PIFu (Pixel-Aligned Implicit Function), kas ļauj izmantot mašīnmācīšanās metodes, lai izveidotu personas 3D modeli no viena vai vairākiem divdimensiju attēliem. Sistēma ļauj atjaunot sarežģītas apģērba iespējas, piemēram, kroku svārkus un papēžus, un dažādas frizūras, patstāvīgi atjaunojot tekstūru un formu projekcijā, no kuras veidots 3D modelis, neredzamās vietās. Lai uzlabotu galīgā 3D modeļa kvalitāti un detalizāciju, var izmantot vairākus attēlus no dažādiem leņķiem. Projekta kods ir rakstīts Python, izmantojot PyTorch ietvaru un izplata saskaņā ar MIT licenci.

PIFu - mašīnmācības sistēma personas 3D modeļa konstruēšanai, pamatojoties uz 2D fotogrāfijām

Neironu tīkls tiek izmantots kā avots trīsdimensiju izkārtojuma rekonstrukcijai, kas ļauj izvēlēties visticamāko formu un izgudrot slēptos elementus, sākot no modeļa, kas apmācīts uz dažādām esošo objektu versijām. Paralēli projektā tiek nodrošināts algoritms iegūtā tilpuma izkārtojuma saskaņošanai ar tekstūrām sniegtajos 2D attēlos, kas izlīdzina 3D attēla pikseļus atbilstoši to novietojumam uz XNUMXD objekta un ģenerē visticamāk trūkstošās faktūras. Jebkuru attēlu var iekodēt konvolucionālais neironu tīklspar
virsmas rekonstrukcijas lietišķā arhitektūra "Sakrauts smilšu pulkstenis", a
Tekstūras saskaņošanai tiek izmantots uz arhitektūru balstīts neironu tīkls CycleGAN.

PIFu - mašīnmācības sistēma personas 3D modeļa konstruēšanai, pamatojoties uz 2D fotogrāfijām

Gatavs apmācīts modelis, ko izmantojuši pētnieki pieejama ir pieejams bezmaksas lejupielādei, taču apmācībai izmantotie neapstrādātie dati paliek privāti, jo tie ir balstīti uz komerciāliem 3D skenējumiem. Var izmantot kā avotu modeļa paštrenēšanai 3D modeļu datu bāze cilvēki no projekta Renderpeople.

Avots: opennet.ru

Pievieno komentāru