PIFu — systém strojového učení pro vytvoření 3D modelu člověka na základě 2D snímků

Skupina výzkumníků z několika amerických univerzit publikovala projekt PIFu (Pixel-Aligned Implicit Function), který umožňuje použít metody strojového učení k vytvoření 3D modelu člověka z jednoho nebo několika dvourozměrných obrazů. Systém dokáže replikovat složité varianty oblečení, jako jsou plisované sukně a boty na vysokém podpatku, a různé účesy, přičemž automaticky obnovuje texturu a tvar v oblastech, které jsou při vytváření 3D modelu neviditelné. Pro zvýšení kvality a detailnosti výsledného 3D modelu lze použít více obrázků z různých úhlů. Kód projektu je napsán v jazyce Python s využitím frameworku PyTorch a distribuováno je licencován pod MIT licencí.

PIFu - systém strojového učení pro vytváření 3D modelu člověka na základě 2D snímků

jako zdroj pro rekonstrukci objemového modelu se používáNeuronová síť, která umožňuje vybírat nejpravděpodobnější tvar a dovymýšlet skryté prvky na základě modelu školeného na různých variantách existujících objektů. Současně projekt poskytuje algoritmus pro přiřazení získaného objemového modelu k texturám na poskytnutých dvourozměrných obrazích, který vyrovnává pixely 2D obrázku podle jejich polohy na 3D objektu a generuje nejpravděpodobnější chybějící textury. Pro kódování obrazu lze použít jakoukoliv konvoluční neurální síť, pro
rekonstrukci povrchu byla použita architektura „Stacked hourglass«, a
pro přiřazení textur byla nasazena neurální síť založená na architektuře CycleGAN.

PIFu - systém strojového učení pro vytváření 3D modelu člověka na základě 2D snímků

Použitý připravený model výzkumníků je k dispozici je k dispozici pro volné stažení, ale zdrojová data, na kterých bylo školení provedeno, zůstávají uzavřená, protože jsou založena na výsledcích komerčního 3D skenování. Jako zdroj pro samostatné školení modelu může být použita databáze 3D modelů lidí od projektu Renderpeople.

Přehrát video

Zdroj: opennet.ru

Koupit spolehlivý hosting pro webové stránky s ochranou proti DDoS, VPS VDS servery 🔥 Koupit spolehlivý hosting pro webové stránky s ochranou proti DDoS, VPS VDS servery | ProHoster