Facebook: Фалшивите акаунти вече използват AI за създаване на снимки

Представители на Facebook обявиха разследване, което доведе до блокиране на стотици фалшиви акаунти от САЩ, Виетнам и Грузия, които са били използвани като част от мащабни кампании за манипулиране на общественото мнение в социалните мрежи Facebook и Instagram.

Отбелязва се, че тези акаунти са използвали снимки, създадени с помощта на технологии за изкуствен интелект, което прави изключително трудно разпознаването на измама с просто око. Това съобщи Натаниел Глейчър, ръководител на киберсигурността във Facebook.

Блокирани са общо 610 акаунта, 89 страници и 156 групи в социалната мрежа Facebook, както и 72 акаунта в Instagram. Администрацията на Facebook свързва повечето от блокираните акаунти с Epoch Media Group, която издава консервативното издание The Epoch Times.

Отбелязва се, че като част от кампанията са похарчени около 9 милиона долара за реклама в социалните мрежи.Съдържанието, публикувано чрез фалшиви акаунти, е предназначено главно за потребители от САЩ и Виетнам.

Освен това разработчиците идентифицираха и блокираха доста голяма мрежа от фалшиви акаунти в Грузия. Той включва 39 акаунта и повече от 300 страници. Предполага се, че тази мрежа е свързана с грузинското правителство и целта й е била да формира положително мнение за сегашното правителство и да критикува опозиционните партии.

Facebook казва, че откриването на фалшиви акаунти показва как се развиват инструментите, използвани за дезинформация и манипулиране на общественото мнение. Снимките за фалшиви профили са създадени с помощта на алгоритми, базирани на невронни мрежи с машинно обучение. Представител на Facebook обаче отбеляза, че създадените по този начин снимки не пречат на автоматизираните системи на компанията да идентифицират фалшиви акаунти, тъй като този процес се основава на анализ на поведението на акаунта.

Източник: 3dnews.ru