GitHub avser att förbjuda publicering av projekt för att skapa deepfakes

GitHub har publicerat ändringar i reglerna som definierar policyn för publicering av projekt som kan användas för att skapa falskt multimediainnehåll med avsikt att begå pornografi och desinformation. Ändringarna är för närvarande i utkaststadium, tillgängliga för diskussion under 30 dagar (till den 20 maj).

Ett stycke har lagts till i användarvillkoren för GitHub-tjänsten som förbjuder publicering av projekt som möjliggör syntes och manipulation av multimediainnehåll för att skapa intima bilder utan samtycke (NCII) och innehåll som syftar till att vilseleda eller sprida desinformation. Förbudet gäller också projekt som uppmanar, främjar och stödjer sådana system.

Som anledning till förbudet nämns försök att använda artificiell intelligenssystem som kan generera realistiska bilder, ljud och video, inte bara för kreativitet utan också för missbruk, såsom skapande av deepfakes och organisering av skräppostsamtal. Samtidigt avser företrädare för GitHub att vara toleranta mot projekt med dubbel användning som inte direkt är avsedda för missbruk och inte godkänner skadlig användning, men som potentiellt kan utnyttjas av illvilliga aktörer.

Källa: opennet.ru