Facebook nam uiteindelijk de beslissing om iets dat lange tijd uit zijn sociale netwerk zou verdwijnen te verbieden vanwege de problemen die het voor iedereen oplevert.
Facebook heeft uiteindelijk besloten om de publicatie van deepfake-video’s binnen het sociale netwerk te verbieden, dat wil zeggen video’s waarin het gezicht, of hoofd, van een persoon over het gezicht/hoofd en lichaam van een andere persoon heen wordt gelegd.
In dezelfde mate zijn ook videoclips verboden waarin het gezicht van een persoon digitaal wordt gemanipuleerd zodat de bewegingen van de mond van die persoon passen in een vervalste geluidsachtergrond, waardoor de suggestie wordt gewekt dat die persoon iets zegt dat hij niet daadwerkelijk heeft gezegd.
Om dit soort video’s te maken wordt gebruik gemaakt van kunstmatige intelligentie, en Facebook zal zijn eigen systemen gebruiken om de video’s op te sporen die zo zijn gemaakt dat ze de wereld kunnen misleiden.
Facebook heeft echter nog geen volledige beslissing genomen, omdat de videoclips die parodieën zijn niet verboden zijn, en in veel ervan is de werkelijkheid vervalst, maar op een manier die zelfs gewone mensen misleidt.
Facebook heeft de wijziging alleen doorgevoerd omdat de Amerikaanse autoriteiten de publicatie van deepfake-materiaal op websites willen verbieden, vooral omdat de Amerikaanse presidentsverkiezingen in aantocht zijn, en Donald Trump een favoriet doelwit is van dit soort inhoud.
