Meta onder vuur na advertenties voor deepfake-app

Socialemediagigant Meta ligt opnieuw onder een vergrootglas nadat op het platform reclames werden verspreid voor software waarmee beelden van vrouwen zonder hun toestemming kunnen worden aangepast. Onder de getoonde promoties bevond zich een digitaal gemanipuleerd en expliciet videobeeld dat sterke gelijkenissen vertoonde met een bekende Amerikaanse politicus. De advertenties maakten gebruik van technologie om bestaande gezichten overtuigend te integreren in vervalste, niet-consensuele intimiteiten.

Toenemende zorgen rond misbruik van beeldgenererende software

Dit incident werpt een schril licht op de aanhoudende uitdagingen waar moderatieteams van grote internetplatforms voor staan bij het weren van schadelijke digitale content. Het ongeoorloofd bewerken van portretten van politici en andere publieke figuren met behulp van geavanceerde beeldtechnologie komt vaker voor en vormt een breder probleem binnen het digitale landschap. Critici wijzen er regelmatig op dat automatische filters vaak tekortschieten in het vroegtijdig opsporen van dergelijke schadelijke advertenties, wat vragen oproept over de effectiviteit van de handhaving van advertentieregels op commerciële platforms.

De kwestie toont aan hoe kwetsbaar online omgevingen zijn voor de inzet van synthetische media voor intimidatie en desinformatie. Terwijl de technologie om realistische nepfoto's en -video's te maken steeds laagdrempeliger wordt, worstelen techbedrijven zichtbaar met het vinden van een balans tussen vrije meningsuiting en de bescherming van gebruikers tegen misbruik van hun gelijkenis.