OpenAI blokkeert Russisch netwerk voor beïnvloedingscampagne
OpenAI heeft accounts verwijderd die ChatGPT inzetten voor een Russische beïnvloedingscampagne in het Westen. De operatie verspreidde pro-Kremlinstandpunten en kritiek op westerse overheden via socialemediakanalen.
Ontwikkelaar OpenAI heeft ingegrepen tegen een netwerk dat kunstmatige intelligentie misbruikte voor het verspreiden van politieke beïnvloeding. Via VPN-verbindingen werd toegang gezocht tot de taalmodellen om online berichten te genereren. Daarbij werd onder meer een fictief instituut opgevoerd om kritische content over de Europese Unie en de Duitse politiek te verspreiden.
Risico op opschaling
Hoewel het bereik van deze specifieke operatie beperkt bleef, waarschuwt het bedrijf dat de gebruikte infrastructuur potentieel schaalbaar is. Grote taalmodellen worden vaker doelwit van statelijke actoren die geautomatiseerde content willen inzetten voor desinformatiecampagnes.
Het tegengaan van misbruik is een doorlopende uitdaging voor leveranciers van generatieve AI. Beveiligingsteams speuren naar patronen die duiden op gecoördineerde beïnvloeding om zo misbruik van de technologie vroegtijdig te stoppen.
Deze samenvatting is gebaseerd op een origineel artikel van The Decoder. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel