Onderzoek naar risico's van ChatGPT bij surveillancetaken
Uit een verkennend onderzoek blijkt dat systemen zoals ChatGPT mogelijk ingezet kunnen worden voor toezichttaken. Onderzoekers hebben een taxonomie opgesteld om de risico's van dit soort technologie in kaart te brengen.
Grote taalmodellen staan erom bekend dat ze op grote schaal functionele code en gedetailleerde instructies kunnen produceren. Omdat dergelijke technologieën op grote schaal toegankelijk zijn, groeit de zorg over de mogelijke toepassingen buiten de oorspronkelijke kaders, zoals bij het ondersteunen van toezicht en bewaking.
Risico's van AI bij toezicht
In een nieuwe casestudy hebben onderzoekers gekeken naar de risico's die ontstaan wanneer consumentensoftware wordt gebruikt voor surveillance-activiteiten. Zij kwamen tot een indeling van zeven categorieën waarin dit soort risico's zich kunnen manifesteren. Dit helpt om beter te begrijpen hoe geavanceerde taalmodellen misbruikt kunnen worden voor doeleinden die de privacy of veiligheid raken.
De opkomst van taalmodellen roept vaker vragen op over de keerzijde van brede toegankelijkheid. Waar generatieve AI door miljoenen mensen wordt gebruikt voor productiviteit en creativiteit, dwingt de technologie de wetenschap en beleidsmakers ook tot het onderzoeken van ongewenste neveneffecten. Het vaststellen van specifieke risicocategorieën is een stap in het reguleren en beveiligen van dit soort toepassingen.
Deze samenvatting is gebaseerd op een origineel artikel van arXiv (cs.AI). Lees het volledige, originele bericht bij de bron.
Lees het originele artikel